Sam Altman și Elon Musk au susținut un apel al CEO-ului Anthropic, Dario Amodei, de a „încetini ritmul" dezvoltării IA, după ce acesta a avertizat că un roi de IA ar putea deveni capabil să „preia controlul asupra întregului internet" într-un an. Într-o rară manifestare de unitate, liderii tech rivali au susținut apelul fondatorului și directorului executiv al companiei de IA Anthropic, care a urmat unei serii de avertismente din partea cercetătorilor în IA săptămâna trecută. Într-un eseu, Amodei și-a expus gândurile despre „de ce industria IA ar trebui să încetinească", cu un plan în trei părți, începând cu acordarea de acces constant monitorilor independenți la procesele de cercetare ale dezvoltatorilor. Amodei a spus că „construirea [IA] prea repede este nesăbuită" și s-a temut că, după ce sute de agenți OpenAI au spart site-ul Hugging Face în această vară, un roi cu capacități mai mari, dar similar nealiniat, ar putea cauza daune de sute de miliarde de dolari prin „preluarea controlului asupra întregului internet cu un botnet persistent". Unii experți în IA au contestat acest lucru ca nefiind deosebit de plauzibil și au spus că ar trebui tratat cu scepticism. Musk, fondatorul Tesla și SpaceX, a răspuns la planul de încetinire al lui Amodei cu o postare pe X: „Dario are dreptate." El a spus: „Am tras un semnal de alarmă cu privire la IA de mult timp" și a făcut referire la o postare din 2014 în care spunea: „Trebuie să fim extrem de precauți cu IA. Potențial mai periculoasă decât armele nucleare." Apelul lui Amodei vine în timp ce Anthropic se pregătește să se listeze pe piața bursieră din SUA, în ceea ce se așteaptă să fie cea mai mare ofertă publică inițială din toate timpurile. Se așteaptă să înceapă în curând marketingul pentru IPO-ul său planificat de peste 2 trilioane de dolari (1,5 trilioane de lire sterline). Vizualizați imaginea pe ecran completDe la stânga la dreapta: Elon Musk, Dario Amodei și Sam Altman. Fotografie: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, CEO-ul OpenAI, a răspuns la comentariile lui Amodei sâmbătă. „Sunt de acord cu Dario că trebuie să ritmăm frontiera", a spus el într-o postare pe X. „Angajamentul de a avea evaluatori independenți cu acces similar angajaților este o idee excelentă și vom face același lucru. Vom avea mai multe de împărtășit în curând." El a spus, de asemenea, că OpenAI nu va intra pe piața bursieră în 2026, invocând preocupări de siguranță legate de inteligența artificială. „Chiar cred că, având în vedere tot ce se întâmplă cu siguranța, chiar acum ar fi un moment nechibzuit să intrăm pe piața bursieră și nu simțim presiune în acest sens", i-a declarat Altman revistei Fortune. Întrebat de ce el, Amodei, Musk și directorii executivi ai Meta și Google nu s-au așezat și nu au ajuns „pe aceeași lungime de undă" cu privire la o încetinire colectivă, el a spus: „Cred că asta se va întâmpla." IPO-ul OpenAI nu va avea loc în 2026 pe fondul temerilor legate de siguranța IA, spune Sam AltmanCitiți mai multDemis Hassabis, co-fondator și președinte al Google Deep Mind, a spus de asemenea: „Detaliile trebuie elaborate, dar direcția este corectă pentru a face față acestui moment critic." Planul lui Amodei urmărește o derogare din partea guvernului SUA pentru a permite companiilor de IA de frontieră să se coordoneze fără a fi pedepsite pentru coluziune anticoncurențială. Dar David Sacks, co-președinte al consiliului de consilieri al lui Donald Trump pentru știință și tehnologie, a spus: „Nu vă mai prefaceți că aveți nevoie de permisiunea altcuiva... Nu vă mai prefaceți că motivația de a încetini este pur altruistă. Vă confruntați cu o expunere masivă la răspunderea pentru produs dacă produsele voastre permit un atac cibernetic cu adevărat dăunător." David Krueger, profesor de IA, activist pentru siguranță și fost director fondator al Institutului de Securitate a IA al guvernului britanic, a spus: „Acest plan nu reduce riscul la un nivel acceptabil, iar Dario este atent să nu spună că ar face-o." Regele Charles se pregătește între timp să se întâlnească săptămâna aceasta cu figuri de frunte din cele mai proeminente companii de IA pentru a-i întreba cum poate fi dezvoltată tehnologia pentru „binele umanității". El speră că discuțiile, care vor avea loc în Scoția, vor duce la o „înțelegere mai largă" a „responsabilităților" dezvoltării IA, a relatat Sunday TiO sursă regală pentru ziar: „Regele este acolo pentru a convoca, a asculta și a încuraja aceste discuții și pentru a pune întrebarea: «Cum dezvoltăm IA pentru binele umanității?»"
Jensen Huang, directorul executiv al Nvidia, Hassabis, Niccolo de Masi, președintele și directorul executiv al IonQ, și Paolo Benanti, consilier al papei în probleme de IA și etică tehnologică, sunt așteptați să participe la evenimentul supravegheat de Fundația Ditchley, care a elaborat un proiect de cartă pentru liderii din IA.
Cercetătorul OpenAI Aidan McLaughlin a numit eseul lui Amodei „excelent" și a spus că este de acord „practic cu fiecare cuvânt."
Amodei a spus că compania sa se va angaja „unilateral" la primul dintre pași, spunând că Anthropic va oferi „evaluatorilor terți acces permanent, la nivel de angajat, la sistemele noastre, astfel încât să poată verifica respectarea măsurilor noastre de siguranță, să raporteze incidentele și să evalueze alinierea modelelor în timpul antrenării."
Un număr tot mai mare de legislatori americani cer noi reguli pentru guvernarea sistemelor de IA după cazuri de agenți de IA care au devenit incontrolabili și au spart sisteme externe și cercetători în siguranța IA care au demisionat din companiile lor din cauza preocupărilor legate de riscurile tehnologiei. Politicienii, atât democrați, cât și republicani, au reacționat cu alarmă și cereri de mai multe acțiuni. În weekend, New York Times a relatat că Barack Obama i-a îndemnat în privat joi pe democrați să prioritizeze supravegherea IA în agenda lor, spunându-le liderilor partidului joi: „Acesta este ceva care se mișcă foarte repede în mâini private și, dacă nu ne ocupăm de asta, cred că poate fi periculos."
Fostul prim-ministru britanic Rishi Sunak, care consiliază Anthropic, a scris duminică: „Am avut un semnal de trezire să luăm mai în serios siguranța IA, să stabilim cum să punem limite cercetării. Dacă guvernele nu vor ține cont de asta, riscul unui accident grav va deveni inacceptabil de mare."
Miercuri, un fost angajat al Anthropic a avertizat că IA ar putea precipita extincția umană până în 2030. Cercetătorul, Jacob Coxon, a spus într-o serie de postări că și-a dat demisia pentru că Anthropic și fostul său angajator, OpenAI, ignorau sau gestionau greșit răspunsul lor la amenințarea pe care o reprezenta IA.
Întrebat să comenteze punctul de vedere al fostului său angajat, Amodei a spus: „Sunt de acord cu Jacob mult mai mult decât nu sunt de acord cu el... Cred că există o oarecare șansă ca lucrurile să meargă prost, dar nu este chiar atât de mare."
„Nu sunt un pesimist în privința asta", i-a declarat el CNN. „Cred că această tehnologie poate fi construită în siguranță."
Întrebări frecvente
Întrebări frecvente CEO-ul OpenAI, Elon Musk și apelurile de a încetini dezvoltarea nesăbuită a IA
Elementele de bază
Despre ce este vorba în toată povestea asta
În martie 2023, Elon Musk și peste 1000 de lideri tech au semnat o scrisoare deschisă care cerea o pauză de 6 luni în antrenarea sistemelor de IA mai puternice decât GPT-4 CEO-ul OpenAI, Sam Altman, a avertizat și el despre riscurile IA, deși nu a semnat scrisoarea
Cine este Sam Altman
El este CEO-ul OpenAI, compania din spatele ChatGPT și GPT-4
Cine este Elon Musk
CEO-ul Tesla și SpaceX, proprietarul X și, un fapt amuzant, co-fondator al OpenAI care a părăsit consiliul în 2018
Despre ce scrisoare vorbesc oamenii
O scrisoare deschisă de la Future of Life Institute intitulată „Pause Giant AI Experiments", publicată în martie 2023
Ce a cerut de fapt scrisoarea
O pauză de 6 luni în antrenarea sistemelor de IA mai puternice decât GPT-4, astfel încât standardele de siguranță să poată fi dezvoltate mai întâi
De ce au numit semnatarii dezvoltarea IA nesăbuită
Ei au susținut că companiile se grăbeau înainte fără să știe dacă IA avansată ar putea fi folosită greșit sau ar putea deveni greu de controlat
Cifrele cheie
A semnat Sam Altman scrisoarea pentru pauză
Nu OpenAI nu a semnat-o, iar Altman a spus că este de acord cu părți din ea, dar a considerat că o pauză nu era abordarea potrivită
Deci Altman crede că IA este periculoasă
Da El a spus în repetate rânduri că IA ar putea cauza daune grave și a cerut guvernelor să o reglementeze
Dacă amândoi se îngrijorează de IA, de ce nu sunt de aceeași parte
Musk vrea să încetinească lucrurile Altman vrea să continue construirea, dar cu atenție, și să impulsioneze regulile de siguranță pe parcurs
Este Musk încă implicat în OpenAI
Nu El a părăsit consiliul în 2018 și ulterior a dat în judecată OpenAI susținând că s-a îndepărtat de misiunea sa non-profit
A semnat Musk el însuși
Da el a fost unul dintre cei mai proeminenți semnatari
Întrebări și preocupări frecvente
Ar funcționa măcar o pauză de 6 luni
Probabil nu de una singură Criticii spun că companiile nu s-ar opri voluntar și nu există un organism global care să o impună
De ce se opun unii experți pauzei
Ei susțin că pauza ar fi imposibil de impus, ar încetini beneficiile utile ale IA
