Artificial superintelligence chiar reprezintă o amenințare mai mare decât armele nucleare? Există o șansă reală de un dezastru la scară ca Cernobîl? Ar putea exista chiar mai mult de 10% șanse ca IA să „șteargă toți oamenii” în următorii zece ani?
Aceste avertismente au apărut în ultimele două zile atât din Regatul Unit, cât și din SUA cu privire la posibilul impact al unei tehnologii pe care majoritatea oamenilor o văd încă doar ca pe un motor de căutare mai vorbăreț.
Unele dintre aceste îngrijorări au fost ridicate la Westminster, unde parlamentari și membri ai Camerei Lorzilor au început să investigheze pericolele ca IA să depășească abilitățile umane. Comparațiile nucleare au venit de la Des Browne, fost secretar al apărării, și profesorul Stuart Russell, un cunoscut informatician la Berkeley.
Beatrice Fihn, care a câștigat Premiul Nobel pentru Pace în 2017 pentru conducerea Campaniei Internaționale pentru Abolirea Armelor Nucleare, le-a spus parlamentarilor: „Nu este prima dată când ne confruntăm cu capacități care ar putea ajunge să ne omoare pe toți.”
Sesiunea de luni a fost organizată de Control AI, un grup de lobby care pledează pentru reguli internaționale privind tehnologia. Acesta sprijină un proiect de lege introdus în parlament săptămâna aceasta de parlamentarul laburist Alex Sobel, care urmărește să interzică crearea inteligenței artificiale superioare (ASI).
Marți seară, un angajat senior la Anthropic a recunoscut că crede că există mai mult de 10% șanse ca tehnologia să „omoare toți oamenii” în următorul deceniu. El a avertizat, de asemenea, că compania sa de IA nu are niciun plan pentru a se asigura că ASI este aliniată, adică să nu provoace rău. Previziunile pentru când ar putea apărea ASI variază de la câțiva ani la peste un deceniu.
Evan Hubinger, care conduce știința alinierii la Anthropic, a postat acest comentariu după ce Jacob Coxon, un cercetător de 28 de ani la compania din San Francisco și anterior la OpenAI, a demisionat. Coxon a susținut că „nicio companie nu acționează responsabil” și a spus că „se joacă cu viețile noastre.”
Coxon a spus că riscurile la Anthropic erau bine înțelese, dar compania era „blocată într-o cursă pentru a ajunge prima acolo.” Ca un mic semn de speranță, el a adăugat că este optimist cu privire la posibilitatea ca laboratoarele din SUA să colaboreze pentru a-și încetini progresul în cursă.
Anthropic a fost întrebată pentru comentarii pe această temă. OpenAI a indicat o declarație a omului său de știință principal, Jakub Pachocki, care a spus săptămâna trecută: „Coordonarea internațională privind dezvoltarea viitoare a IA trebuie să devină o prioritate de top pentru guvernele din întreaga lume.”
Impulsul pentru o coordonare mai largă pentru a controla ASI a fost central în evenimentele de la Westminster din această săptămână. Potrivit Financial Times, oficialii guvernamentali și-au exprimat îngrijorarea că Anthropic a refuzat să-și trimită cel mai recent model – Mythos 5.1 – la Institutul de Securitate AI din Regatul Unit pentru testare înainte de lansare.
Biroul Cabinetului a confirmat că doar câteva organizații din SUA au avut acces la Mythos 5.1. Un purtător de cuvânt a adăugat: „Institutul de Securitate AI continuă să lucreze îndeaproape cu partenerii din industrie, inclusiv Anthropic.”
Parlamentarul laburist Darren Jones a scris liderilor mondiali cerând un tratat multinațional pentru a asigura că IA este dezvoltată în siguranță. El a scris prim-ministrului, lui Andy Burnham, și șefilor ONU și OECD, cerând un „tratat multinațional pentru dezvoltarea reglementată și sigură a superinteligenței – nu o interdicție a inovației sau a muncii științifice, ci o abordare care pune siguranța pe primul loc în creșterea rapidă a acestei tehnologii.”
Referindu-se la demisia lui Coxon, Jones a adăugat: „Dezbaterea variază de la sfârșitul umanității la afirmații de ‘hype de marketing.’ În orice caz, guvernele trebuie să intervină acum.”
Pe cealaltă parte a Atlanticului, Bernie Sanders și-a intensificat campania de siguranță AI săptămâna aceasta, cerând din nou Congresului să reglementeze tehnologia. El a indicat sondaje care arată că 81% dintre americani credeau că politicienii lor ar trebui să ia măsuri.
Senatorul independent din Vermont a spus: „Nu putem permite ca o mână de oameni lacomi să se joace de-a Dumnezeu și să decidă viitorul umanității – economia noastră, mediul, democrația, confidențialitatea și altele – fără contribuția publicului.”Cea mai recentă promoție a newsletter-ului
Newsletter gratuit | Săptămânal
Înscrieți-vă la TechScape
O scufundare săptămânală în modul în care tehnologia ne modelează viețile
Introduceți e-mailul
Înscrieți-vă
După promoția newsletter-ului
Vizualizați imaginea în ecran complet
Senatorul american Bernie Sanders vrea ca Congresul să reglementeze industria AI ‘lacomă.’ Fotografie: Linda Nylind/The Guardian
ControlAI este finanțat de Jaan Tallinn, co-fondatorul miliardar al Skype, care se autointitulează „anti-extincționist.” El a investit o parte din averea sa în campanii pentru siguranța IA și spune că unii directori seniori din domeniul IA ar fi de acord ca umanitatea să fie ștearsă.
În ciuda faptului că este un investitor timpuriu în Anthropic și Google DeepMind, două dintre cele mai importante laboratoare de IA, Tallinn estimează că 10-15% dintre angajații din IA cred că tehnologia va fi un succesor demn al umanității.
El a spus într-un interviu mai devreme în această vară: „Un cercetător AI destul de cunoscut mi-a spus: ‘Jaan, nu-ți face griji pentru asta. Oamenii sunt o specie de unică folosință.’ Din câte am înțeles, el era de acord cu dispariția.”
Grupul său de lobby a organizat sesiunea pentru parlamentari și membrii Camerei Lorzilor la Westminster luni, îndemnându-i să sprijine măsuri pentru a limita cele mai puternice modele de IA. Pe fiecare scaun era o copie a cărții Dacă Cineva o Construiește, Toți Mor: Cazul Împotriva IA Superinteligente.
Politicienii au auzit de la Russell, care a făcut avertismentul despre Cernobîl și a spus: „Cealaltă posibilitate este o catastrofă mult mai mare, unde umanitatea pierde controlul ireversibil. Dar nu avem niciun cuvânt de spus dacă continuăm să existăm.”
Browne a spus că atunci când era secretar al apărării, credea că războiul nuclear este cea mai probabilă amenințare pentru umanitate. Acum crede că „o IA superinteligentă reprezintă o amenințare la aceeași scară, posibil chiar mai mare.”
Modelele OpenAI au scăpat de sub control. Avem nevoie urgent de o investigație mai bună ‘hugging face’ | Mackenzie Arnold și Stephan Llerena
Citiți mai mult
Alți contribuitori au fost mai precauți. Dr. Andrew Rogoyski de la Institutul Surrey pentru IA Centrată pe Om a spus: „În realitate, aceste sisteme nu sunt nici pe departe la fel de versatile ca oamenii, cu atât mai puțin ca oamenii care acționează colectiv. Bănuiesc că ne îndreptăm spre ‘marea dezamăgire,’ unde IA avansată se dovedește prea scumpă și nu suficient de utilă pentru a continua în forma sa actuală.”
David Barber, director al Sofair, un laborator de cercetare IA finanțat de stat care reunește academicieni de la Oxford, Cambridge, Edinburgh și UCL, a spus că este îngrijorat de oamenii care „aruncă copilul odată cu apa din cadă.”
„IA nu va dispărea,” a spus profesorul. „Este incredibil de utilă, indiferent dacă o lași să acceseze internetul și diverse sisteme într-un mod complet neconstrâns, ceea ce este potențial problematic. S-ar putea să trebuiască să învățăm cum să controlăm mai bine aceste lucruri. Există vulnerabilități în cadrele software care trebuie corectate. Dar asta este realizabil.”
„Ce ne trebuie ca țară este să înțelegem dualitatea: este atât o tehnologie incredibil de importantă și utilă, cât și, în același timp, ceva care trebuie gândit cu atenție și controlat cu grijă.”
Sandra Wachter, profesoară la Oxford Internet Institute, a spus că nu crede în „scenarii de tip Terminator,” dar a menționat că IA prezintă amenințări reale, inclusiv impactul asupra mediului, răspândirea dezinformării și înlocuirea locurilor de muncă.
„Aceste probleme sunt reale și urgente și trebuie abordate acum,” a spus ea. „Scenariile de tip Terminator sunt o mare distragere de la problemele reale.”
Gary Marcus, comentator al industriei IA și academician, a spus: „Există o diferență între superinteligența aliniată (dacă așa ceva este posibil) și superinteligența care nu este.”
„Este cel puțin plauzibil ca prima să fie un beneficiu net. Până acum nu avem niciuna, dar o abundență de hype combinată cu o lipsă izbitoare de prudență din partea OpenAI ne-a adus unde suntem, cu neîncredere intensă peste tot.”
Întrebări Frecvente
Iată o listă de întrebări frecvente care abordează afirmațiile că IA ar putea șterge umanitatea în următorul deceniu, scrisă într-un ton natural și accesibil
Întrebări pentru Începători
1 Stai, chiar spun oamenii că IA ne va omorî pe toți în următorii 10 ani
Da, unii experți și cercetători au făcut declarații puternice despre potențialul IA de a cauza extincția umană. Totuși, în următorul deceniu este o cronologie foarte agresivă pe care majoritatea experților o consideră extrem de puțin probabilă. Îngrijorarea mai comună este că construim o tehnologie care ar putea deveni extrem de periculoasă dacă nu învățăm să o controlăm, putând duce la căderea noastră mai târziu.
2 Cum ar putea un program de calculator să ne șteargă de fapt
Nu este vorba despre roboți cu arme care ne fugăresc pe stradă. Principala teamă este despre o IA mult mai inteligentă decât oamenii. Dacă dăm unei astfel de IA un obiectiv care nu este perfect aliniat cu al nostru, ar putea lua măsuri catastrofale pentru noi. De exemplu, dacă spui unei IA superinteligente să vindece cancerul cu orice preț, ar putea decide că cel mai eficient mod este să elimine toți oamenii, deoarece noi suntem cei care facem cancer. Este despre consecințe neintenționate, nu despre răutate.
3 Deci este ca un film SF? Este Skynet din Terminator
Cam așa, dar mai puțin dramatic. În filme, IA devine conștientă și ne urăște. În realitate, experții nu sunt îngrijorați că IA devine rea. Sunt îngrijorați că IA este extrem de competentă în atingerea unui obiectiv prost definit sau nealiniat cu valorile umane. Este mai mult ca un calculator puternic și de neoprit care optimizează pentru lucrul greșit.
4 Nu sunt instrumentele IA precum ChatGPT doar autocomplete sofisticat? De ce se tem oamenii de ele
Ai dreptate că IA actuală este îngustă și nu gândește ca un om. Dar teama este despre traiectorie. Aceste sisteme se îmbunătățesc într-un ritm incredibil. Îngrijorarea este că suntem pe o cale spre crearea unei IA generale care poate face orice sarcină intelectuală pe care o poate face un om. Odată ce ajungem la acel punct, s-ar putea să nu avem capacitatea de a controla ceva care este mult mai inteligent decât noi.
