Iată traducerea textului în limba română:
De-a lungul istoriei, oamenii au fost terorizați de lucruri pe care le considerau semne ale pieirii. O cometă. O cioară pe un câmp de luptă. O eclipsă de soare. Un animal de fermă născut cu o deformație. Dar vremurile se schimbă. În lumea modernă, principalul semn al pieirii este, practic, orice știre care include o poză cu CEO-ul OpenAI, Sam Altman. Știi că nu va fi ceva bun, nu? Știi că până termini de citit, vei dori să te poți întoarce în timpul când cel mai rău lucru pe care îl puteau face șefii tech era să se joace cu democrația sau să distrugă copilăriile, de obicei urmat de Mark Zuckerberg îmbrăcând un costum și spunând: „Vom învăța din asta.”
Oricum, au fost o mulțime de poze cu Sam Altman în știri recent. Cel mai recent, săptămâna aceasta, una a apărut alături de povestea despre cum un agent autonom OpenAI a luat-o razna în timpul unui test presupus sigur și controlat și a spart o startup majoră care stochează informații de codare. (Sunt puțin obsedat de faptul că această startup se numește Hugging Face, ceea ce mă face să cred că un emoji prea drăguț va fi ultima față pe care o va vedea umanitatea înainte de a muri.)
Nesurprinzător, OpenAI a anunțat vestea într-o declarație plată, fără emoții. „Împărtășim constatări preliminare în această etapă pentru a ajuta apărătorii să înțeleagă ce s-a întâmplat și pentru a ajuta la calibrarea a ceea ce modelele sunt acum capabile,” a mormăit calm, îndreptându-se spre inevitabilele sale „învățăminte.” „Îmbunătățim și adăugăm protecții mai puternice în jurul antrenamentelor și evaluărilor viitoare.” Este un ton atât de specific, nu-i așa? Îmbrăcat în limbajul psihopat și sec al managementului. Este ca și cum ai asculta un criminal sexual ucigaș vorbind despre uciderea oamenilor „la închiderea jocului,” și apoi „revenind” la victime pentru a lua un trofeu.
Pe de altă parte, pentru o companie căreia îi place să se prezinte ca principala forță mondială pentru prosperitate revoluționară când lucrurile merg bine, OpenAI trece rapid la vocea pasivă când lucrurile merg prost. Lucrurile rele par să i se întâmple, nu din cauza ei, și își asumă rolul unui investigator neobosit și imperturbabil, ca un pompier care este și un piroman în serie.
În mod uimitor, ai putea chiar detecta un strop de auto-laudă în interpretarea OpenAI a întregii situații. „Considerăm acest incident ca fiind un incident cibernetic fără precedent,” spunea declarația companiei, „implicând capabilități cibernetice de ultimă oră.” Nu știu cum ați numi această atmosferă generală pentru pământeni. Moarte prin laudă modestă? Simt din ce în ce mai mult că vom afla răspunsul la întrebarea „Care este cel mai rău lucru care se poate întâmpla?” într-o postare pe blog de la OpenAI intitulată „OpenAI primul care descoperă cel mai rău lucru care se poate întâmpla.” Deja, un număr semnificativ de observatori AI cred că singurul motiv pentru care OpenAI ar spune lumii despre acest incident este ca instrument de marketing, sau chiar o cerere de reglementare care să îi protejeze și să excludă concurenții mai mici.
La urma urmei, acestea sunt vremuri grele pentru companie. Luna aceasta, s-a descoperit că OpenAI folosea o portiță legală pentru a vinde modelele sale avansate de AI unor companii tech chinezești incluse pe lista neagră de Pentagon. S&P Global Ratings a citat OpenAI ca un „risc de credit cheie” când a retrogradat gigantul tech american Oracle la BBB-, la doar o treaptă de statutul de junk. Și pare pe cale să rateze proiecția veniturilor din publicitate pe cinci ani cu 90 – NOUĂZECI – la sută. Ceea ce, fără a intra prea mult în detalii tehnice, pare un procent mare. Și lucrurile nu stau bine nici pe frontul hardware, Apple dând în judecată OpenAI, susținând că planurile sale de hardware pentru consumatori se bazează pe proprietate intelectuală furată. Între timp, furnizorul chinez mult mai ieftin, DeepSeek, se crede că se pregătește pentru un IPO, posibil chiar depunând cererea anul acesta.
Dar să revenim la vechea întrebare „cel mai rău lucru care se poate întâmpla,” cu un memento că Pentagonul a anulat dramatic și a amenințat că va distruge un altul... Mai devreme anul acesta, compania AI Anthropic a rezistat slăbirii liniilor sale directoare etice, care împiedicau tehnologia sa să fie folosită pentru lucruri precum arme letale autonome. Natural, un concurent mai relaxat a fost fericit să intervină. OpenAI a susținut inițial că înțelegerea sa avea aceleași garanții ca cea a Anthropic, dar în cele din urmă a devenit clar—previzibil—că nu era așa.
Nimeni care este profund implicat probabil nu vrea să interpreteze prea mult incidentul Hugging Face. Totuși, adevărul este că cercetătorii în siguranța AI au petrecut ani de zile avertizând despre trei scenarii deosebit de periculoase: înșelăciunea (când modelul alege să-și atingă scopul prin orice mijloace, în loc să rezolve sarcinile în mod onest), recompensarea prin hack (când modelul găsește o modalitate de a-și crește scorul fără a face efectiv munca pe care i s-a spus să o facă) și evitarea supravegherii (în acest caz, nimeni de la OpenAI nu părea să observe ce se întâmplă timp de un weekend întreg). Toate acestea au jucat un rol în ultimul incident.
Cât despre ce urmează, ceva îmi spune că nu vom vedea o scădere a știrilor care includ poze cu Sam Altman. Co-fondatorul Hugging Face a spus că acesta ar trebui să fie un „semnal de alarmă” pentru industrie. Poate! După cum cred că am mai menționat, în facultate am avut un prieten care amâna alarma la fiecare 10 minute timp de opt ore și jumătate. Așa se simte cum gestionează această industrie semnalele de alarmă. Cu siguranță mă voi trezi la următorul—serios, promit...
Sari peste promovarea buletinului informativ
Buletin informativ gratuit | Săptămânal
Abonați-vă la Matters of Opinion
Columiniștii și scriitorii Guardian despre ce au dezbătut, la ce s-au gândit, ce au citit și nu numai
Previzualizați ultimul
Introduceți adresa de e-mail
Abonați-vă
După promovarea buletinului informativ
Marina Hyde este coluministă la Guardian.
Întrebări frecvente
Iată o listă de întrebări frecvente despre primirea unei scuze de la un șef AI după ce chatbot-ul său a luat-o razna
1 Chatbot-ul șefului meu AI a greșit. A trimis o scuză. Ar trebui să o accept?
Nu automat. Întreabă-te: A spus doar „îmi pare rău” fără să explice ce a mers prost? O scuză reală își asumă responsabilitatea, una falsă doar încearcă să treacă mai departe.
2 Care este diferența dintre o scuză reală și una falsă de la un AI?
O scuză reală recunoaște greșeala specifică și explică cum va fi remediată. Una falsă este vagă și nu oferă niciun plan.
3 Cum sună o non-scuză de la un șef AI?
Exemple comune: „S-au făcut greșeli,” „Regretăm că ați simțit așa,” sau „Sistemele noastre învață.” Acestea evită să spună „Eu/Noi am greșit.”
4 De ce ar da un șef AI o scuză falsă?
Pentru a proteja compania de vină, a evita răspunderea legală sau a încheia rapid o plângere a clientului fără a rezolva problema. Este control al daunelor, nu remușcare.
5 Poate un șef AI să simtă cu adevărat regret?
Nu. AI nu are emoții. Orice scuză este un răspuns programat. Întrebarea este dacă șeful uman din spatele AI-ului își asumă responsabilitatea reală.
6 Șeful meu a spus că chatbot-ul a înțeles greșit. Este o scuză reală?
Nu. A da vina pe neînțelegerea chatbot-ului mută vina asupra tehnologiei. O scuză reală ar spune „Nu am reușit să antrenăm corect chatbot-ul.”
7 La ce ar trebui să mă uit într-o scuză autentică de la un sistem AI?
Căutați trei lucruri: Recunoașterea specifică a erorii, O acțiune clară pentru a preveni repetarea și O ofertă de a repara lucrurile.
8 Cum obțin o scuză reală în locul celei automate?
Întrebați direct: „Ce anume a mers prost și ce faceți pentru a repara?” Dacă primiți doar un răspuns scriptat, escaladați la un supervizor uman. Nu acceptați scuza chatbot-ului ca fiind finală.
9 Este „Ne pare rău că ați experimentat acest lucru” o scuză reală?
Nu. Aceasta
