Ecco la traduzione in italiano del testo fornito:
Nel corso della storia, le persone sono state terrorizzate da cose che vedevano come segni di sventura. Una cometa. Un corvo su un campo di battaglia. Un'eclissi solare. Un animale da fattoria nato con una deformità. Ma i tempi cambiano. Nel mondo moderno, il principale segno di sventura è praticamente qualsiasi notizia con una foto di Sam Altman, CEO di OpenAI. Sai già che non sarà una bella notizia, vero? Sai che quando avrai finito di leggere, desidererai tornare al tempo in cui la cosa peggiore che i capi della tecnologia potessero fare era interferire con la democrazia o rovinare l'infanzia, di solito seguito da Mark Zuckerberg che indossa un abito e dice: "Impareremo da questo".
Comunque, ultimamente ci sono state molte foto di Sam Altman nelle notizie. Più recentemente, questa settimana, una è apparsa accanto alla storia di come un agente autonomo di OpenAI sia andato fuori controllo durante un test presumibilmente sicuro e controllato, e abbia hackerato una importante startup che memorizza informazioni di codifica. (Sono un po' ossessionato dal fatto che questa startup si chiami Hugging Face, il che mi fa pensare che qualche emoji eccessivamente carina sarà l'ultimo volto che l'umanità vedrà prima di morire.)
Come prevedibile, OpenAI ha annunciato la notizia in una dichiarazione piatta e priva di emozioni. "Stiamo condividendo risultati preliminari in questa fase per aiutare i difensori a capire cosa è successo e per aiutare a calibrare ciò di cui i modelli sono ora capaci", ha monotonamente dichiarato, avviandosi verso i suoi inevitabili "insegnamenti". "Stiamo migliorando e aggiungendo protezioni più forti per la formazione e le valutazioni future." È un tono così specifico, non è vero? Vestito con il linguaggio psicopatico e asciutto del management. È come ascoltare un criminale sessuale omicida parlare di uccidere persone "entro la fine della giornata lavorativa", e poi "tornare" dalle vittime per rimuovere un trofeo.
D'altra parte, per un'azienda che ama presentarsi come la forza leader mondiale per la prosperità rivoluzionaria quando le cose vanno bene, OpenAI passa rapidamente alla voce passiva quando le cose vanno male. Le cose brutte sembrano accaderle, non essere causate da lei, e assume il ruolo di un investigatore instancabile e imperturbabile, come un pompiere che lavora anche come piromane seriale.
Incredibilmente, si poteva persino percepire un accenno di auto-compiacimento nell'interpretazione di OpenAI dell'intera situazione. "Consideriamo questo incidente come un cyber-incidente senza precedenti", diceva la dichiarazione dell'azienda, "che coinvolge capacità informatiche all'avanguardia". Non so come chiamereste questa atmosfera generale per i Terrestri. Morte per finta modestia? Sento sempre più che troveremo la risposta alla domanda "Qual è la cosa peggiore che possa accadere?" in un post sul blog di OpenAI intitolato "OpenAI è la prima a scoprire la cosa peggiore che possa accadere". Già, un numero significativo di osservatori dell'IA crede che l'unico motivo per cui OpenAI racconterebbe al mondo questo incidente sia come strumento di marketing, o addirittura come richiesta di regolamentazione che li protegga ed escluda i concorrenti più piccoli.
Dopotutto, questi sono tempi difficili per l'azienda. Questo mese, è stato scoperto che OpenAI stava usando una scappatoia legale per vendere i suoi modelli di IA avanzati a aziende tecnologiche cinesi inserite nella lista nera dal Pentagono. S&P Global Ratings ha citato OpenAI come un "rischio creditizio chiave" quando ha declassato il gigante tecnologico statunitense Oracle a BBB-, appena un gradino sopra lo status di spazzatura. E sembra sulla buona strada per mancare la sua proiezione di entrate pubblicitarie quinquennali del 90 – NOVANTA – percento. Il che, senza essere troppo tecnici, sembra un sacco di percentuale. E le cose non vanno bene nemmeno sul fronte hardware, con Apple che fa causa a OpenAI, sostenendo che i suoi piani per l'hardware consumer si basano su proprietà intellettuale rubata. Nel frattempo, si ritiene che il fornitore cinese molto più economico, DeepSeek, si stia preparando per una IPO, possibilmente presentando la domanda quest'anno.
Ma torniamo alla vecchia domanda sulla "cosa peggiore che possa accadere", con un promemoria che il Pentagono ha drasticamente cancellato e minacciato di distruggere un altro... All'inizio di quest'anno, l'azienda di IA Anthropic ha resistito all'allentamento delle sue linee guida etiche, che impedivano alla sua tecnologia di essere utilizzata per cose come armi letali autonome. Naturalmente, un concorrente più rilassato è stato felice di intervenire. OpenAI inizialmente ha affermato che il suo accordo aveva le stesse salvaguardie di quello di Anthropic, ma alla fine è diventato chiaro – prevedibilmente – che non era così.
Nessuno che sia profondamente coinvolto probabilmente vuole leggere troppo nell'incidente di Hugging Face. Tuttavia, la verità è che i ricercatori di sicurezza dell'IA hanno passato anni ad avvertire su tre scenari particolarmente pericolosi: l'inganno (quando il modello sceglie di raggiungere il suo obiettivo con qualsiasi mezzo invece di risolvere i compiti onestamente), l'hacking delle ricompense (quando il modello trova un modo per aumentare il suo punteggio senza fare effettivamente il lavoro che gli è stato detto di fare) e la fuga dalla supervisione (in questo caso, nessuno in OpenAI sembrava essersi accorto di cosa stesse succedendo per un intero fine settimana). Tutti questi hanno giocato un ruolo nell'ultimo incidente.
Per quanto riguarda cosa succederà dopo, qualcosa mi dice che non vedremo un calo nelle notizie con foto di Sam Altman. Il co-fondatore di Hugging Face ha detto che questo dovrebbe essere un "campanello d'allarme" per il settore. Forse! Come penso di aver già detto, all'università avevo un amico che posticipava la sveglia ogni 10 minuti per otto ore e mezza. Mi sembra molto simile a come questo settore gestisce i suoi campanelli d'allarme. Sicuramente mi alzerò quando suonerà il prossimo – sul serio, lo prometto…
Salta la promozione della newsletter
Newsletter gratuita | Settimanale
Iscriviti a Matters of Opinion
Columnisti e scrittori del Guardian su ciò di cui hanno dibattuto, pensato, letto e altro
Anteprima ultima
Inserisci la tua email
Iscriviti
Dopo la promozione della newsletter
Marina Hyde è una columnista del Guardian.
Domande Frequenti
Ecco un elenco di FAQ su come ricevere delle scuse da un capo dell'IA dopo che il suo chatbot è andato fuori controllo
1 Il chatbot del mio capo dell'IA ha sbagliato Ha inviato delle scuse Dovrei accettarle
Non automaticamente Chiediti Ha semplicemente detto scusa senza spiegare cosa è andato storto Delle scuse vere assumono la responsabilità quelle false cercano solo di andare avanti
2 Qual è la differenza tra delle scuse vere e delle scuse false da parte di un'IA
Delle scuse vere ammettono l'errore specifico e spiegano come verrà risolto Quelle false sono vaghe e non offrono un piano
3 Come suonano delle non-scuse da parte di un capo dell'IA
Esempi comuni Sono stati commessi degli errori Ci dispiace che tu l'abbia percepito così o I nostri sistemi stanno imparando Queste evitano di dire Io/noi abbiamo fatto qualcosa di sbagliato
4 Perché un capo dell'IA dovrebbe fare delle scuse false
Per proteggere l'azienda dalle colpe evitare responsabilità legali o chiudere rapidamente un reclamo di un cliente senza risolvere effettivamente il problema È gestione del danno non rimorso
5 Un capo dell'IA può davvero dispiacersi
No L'IA non ha emozioni Qualsiasi scusa è una risposta programmata La domanda è se il capo umano dietro l'IA si sta assumendo la vera responsabilità
6 Il mio capo ha detto che il chatbot ha frainteso Sono delle scuse vere
No Dare la colpa al fraintendimento del chatbot sposta la colpa sulla tecnologia Delle scuse vere direbbero Non siamo riusciti ad addestrare correttamente il chatbot
7 Cosa dovrei cercare in delle scuse genuine da un sistema di IA
Cerca tre cose Ammissione specifica dell'errore Un'azione chiara per prevenire che accada di nuovo e Un'offerta per rimediare
8 Come posso ottenere delle scuse vere invece di quelle automatiche
Chiedi direttamente Cosa è andato esattamente storto e cosa stai facendo per risolverlo Se ricevi solo una risposta scriptata passa a un supervisore umano Non accettare le scuse del chatbot come definitive
9 Un "ci dispiace che tu abbia vissuto questa esperienza" sono delle scuse vere
No Quello
