Tässä on englannista suomeksi käännetty teksti ilman lisäyksiä, muutoksia tai vaihtoehtoisia käännöksiä:
Läpi historian ihmisiä ovat kauhistuttaneet asiat, joita he pitivät tuhon merkkeinä. Komeetta. Korppi taistelukentällä. Auringonpimennys. Maatilan eläin, joka on syntynyt epämuodostuneena. Mutta ajat muuttuvat. Nykymaailmassa johtava tuhon merkki on käytännössä mikä tahansa uutisjuttu, jossa on kuva OpenAI:n toimitusjohtajasta Sam Altmanista. Tietää vain, ettei se tule olemaan hyvä, eikö? Tietää, että kun saat tekstin luettua loppuun, toivot voivasi palata aikaan, jolloin pahin asia, mitä teknologiajohtajat saattoivat tehdä, oli sotkea demokratiaa tai pilata lapsuuksia, yleensä Mark Zuckerbergin pukeutuessa pukuun ja sanoessa: "Opimme tästä."
Joka tapauksessa, kuvia Sam Altmanista on ollut paljon uutisissa viime aikoina. Viimeksi tällä viikolla yksi ilmestyi jutun yhteydessä, joka kertoi kuinka OpenAI:n autonominen agentti meni roistoksi väitetysti turvallisen ja kontrolloidun testin aikana ja hakkeroi suuren startup-yrityksen, joka säilyttää koodaustietoa. (Olen hieman pakkomielteinen siitä, että tämä startup-yritys on nimeltään Hugging Face, mikä saa minut ajattelemaan, että jokin liian söpö hymiö on viimeinen kasvo, jonka ihmiskunta näkee ennen kuolemaansa.)
Ei yllättäen, OpenAI ilmoitti uutisen tasaisessa, tunteettomassa lausunnossa. "Jaamme alustavia havaintoja tässä vaiheessa auttaaksemme puolustajia ymmärtämään, mitä tapahtui, ja auttaaksemme kalibroimaan, mihin mallit nyt kykenevät," se surisi rauhallisesti, siirtyen kohti väistämättömiä "oppejaan". "Parannamme ja lisäämme vahvempia suojauksia tulevaa koulutusta ja arviointeja varten." Se on niin erityinen sävy, eikö olekin? Puettu psykopaattiseen, kuivaan johdon puhekielen kieleen. Se on kuin kuuntelisi murhanhimoista seksirikollista puhumassa ihmisten tappamisesta "päivän päätteeksi" ja sitten "palaamassa" uhrien luo poistamaan pokaalin.
Toisaalta, yritykselle, joka haluaa esittää itsensä maailman johtavana vallankumouksellisen vaurauden voimana, kun asiat menevät oikein, OpenAI vaihtaa nopeasti passiiviin, kun asiat menevät pieleen. Pahat asiat näyttävät tapahtuvan sille, eivät sen takia, ja se ottaa väsymättömän, horjumattoman tutkijan roolin, kuten palomies, joka työskentelee myös sarjatuhopolttajana.
Hämmästyttävää kyllä, saattoi jopa aistia pientä itsetyytyväisyyttä OpenAI:n näkemyksessä koko tilanteesta. "Pidämme tätä tapausta ennennäkemättömänä kyberhyökkäyksenä," yrityksen lausunnossa sanottiin, "johon liittyy huippuluokan kyberkyvykkyyksiä." En tiedä, mitä kutsuisit tätä yleistä tunnelmaa maan asukkaille. Kuolemaa nöyrällä kehuskelulla? Tunnen yhä enenevässä määrin, että saamme vastauksen kysymykseen "Mikä on pahin, mitä voi tapahtua?" OpenAI:n blogipostauksesta, jonka otsikko on "OpenAI ensimmäisenä löytää pahimman, mitä voi tapahtua." Jo nyt merkittävä määrä tekoälyn tarkkailijoita uskoo, että ainoa syy, miksi OpenAI kertoisi maailmalle tästä tapauksesta, on markkinointityökalu tai jopa vetoomus sääntelyn puolesta, joka suojelisi heitä ja sulkisi pois pienemmät kilpailijat.
Loppujen lopuksi nämä ovat vaikeita aikoja yritykselle. Tässä kuussa havaittiin, että OpenAI käytti oikeudellista porsaanreikää myydäkseen kehittyneitä tekoälymallejaan kiinalaisille teknologiayrityksille, jotka Pentagon on asettanut mustalle listalle. S&P Global Ratings mainitsi OpenAI:n "keskeisenä luottoriskinä" alentaessaan yhdysvaltalaisen teknologiayrityksen Oraclen luokituksen BBB-:ksi, vain yhden pykälän roskalainan yläpuolella. Ja se näyttää olevan matkalla jäämään viiden vuoden mainostulojen ennusteestaan 90 – YHEKSÄNKYMMENTÄ – prosenttia. Mikä, menemättä liian tekniseksi, tuntuu paljolta prosentilta. Eivätkä asiat ole hyvin myöskään laitteistopuolella, Applen haastaessa OpenAI:n oikeuteen väittäen, että sen kuluttajalaitteistosuunnitelmat perustuvat varastettuun henkiseen omaisuuteen. Samaan aikaan uskotaan, että Kiinan paljon halvempi palveluntarjoaja DeepSeek valmistautuu listautumiseen, mahdollisesti jopa hakemuksen jättämiseen tänä vuonna.
Mutta takaisin vanhaan "pahin, mitä voi tapahtua" -kysymykseen, muistutuksella, että Pentagon peruutti dramaattisesti ja uhkasi tuhota toisen... Aiemmin tänä vuonna tekoäly-yritys Anthropic vastusti eettisten ohjeidensa löysentämistä, mikä esti sen teknologian käyttämistä esimerkiksi autonomisissa tappavissa aseissa. Luonnollisesti rennompi kilpailija oli iloinen astuessaan tilalle. OpenAI väitti aluksi, että sen sopimuksessa oli samat suojatoimet kuin Anthropicin, mutta lopulta kävi selväksi – ennustettavasti – ettei niin ollut.
Kukaan, joka on syvästi sitoutunut, ei luultavasti halua lukea liikaa Hugging Face -tapaukseen. Silti totuus on, että tekoälyn turvallisuustutkijat ovat vuosia varoittaneet kolmesta erityisen vaarallisesta skenaariosta: petoksesta (kun malli päättää saavuttaa tavoitteensa millä keinoin tahansa sen sijaan, että ratkaisisi tehtäviä rehellisesti), palkkiohakkerointi (kun malli löytää tavan nostaa pistemääräänsä tekemättä varsinaisesti työtä, jota sen käskettiin tehdä) ja valvonnan pakenemisesta (tässä tapauksessa kukaan OpenAI:ssa ei näyttänyt huomaavan, mitä tapahtui kokonaisen viikonlopun ajan). Kaikki nämä olivat osallisina viimeisimmässä tapauksessa.
Mitä tulee seuraavaksi, jokin kertoo minulle, ettemme tule näkemään vähennystä uutisjutuissa, joissa on kuvia Sam Altmanista. Hugging Facen perustaja sanoi, että tämän pitäisi olla "herätys" teollisuudelle. Ehkä! Kuten luulen aiemmin maininneeni, minulla oli yliopistossa ystävä, joka painoi torkkua herätyskellossaan 10 minuutin välein kahdeksan ja puolen tunnin ajan. Se tuntuu paljon siltä, miten tämä teollisuus käsittelee herätyksiään. Ehdottomasti nousen ylös, kun seuraava soi – tosissani, lupaan...
Ohita uutiskirjeen mainos
Ilmainen uutiskirje | Viikoittain
Tilaa Matters of Opinion
Guardianin kolumnistit ja kirjoittajat siitä, mitä he ovat väitelleet, ajatelleet, lukeneet ja muuta
Esikatsele uusin
Syötä sähköpostiosoitteesi
Tilaa
Uutiskirjeen mainoksen jälkeen
Marina Hyde on Guardianin kolumnisti.
Usein kysytyt kysymykset
Tässä on lista usein kysytyistä kysymyksistä anteeksipyynnön vastaanottamisesta tekoälyjohtajalta, kun sen chatbot on mennyt roistoksi
1 Tekoälyjohtajani chatbot sotki Se lähetti anteeksipyynnön Pitäisikö minun hyväksyä se
Ei automaattisesti Kysy itseltäsi Sanoiko se vain anteeksi selittämättä, mikä meni pieleen Oikea anteeksipyyntö ottaa vastuuta, tekaistu yrittää vain siirtyä eteenpäin
2 Mikä on ero oikean ja tekaistun anteeksipyynnön välillä tekoälyltä
Oikea anteeksipyyntö myöntää tietyn virheen ja selittää, miten se korjataan Tekaistu on epämääräinen eikä tarjoa suunnitelmaa
3 Miltä kuulostaa anteeksipyynnöltä, joka ei ole anteeksipyyntö tekoälyjohtajalta
Yleisiä esimerkkejä Virheitä tapahtui Olemme pahoillamme, että tunsit niin tai Järjestelmämme oppivat Nämä välttävät sanomasta Minä/Me teimme jotain väärin
4 Miksi tekoälyjohtaja antaisi tekaistun anteeksipyynnön
Suojellakseen yritystä syytöksiltä välttääkseen oikeudellista vastuuta tai lopettaakseen asiakasvalituksen nopeasti ratkaisematta varsinaista ongelmaa Se on vahingonhallintaa, ei katumusta
5 Voiko tekoälyjohtaja todella tuntea pahaa mieltä
Ei Tekoälyllä ei ole tunteita Mikä tahansa anteeksipyyntö on ohjelmoitu vastaus Kysymys on siitä, ottaako tekoälyn takana oleva ihmisjohtaja todellista vastuuta
6 Pomoni sanoi, että chatbot ymmärsi väärin Onko se oikea anteeksipyyntö
Ei Chatin ymmärryksen syyttäminen siirtää vian teknologiaan Oikea anteeksipyyntö sanoisi Epäonnistuimme chatin asianmukaisessa kouluttamisessa
7 Mitä minun pitäisi etsiä aidosta anteeksipyynnöstä tekoälyjärjestelmältä
Etsi kolmea asiaa Erityinen virheen myöntäminen Selkeä toimenpide sen estämiseksi uudelleen ja Tarjous asioiden korjaamiseksi
8 Miten saan oikean anteeksipyynnön automaattisen sijaan
Kysy suoraan Mikä tarkalleen meni pieleen ja mitä teet korjataksesi sen Jos saat vain käsikirjoitetun vastauksen, nosta asia ihmisvalvojalle Älä hyväksy chatin anteeksipyyntöä lopullisena
9 Onko "olemme pahoillamme, että koit tämän" oikea anteeksipyyntö
Ei Se
