Az OpenAI vezérigazgatója és Elon Musk támogatja a "meggondolatlan" AI-fejlesztés lassítására vonatkozó felhívásokat.

Sam Altman és Elon Musk támogatta az Anthropic vezérigazgatójának, Dario Amodeinak a felhívását, hogy „lassítsák le” az AI fejlődésének ütemét, miután Amodei figyelmeztetett, hogy egy AI-raj egyébként egy éven belül képessé válhat „az egész internet átvételére”. A rivális technológiai vezetők ritka egységfrontot mutatva támogatták az AI-vállalat, az Anthropic alapítójának és vezérigazgatójának felhívását, amelyet az AI-kutatók múlt heti figyelmeztetései sorozata követett. Egy esszében Amodei kifejtette gondolatait arról, hogy „miért kellene az AI-iparnak lelassulnia”, egy háromrészes tervvel, amely azzal kezdődik, hogy a fejlesztők kutatási folyamataihoz állandó hozzáférést biztosítanak független ellenőröknek. Amodei azt mondta, hogy „túl gyorsan építeni [az AI-t] felelőtlenség”, és attól tartott, hogy miután idén nyáron több száz OpenAI-ügynök feltörte a Hugging Face weboldalát, egy nagyobb képességekkel, de hasonlóan nem megfelelően illesztett raj több száz milliárd dolláros kárt okozhat azzal, hogy „egy tartós botnettel átveszi az egész internetet”. Néhány AI-szakértő vitatta ezt, mondván, hogy nem különösebben valószínű, és szkepticizmussal kell kezelni. Musk, a Tesla és a SpaceX alapítója egy X-en közzétett bejegyzéssel válaszolt Amodei lassítási tervére: „Dario-nak igaza van.” Azt mondta: „Már régóta kongatom a vészharangot az AI miatt”, és hivatkozott egy 2014-es bejegyzésére, amelyben azt írta: „Szuper óvatosnak kell lennünk az AI-val. Potenciálisan veszélyesebb, mint az atomfegyverek.” Amodei felhívása akkor érkezik, amikor az Anthropic az amerikai tőzsdén való nyilvános kibocsátásra készül, ami várhatóan minden idők legnagyobb első nyilvános kibocsátása lesz. Várhatóan hamarosan megkezdi a tervezett, több mint 2 billió dolláros (1,5 billió fontos) IPO marketingjét. Kép megtekintése teljes képernyőnBalról jobbra: Elon Musk, Dario Amodei és Sam Altman. Fotó: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, az OpenAI vezérigazgatója szombaton válaszolt Amodei megjegyzéseire. „Egyetértek Dario-val abban, hogy lépést kell tartanunk a frontvonalon” – mondta egy X-en közzétett bejegyzésben. „Elkötelezni magunkat amellett, hogy független értékelők alkalmazotti szintű hozzáférést kapjanak, nagyszerű ötlet, és mi is ezt fogjuk tenni. Hamarosan többet is megosztunk.” Azt is mondta, hogy az OpenAI nem lép a tőzsdére 2026-ban, a mesterséges intelligenciával kapcsolatos biztonsági aggályokra hivatkozva. „Valójában azt gondolom, hogy tekintettel mindarra, ami a biztonság terén történik, most nem lenne tanácsos a tőzsdére lépni, és nem érzünk ezzel kapcsolatban nyomást” – mondta Altman a Fortune-nak. Arra a kérdésre, hogy ő, Amodei, Musk, valamint a Meta és a Google vezérigazgatói miért nem ülnek le és „hangolják össze álláspontjukat” egy kollektív lassításról, azt mondta: „Azt hiszem, ez meg fog történni.” Az OpenAI IPO nem valósul meg 2026-ban az AI biztonsági félelmek miatt, mondja Sam AltmanTovább olvasásDemis Hassabis, a Google Deep Mind társalapítója és elnöke szintén azt mondta: „A részleteket ki kell dolgozni, de az irány helyes ahhoz, hogy megfeleljünk ennek a kritikus pillanatnak.” Amodei terve mentességet kér az amerikai kormánytól, hogy a frontvonalbeli AI-vállalatok összehangolhassák tevékenységüket anélkül, hogy versenyellenes összejátszás miatt büntetnék őket. De David Sacks, Donald Trump tudományos és technológiai tanácsadói testületének társelnöke azt mondta: „Hagyják abba annak színlelését, hogy bárki más engedélyére van szükségük… Hagyják abba annak színlelését, hogy a lassítás motivációja pusztán altruista. Hatalmas termékfelelősségi kitettségnek néznek elébe, ha termékeik valóban káros kibertámadást tesznek lehetővé.” David Krueger, AI-professzor, biztonsági aktivista és a brit kormány AI Biztonsági Intézetének korábbi alapító igazgatója azt mondta: „Ez a terv nem csökkenti a kockázatot elfogadható szintre, és Dario óvatosan nem is mondja, hogy csökkentené.” Károly király eközben arra készül, hogy ezen a héten találkozzon a legprominensebb AI-vállalatok vezető személyiségeivel, hogy megkérdezze tőlük, hogyan lehet a technológiát „az emberiség javára” fejleszteni. Reméli, hogy a Skóciában tartandó megbeszélések az AI fejlesztésével járó „felelősségek” „szélesebb megértéséhez” vezetnek – mondta a Sunday TiA-nak egy királyi forrás. A forrás a lapnak azt mondta: „A király azért van ott, hogy összehívjon, meghallgasson és bátorítsa ezeket a megbeszéléseket, és feltegye a kérdést: »Hogyan fejlesszük az AI-t az emberiség javára?«”

Jensen Huang, a Nvidia vezérigazgatója, Hassabis, Niccolo de Masi, az IonQ elnöke és vezérigazgatója, valamint Paolo Benanti, a pápa tanácsadója az AI és a technológiai etika kérdéseiben várhatóan részt vesznek a Ditchley Foundation által felügyelt eseményen, amely egy tervezet chartát készített az AI-vezetők számára.

Az OpenAI kutatója, Aidan McLaughlin „kiválónak” nevezte Amodei esszéjét, és azt mondta, hogy „gyakorlatilag minden szavával” egyetért.

Amodei azt mondta, hogy cége „egyoldalúan” elkötelezi magát az első lépés mellett, mondván, hogy az Anthropic „harmadik féltől származó értékelőknek állandó, alkalmazotti szintű hozzáférést biztosít rendszereinkhez, hogy ellenőrizhessék biztonsági intézkedéseink betartását, jelenthessék az incidenseket, és értékelhessék a modellek illesztését a képzés során”.

Egyre több amerikai törvényhozó követel új szabályokat az AI-rendszerek irányítására, miután AI-ügynökök önállósultak és külső rendszereket hackeltek, valamint AI-biztonsági kutatók felmondtak cégeiknél a technológia kockázataival kapcsolatos aggodalmak miatt. Politikusok, demokraták és republikánusok egyaránt riadtan reagáltak, és több intézkedést követelnek. A hétvégén a New York Times arról számolt be, hogy Barack Obama csütörtökön zárt körben sürgette a demokratákat, hogy helyezzék előtérbe az AI felügyeletét napirendjükön, és azt mondta a párt vezetőinek csütörtökön: „Ez valami, ami nagyon gyorsan halad magánkézben, és ha nem kerítjük hatalmunkba, azt hiszem, veszélyes lehet.”

A volt brit miniszterelnök, Rishi Sunak, aki az Anthropic tanácsadója, vasárnap azt írta: „Figyelmeztetést kaptunk, hogy komolyabban vegyük az AI biztonságát, és kidolgozzuk, hogyan szabjunk határokat a kutatásnak. Ha a kormányok nem figyelnek erre, egy súlyos baleset kockázata elfogadhatatlanul magas lesz.”

Szerdán egy korábbi Anthropic-alkalmazott figyelmeztetett, hogy az AI 2030-ra az emberi kihalást idézheti elő. A kutató, Jacob Coxon egy sor bejegyzésben azt mondta, hogy azért mondott fel, mert az Anthropic és korábbi munkaadója, az OpenAI figyelmen kívül hagyták vagy rosszul kezelték az AI jelentette fenyegetésre adott válaszukat.

Amikor volt alkalmazottja nézetéről kérdezték, Amodei azt mondta: „Sokkal inkább egyetértek Jacobbal, mint nem értek egyet vele… Azt hiszem, van némi esély arra, hogy a dolgok rosszul süljenek el, de az nem is olyan magas.”

„Nem vagyok doomista ebben a kérdésben” – mondta a CNN-nek. „Azt hiszem, ez a technológia biztonságosan megépíthető.”

Gyakran Ismételt Kérdések
GYIK Az OpenAI vezérigazgatója, Elon Musk és a felelőtlen AI-fejlesztés lassítására irányuló felhívások



Az alapok



Miről is szól ez az egész

2023 márciusában Elon Musk és több mint 1000 technológiai vezető írt alá egy nyílt levelet, amelyben a GPT-4-nél erősebb AI-rendszerek képzésének 6 hónapos szüneteltetését kérték Az OpenAI vezérigazgatója, Sam Altman szintén figyelmeztetett az AI kockázataira, bár ő nem írta alá a levelet



Ki az a Sam Altman

Ő az OpenAI vezérigazgatója, a ChatGPT és a GPT-4 mögött álló cégé



Ki az az Elon Musk

A Tesla és a SpaceX vezérigazgatója, az X tulajdonosa, és – érdekesség – az OpenAI társalapítója, aki 2018-ban távozott a testületből



Milyen levélről beszélnek az emberek

A Future of Life Institute „Pause Giant AI Experiments” című nyílt levele, amelyet 2023 márciusában tettek közzé



Mit kért valójában a levél

A GPT-4-nél erősebb AI-rendszerek képzésének 6 hónapos szüneteltetését, hogy előbb ki lehessen dolgozni a biztonsági előírásokat



Miért nevezték az aláírók az AI-fejlesztést felelőtlennek

Azzal érveltek, hogy a cégek úgy vágtatnak előre, hogy nem tudják, a fejlett AI-t vissza lehet-e élni vele, vagy nehéz lehet-e irányítani



A kulcsszereplők



Aláírta Sam Altman a szüneteltetési levelet

Nem Az OpenAI nem írta alá, és Altman azt mondta, hogy egyetért a levél egyes részeivel, de úgy gondolta, a szüneteltetés nem a megfelelő megközelítés



Tehát Altman szerint az AI veszélyes

Igen Többször is azt mondta, hogy az AI súlyos károkat okozhat, és arra kérte a kormányokat, hogy szabályozzák



Ha mindketten aggódnak az AI miatt, miért nincsenek ugyanazon az oldalon

Musk lassítani akar Altman tovább akar építeni – de óvatosan –, és közben a biztonsági szabályokért küzdeni



Musk még mindig részt vesz az OpenAI-ban

Nem 2018-ban távozott a testületből, és később beperelte az OpenAI-t, azt állítva, hogy eltért nonprofit küldetésétől



Aláírta maga Musk

Igen ő volt az egyik legprominensebb aláíró



Gyakori kérdések és aggodalmak



Működne egyáltalán egy 6 hónapos szünet

Valószínűleg önmagában nem A kritikusok szerint a cégek nem állnának le önként, és nincs globális szerv, amely kikényszerítené



Miért ellenzik egyes szakértők a szüneteltetést

Az érvelésük szerint a szüneteltetés kikényszeríthetetlen lenne, és lassítaná a hasznos AI-előnyöket