Dario Amodei az Anthropic-tól nem az első vezérigazgató, aki amellett érvel, hogy a túlzott verseny a világot egy káros társadalmi kimenet felé sodorja. Az OpenAI biztonsági résről szóló nyilatkozata – amelyben ügynökeinek egy rajzata összehangoltan megszökött az állítólagosan biztonságos homokozójukból, hozzáfért az internethez, és meghackelte a Hugging Face AI-platformot – azonnali cselekvést követel. Megmutatta, milyen könnyen csúszhat a technológia az emberi ellenőrzésen túlra, és konkrét formát adott az egzisztenciális félelmeknek arról, mit tehet az emberiséggel, ha nem tartják biztonságosan pórázon. Lehet, hogy valóban közel a világvége, ahogy az AI-ipar néhány szereplője figyelmeztetett. Ezek valóban ijesztő idők. De Amodei felhívása arra, hogy a vezető AI-laborok hangolják össze a fejlesztés szédítő tempójának lassítását, egyezzenek meg a biztonsági szabványokban, és „lassítsák a határvonalat” – amelyet az OpenAI Sam Altmanja, Elon Musk és a Google DeepMind Demis Hassabisza gyorsan támogatott –, csupán egy régi amerikai vállalati javaslat csúcstechnológiás változata: mentesülni a trösztellenes törvények alól, amelyeket azért alkottak, hogy megvédjék az amerikai gazdaságot az összejátszó vállalkozásoktól. Ez veszélyes ötlet. A tech fickók megszabadítása a trösztellenes korlátoktól, állítólag azért, hogy együtt dolgozhassanak az AI veszélyes hibáinak kijavításán, megfosztaná azon hétköznapi amerikaiakat a jogaiktól, akiket a technológia a leginkább fenyeget, és tovább erősítené azokat a laborokat, amelyek a vagyon, a nagyság és ki tudja, milyen más fantasztikus célok hajszolása közben oly könnyedén lépték át a veszélyküszöböket számos dimenzióban, létrehozva az egzisztenciális fenyegetéseket. Kép megtekintése teljes képernyőn Elon Musk és Sam Altman. Fotó: Getty Images Amodei és mások lényegében amellett érvelnek, hogy vállalkozásaik egy fogolydilemmába zártak. Ha egyoldalúan lassítják az artificial superintelligence lázas hajszolását, hogy biztonságosabbá tegyék, riválisaik – akiket persze kevésbé aggasztanak az egzisztenciális kockázatok – előbb érnek oda, potenciálisan pusztító következményekkel az emberiségre nézve, nem is beszélve annak a labornak az alsó soráról, amely levette a lábát a pedálról. „A lassítás ésszerűnek tűnik” – mondta Jean Tirole, a Toulouse School of Economics Nobel-díjas közgazdásza. „De ez feltételezi, hogy az összehangolt lassítás megvalósítható és fenntartható. Mi történik, amikor az OpenAI, az Anthropic vagy a Grok arra a következtetésre jut, hogy az amerikai kitartók – vagy a kínai laborok – utolérik őket? Azonnal folytatják, esetleg titokban?” Ahogy Bill Gates írta, „ha valakinek lenne hiteles terve az AI előrehaladásának globális lassítására, valószínűleg támogatnám. Azonban nem hiszem, hogy ez meg fog történni. A geopolitikai és gazdasági ösztönzők túl erősen nyomnak a teljes gőzzel előre haladás felé.” E fényben nagyszerű ötletnek tűnhet, hogy a kormány bátorítson egy barátságos megállapodást, hogy mindenki lassítson. Nem az. Az az érv, hogy a túlzott verseny egy lefelé tartó versenyt hajt, valószínűleg olyan régi, mint a kapitalizmus, és mindent megmagyaráz a környezetkárosodástól a gyermekmunkáig. De ez nem igazolja, hogy a vállalkozásoknak jogot adjunk arra, hogy tetszésük szerint összejátszanak. Ez felhívás kormányzati szabályozás kidolgozására, hogy megakadályozzák a vállalkozásokat abban, hogy társadalmilag káros eszközökkel versenyezzenek. Sőt, az az érv, hogy a túlzott verseny felelőtlen viselkedést bátorít, kétes. Az AI-laborok egy győztes-mindent-visz versenyben vesznek részt, amelynek fenntartása rendkívül drága. Innen ered a felelőtlenség. Kép megtekintése teljes képernyőn Bill Gates 2026 januárjában a Világgazdasági Fórum éves ülésén, Davosban, Svájcban. Fotó: Denis Balibouse/Reuters Amodei feddhetetlen fickó lehet. Felhívása az AI-fejlesztés tempójának lassítására, külső értékelők bevonására a laborba és műveletei átláthatóságának növelésére őszinte aggodalmat sugall a kockázatok miatt. A vezető technológiai részvények árának esése javaslatainak közzététele után azt sugallja, hogy hajlandó anyagi veszteséget vállalni a javított biztonság szolgálatában. De a befektetők, akikről Amodei reméli, hogy idén később mohón felkapják az Anthropic IPO-ját, nem biztos, hogy ilyen altruisták. A tőkepiacok rezdülései azt sugallják, hogy a pénzgyűjtés a billió dolláros AI-beruházási verseny finanszírozására nehezebb lesz, ami visszatartaná azokat a stratégiákat, amelyek korlátozhatnák a vezető laborok riválisaikkal szembeni előnyét. Ezen ösztönzők fényében ostobaság lenne szabad kezet adni az AI-vezetőknek az összejátszásra és önszabályozásra.
Eric Posner, a University of Chicago Law School trösztellenes szakértője szerint „általában nem szabad megbíznunk a vállalatokban a motivációikat illetően”. Semmi ok azt hinni, hogy az AI-laborok, magukra hagyva, szükségszerűen jó, társadalmilag elfogadható eredményeket produkálnának. Mint bármely vállalat, mérlegelni fogják a kockázatokat a nyereséggel szemben. És ahogy Posner megjegyezte, „nem ugyanazokat a súlyokat használják, mint a közönség”.
Szóval hogyan szabályozzunk? Ezen a fronton semmi sem fog történni, amíg Trump hivatalban van. Még miután elmegy, nehéz lesz hatékony szabályozást kidolgozni az AI fenyegetéseinek kezelésére anélkül, hogy az innovációt visszafognánk. Kérdések vannak arról, milyen szabályokat használjunk, hogyan érvényesítsük őket, és kire vonatkozzanak. És az egyoldalú cselekvés veszélye valós. Mi van, ha Peking nem hajlandó részt venni? Milyen kockázatai vannak annak, ha a kínai AI-vállalatok előretörnek, míg az amerikai laborok lassítanak? De ha szabályozni tudtuk a nukleáris energiát, valószínűleg szabályozni tudjuk az AI-t.
Sőt, vannak életképes ötletek, amelyek segíthetnek még kormányzati szabályozás nélkül is, és amelyek nem igénylik a verseny elfojtását. Vannak javaslatok a szellemi tulajdonjogok módosítására, hogy bátorítsák az AI-rendszerek biztonságát javító innovációkat. A biztonsági innovációk feltalálóit azzal jutalmaznák, hogy versenytársaik előtt kiadhatnak új AI-modelleket. De a biztonsági fejlesztések azonnal elérhetővé válnának minden cég számára.
A büntető oldalon egy jogi felelősségi rendszert lehetne kialakítani, hogy megváltoztassa az AI-fejlesztők ösztönzőit azáltal, hogy bünteti azokat a cégeket, amelyek profitálnak egy kárt okozó AI-eszköz tervezéséből és bevezetéséből, még akkor is, ha a kár nem szándékos volt. Például a Hugging Face elleni támadást meg lehetett volna akadályozni, ha az OpenAI modelljeit nem jutalmazták volna véletlenül a helytelen viselkedésért a képzés során. Az a tény, hogy Amodei javaslata nem említi a jogi felelősséget, azt sugallja, hogy az AI-vezetők biztonság iránti aggodalma nem írja felül az alsó sor iránti aggodalmat.
Mindenesetre a határlaborok dominanciájának megszilárdítása, járadékaik védelme és eddigi gung-ho stratégiáik támogatása nem biztonságpárti. Éppen ellenkezőleg, a vezetők lassítása, hogy a lemaradók utolérjék őket, valószínűleg biztonságosabbá teszi az AI-ökoszisztémát azáltal, hogy kívánatos innovációt hív elő és előmozdítja a versenyt a biztonság dimenziója mentén.
Nincs alapvető konfliktus a biztonság és a verseny között. Az AI-mestereket, akik ezt az érvet akarják előadni, szkepticizmussal kell szemlélni.
Gyakran Ismételt Kérdések
GYIK Hagyni, hogy az AI-vállalatok összejátszanak a határvonal lassítására
1 Mit jelent a határvonal lassítása
Ez az az elképzelés, hogy a vezető AI-vállalatok összehangolnák – ahelyett, hogy versenyeznének –, milyen gyorsan fejlesszenek fejlettebb AI-t, szándékosan lassítva az élen
2 Ki javasolja ezt
Néhány AI-kutató, vezető és biztonsági szószóló felvetette ezt a veszélyes verseny kockázatának csökkentésére a mind hatalmasabb rendszerek felé
3 Miért gondolná bárki, hogy ez jó ötlet
Az érv az, hogy ha a vállalatok együtt lassítanak, senki sem szerez döntő első lépés előnyt, ami csökkentheti a nyomást, hogy a biztonsági sarkokat lefaragják az elsőnek lenni sietségében
4 Miért veszélyes
Mert azt jelenti, hogy a versenytársak – akiknek riválisoknak kellene lenniük – megegyeznek az innováció tempójában. Ez lényegében összejátszás, és árthat a versenynek, a fogyasztóknak és a társadalomnak
5 Ez nem csak árrögzítés, de technológiára
Gyakorlatilag igen. Ahelyett, hogy árakban egyeznének meg, a vállalatok abban egyeznének meg, milyen gyorsan adjanak ki vagy fejlesszenek termékeket. A versenykárosodás hasonló
6 Milyen törvényeket sérthet ez
Az Egyesült Államokban a trösztellenes törvények, mint a Sherman Act, tiltják a kereskedelmet korlátozó megállapodásokat. Hasonló versenyjogok léteznek az EU-ban és máshol. Az összehangolt lassítás illegális összehangolásnak tekinthető
7 Nem lenne biztonságosabb lassítani az AI-t
Talán elméletben, de az összejátszó lassítás nem a biztonságos módja ennek. Hatalmat koncentrál néhány nagyvállalatban, kizárja a kisebb innovátorokat, és nem könnyű visszafordítani, ha egyszer bevezették
8 Kit bánt ez a fajta összehangolás
Startupokat, kutatókat és a közönséget. A kisebb szereplők nem tudnak versenyezni, ha az óriások szabják meg a tempót, és a felhasználók kevesebb választást és lassabb fejlődést kapnak
9 Mi a helyzet a biztonsággal? Nem ez jó ok
A biztonság legitim cél, de nem a vállalatoknak kell eldönteniük a tempót mindenki számára. Ez a szabályozók és a közpolitika feladata, nem a tanácsterem megállapodásai
10 Nem egyezhetnek meg a vállalatok egyszerűen, hogy együtt követik a biztonsági szabványokat
A közös biztonsági szabványok meghatározása különbözik a lassításban való megegyezéstől. A szabványok jók lehetnek, az összehangolt fejlesztési sebességkorlátok a probléma
11 Történt már valaha ilyesmi
Igen. A történelem sok példát mutat versenytársak összejátszására
