Дотук вече би трябвало да е очевидно, че изкуственият интелект е като книга с избираеми приключения, където всеки път води до катастрофа. Експлодиращи въглеродни емисии и екологичен колапс? Обърни на страница 37. Други възможни резултати включват някои или всички от следните: спукване на балона и предизвикване на финансова криза; масова безработица от автоматизацията; край на демокрацията и възход на авторитарни наблюдателни държави; фанатични култове, които вярват, че алгоритъм за разпознаване на образи е съзнателен; терористи, създаващи опустошителни биологични оръжия; нации, разполагащи автономни оръжия, които действат във времеви мащаби, които хората не могат да схванат; нации или терористи, хакващи безбройните системи, на които разчитаме; или ИИ, който, съзнателен или не, преследва цели, които противоречат на човешкото благополучие.
Да си представим, че фигури като Илън Мъск, Сам Алтман от OpenAI, Питър Тийл от Palantir или технологичният съветник на Тръмп Марк Андреесен ще ни отведат до утопично бъдеще на екологична хармония, социален мир и безкраен отдих изисква толкова крайна заблуда и ласкателство, че само книга с избираеми приключения, написана от ChatGPT, би могла да го измисли.
Нараства, макар и със закъснение, признанието, че се носим към катастрофа, заедно с призиви да забавим, регулираме или дори да спрем всичко това, докато не го разберем. Тези призиви идват не само от активисти, но и от широк кръг политици, експерти и вътрешни хора от големите технологични компании, твърде разнообразни, за да бъдат игнорирани — от Бърни Сандърс до Бил Гейтс, който наскоро каза: „Ако някой имаше правдоподобен план за забавяне на напредъка на ИИ в глобален мащаб, вероятно бих го подкрепил.“ Той е просто най-новият вътрешен човек, който признава това, което компанията за ИИ Anthropic призна по-рано това лято, когато призова за „спирачка“. Самоограничението на индустрията няма да проработи. Ако трябва да има пауза, тя трябва да бъде наложена отвън.
Въпреки това, международно споразумение е тъжно малко вероятно. ИИ е като ядрените оръжия и следва същата логика: всеки играч е принуден да води това безразсъдно състезание, като единственото оправдание е, че не иска да бъде на милостта на този, който спечели. Най-добрият шанс за забавяне на нещата, изглежда, би бил един участник да контролира критично тясно място и да има причина да го затвори. Интересното е, че ЕС държи точно такава карта — и дори има мотив да я изиграе, ако посмее.
Вижте изображението в цял екран
Тайванският производител на чипове TSMC, фабрика в Нанкин, Китай. Снимка: Sipa US/Alamy
Нидерландската технологична компания ASML е най-ценната компания в Европа, благодарение на производството на машини за екстремна ултравиолетова (EUV) литография. Те са от съществено значение за най-модерното производство на чипове в света и са едно от малкото възможни тесни места за цялата индустрия на ИИ. ASML е усвоила технологията и сложната верига за доставки, необходими за изграждането на тези машини за 400 милиона долара, които гравират шарки върху силиций, като фокусират светлина до дължина на вълната от 13,5 нанометра (около 1/10 000 от ширината на човешки косъм). Без нейните машини няма чипове; без чипове няма повече центрове за данни. Това засяга всичко — от инвестицията от 265 милиарда долара на тайванския производител на чипове TSMC в бъдещи производствени заводи (известни като „фабрики“) до центровете за данни на стойност 7 трилиона долара, които индустрията се очаква да построи в световен мащаб (предимно в САЩ) до 2030 г. Без повече центрове за данни, използващи тези настоящи и следващи поколения чипове, експоненциалният растеж на ИИ — и рискът — би спрял.
Ето защо правителството на САЩ налага екстериториални експортни контроли върху ASML, блокирайки продажбите на най-модерните ѝ EUV машини за Китай, за да забави способностите му за производство на чипове. Налагайки тези ограничения на ASML, САЩ разкриха собствената си слабост на това тясно място: колкото и Европа да зависи от (в крайна сметка заменими) финансови и софтуерни услуги от САЩ, бъдещето на всички технологии, базирани на чипове, зависи изцяло от ASML. Пълна забрана за износ на машините на ASML би принудила глобалната индустрия за ИИ да... Всъщност това е като да тъпчеш на място или да бягаш на място. Полученият недостиг на чипове и забавяне на развитието на ИИ биха дали на регулаторите време да настигнат технологията, на законодателите време да актуализират всичко — от авторското право до данъчното законодателство, а на обществата време да водят реални дебати за ролята, която искаме ИИ да играе в живота ни.
Защо ЕС би направил такова нещо? Не само поради хуманистични причини, но и поради егоистични. В най-добрия сценарий пълната забрана за износ би довела до реорганизация на веригата за доставки и би поставила повече ключови решения под контрола на ЕС — където те биха били под надзора на единствения играч, който е показал, че ще регулира ИИ задълбочено. Разбира се, най-добрият случай е пресилен: по-вероятно е САЩ да отвърнат, като блокират достъпа на ASML до доставчици, базирани в САЩ. Но дори и това да се случи, пак би било в интерес на ЕС да провокира такава конфронтация, въз основа на тясната логика на чистия икономически и геополитически егоистичен интерес, защото ЕС би спрял да изостава в относително изражение по отношение на моделите на ИИ и „изчислителната мощ“ (процесорната мощ), необходима за тяхното изпълнение.
Собствените привърженици на ИИ в Европа са съгласни — въпреки че това, което ги тревожи, е относителният недостатък на ЕС, а не широкият набор от рискове на ИИ. Проектът Europe 2031 е технополитическа прогноза, съставена от група индустриални експерти, за това какво може да се случи с ЕС, ако ИИ радикално трансформира икономиката и ЕС изостане далеч зад САЩ. Те твърдят, че Европа трябва да влее стотици милиарди в надпреварата за ИИ, преди както водещите модели, така и „изчислителната мощ“ да станат това, което TSMC и ASML са днес: облагодетелствани от разлика, твърде голяма, за да бъде затворена от който и да е конкурент.
В техния сценарий, някъде в близкото бъдеще, ЕС ще бъде принуден да постави достъпа до ASML на масата, за да си осигури достъп до контролираните от САЩ модели и изчислителна мощ, от които икономиката и сигурността му ще зависят — само за да открие, че доминирането на ASML е отслабнало с времето. (Колкото повече EUV машини се изнасят, толкова повече фабрики се строят другаде и толкова повече време Китай и САЩ имат, за да възпроизведат технологията на ASML.)
Теоретиците на ядрените оръжия се тревожат, че ако немислимото се случи, държавите биха могли да бъдат притиснати към изстрелване поради изчисление „използвай или го загубиш“. Същата логика се прилага и към единственото нещо, което може да спре главоломното развитие на индустрията за ИИ: ЕС може да използва лоста, който ASML му дава сега, или да рискува да загуби този шанс напълно. Рядко е толкова различни групи да стигнат до същото заключение: има една единствена европейска карта за игра, и тя трябва да бъде изиграна. Вместо да се състезаваме към безумие, нека просто спрем състезанието. Точно сега, и за всички.
Александър Хърст пише за Guardian Europe от Париж. Мемоарът му Generation Desperation току-що излезе.
Често задавани въпроси
Ето списък с често задавани въпроси, базирани на тезата на статията, вариращи от начинаещи до напреднали.
Въпроси за начинаещи
1. Какво точно е надпреварата за ИИ?
Това е трескавата конкуренция между технологичните гиганти за това кой пръв да изгради най-мощния ИИ. Вместо да дадат приоритет на безопасността или етиката, те бързат да пуснат нови модели, за да победят съперниците си и да заграбят пазарен дял.
2. Защо Бил Гейтс и Бърни Сандърс са съгласни по този въпрос?
Те идват от напълно различни политически страни, но и двамата виждат една и съща опасност. Гейтс се тревожи, че ИИ ще излезе извън човешки контрол и ще причини масово изместване на работни места. Сандърс се тревожи за необузданата корпоративна власт и ИИ, използван за експлоатация на работници или манипулиране на обществеността. И двамата са съгласни, че чисто печалбарските мотиви не трябва да диктуват бъдещето на човечеството.
3. Защо Европа е специално спомената като единствената, която може да го спре?
Защото САЩ и Китай са заключени в технологична война, в която победителят взема всичко, и няма да се забавят. Европа обаче не води надпреварата за ИИ, така че има по-малко за губене. По-важното е, че ЕС има история на приемане на строги регулации, които се прилагат за целия свят — ако искаш да правиш бизнес в Европа, трябва да спазваш техните правила.
4. Какво всъщност означава „да се сложи край“?
Не означава пълна забрана на ИИ. Означава спиране на опасната надпревара. Означава налагане на строги тестове за безопасност, изискване за прозрачност относно това какво може да прави ИИ и налагане на големи глоби на компаниите, ако пуснат опасни продукти. Става въпрос за принудително забавяне, за да се гарантира, че безопасността настига скоростта.
5. Надпреварата за ИИ наистина ли е катастрофа?
Аргументът е, че е така. Катастрофата не е, че ИИ съществува — а скоростта. Компаниите пускат мощни инструменти, преди да разберем как те ще повлияят на изборите, работните места или психичното здраве. Катастрофата е безразсъдството, не самата технология.
Напреднали въпроси
6. Как европейската регулация всъщност би спряла американските компании?
ЕС има „Брюкселски ефект“. Ако американска компания като Meta или OpenAI иска да обслужва 450 милиона европейски потребители, тя трябва да спазва законите на ЕС. Ако ЕС каже, че не можеш да разположиш суперинтелигентен модел без одитен одит за безопасност от трета страна, компанията трябва да направи този одит глобално, за да
