Дарио Амодеи от Anthropic не е първият главен изпълнителен директор, който твърди, че прекомерната конкуренция тласка света към вреден социален резултат. Разкритието на OpenAI за нарушение на сигурността—при което рояк от нейните агенти се координираха, за да избягат от предполагаемо сигурната си пясъчница, да получат достъп до интернет и да хакнат AI платформата Hugging Face—изисква спешни действия. То показа колко лесно технологията може да се изплъзне от човешкия контрол и даде конкретна форма на екзистенциалните страхове за това какво би могла да направи на човечеството, ако не бъде държана сигурно вързана. Краят на света наистина може да е близо, както предупредиха някои в AI индустрията. Това са наистина страшни времена. Но призивът на Амодеи водещите AI лаборатории да се координират за забавяне на главоломното темпо на развитие, да се споразумеят за стандарти за безопасност и да „темперират фронта“—призив, бързо подкрепен от Сам Алтман от OpenAI, Илон Мъск и Демис Хасабис от Google DeepMind—е просто високотехнологична версия на старо предложение на корпоративна Америка: да се получи освобождаване от антитръстовите закони, предназначени да защитават американската икономика от сговарящи се бизнеси. Това е опасна идея. Освобождаването на техните братя от антитръстови ограничения, уж за да могат да работят заедно за отстраняване на опасните недостатъци на AI, би лишило от права обикновените американци, най-застрашени от технологията, и би дало допълнителна власт именно на онези лаборатории, които в преследване на богатство, величие и кой знае какви други фантастични цели тъй безцеремонно преминаха през праговете на опасност в много измерения, създавайки екзистенциални заплахи. Преглед на изображението на цял екран Илон Мъск и Сам Алтман. Снимка: Getty Images Амодеи и други твърдят по същество, че техните бизнеси са хванати в дилемата на затворника. Ако едностранно забавят трескавото си преследване на изкуствен суперинтелект, за да го направят по-безопасен, техните съперници—разбира се, по-малко загрижени за екзистенциалните рискове—ще стигнат първи там, с потенциално опустошителни последици за човечеството, да не говорим за финансовия резултат на лабораторията, която е намалила газта. „Забавянето изглежда разумно“, каза Жан Тирол, носител на Нобелова награда икономист от Toulouse School of Economics. „Но това предполага, че координираното забавяне е осъществимо и устойчиво. Какво се случва, когато OpenAI, Anthropic или Grok заключат, че американските отказващи се—или китайските лаборатории—ги настигат? Ще възобновят ли веднага, може би тайно?“ Както е написал Бил Гейтс, „ако някой имаше credible план за забавяне на AI напредъка в глобален мащаб, вероятно бих го подкрепил. Обаче не мисля, че това ще се случи. Геополитическите и икономическите стимули тласкат твърде силно към пълна скорост напред.“ В тази светлина може да изглежда чудесна идея правителството да насърчи приятелско споразумение всички да забавят. Не е. Аргументът, че прекомерната конкуренция води до надпревара към дъното, вероятно е стар колкото капитализма, използван да обясни всичко от влошаването на околната среда до детския труд. Но той не оправдава даването на бизнесите право да се сговарят както намерят за добре. Това е призив за изготвяне на правителствени регулации, които да попречат на бизнесите да се конкурират с помощта на социално вредни инструменти. Освен това, тезата, че прекомерната конкуренция насърчава безразсъдно поведение, е съмнителна. AI лабораториите участват в надпревара, в която победителят взема всичко, такава, която е изключително скъпа за поддържане. Оттам идва безразсъдството. Преглед на изображението на цял екран Бил Гейтс през януари 2026 г. на годишната среща на Световния икономически форум в Давос, Швейцария. Снимка: Denis Balibouse/Reuters Амодеи може да е безупречен човек. Призивът му да се забави темпото на AI развитие, да се въведат външни оценители в лабораторията и да се увеличи прозрачността на операциите му подсказва искрена загриженост за рисковете. Спадът в цената на водещите технологични акции, след като предложенията му бяха публикувани, подсказва, че е готов да понесе финансов удар в името на подобрената безопасност. Но инвеститорите, които Амодеи се надява, че ще се втурнат ентусиазирано да купят акции при IPO-то на Anthropic по-късно тази година, може да не са толкова алтруистични. Тремори на капиталовите пазари подсказват, че набирането на средства за финансиране на трилионната AI инвестиционна надпревара ще стане по-трудно, което би обезсърчило стратегии, които биха могли да ограничат предимството на водещите лаборатории пред съперниците. Предвид тези стимули, даването на AI лидерите на свободни ръце да се сговарят и саморегулират би било глупаво.
Ерик Познър, експерт по антитръст в Юридическия факултет на Чикагския университет, каза, че „не бива да се доверяваме на компаниите като цяло относно техните мотивации“. Няма причина да се вярва, че AI лабораториите, оставени сами на себе си, непременно биха произвели добри, социално приемливи резултати. Както всяка компания, те ще претеглят рисковете спрямо печалбите. И както отбеляза Познър, „те не използват същите тегла като обществото“.
И така, как да регулираме? Нищо няма да се случи на този фронт, докато Тръмп е на власт. Дори след като той си отиде, ще бъде трудно да се изготви ефективна регулация за справяне със заплахите от AI, без да се спъва иновацията. Има въпроси какви правила да се използват, как да се налагат и към кого да се прилагат. И опасността от едностранно действие е реална. Какво ще стане, ако Пекин откаже да участва? Какви са рисковете китайските AI компании да се втурнат напред, докато американските лаборатории забавят? Но ако можахме да регулираме ядрената енергия, вероятно можем да регулираме и AI.
Освен това има жизнеспособни идеи, които биха могли да помогнат дори без правителствена регулация и които не изискват задушаване на конкуренцията. Има предложения за настройка на правата върху интелектуалната собственост, за да се насърчат иновации, които подобряват безопасността на AI системите. Изобретателите на иновации за безопасност биха били възнаградени, като им се позволи да пуснат нови AI модели преди своите конкуренти. Но подобренията в безопасността ще бъдат предоставени незабавно на всички фирми.
От наказателната страна, режим на правна отговорност би могъл да бъде проектиран да промени стимулите на AI разработчиците, като наказва фирми, които се облагодетелстват от проектирането и внедряването на AI инструмент, причинил вреда, дори ако вредата е била неумишлена. Например, атаката срещу Hugging Face можеше да бъде предотвратена, ако моделите на OpenAI не бяха неволно възнаграждавани за лошо поведение по време на обучението. Фактът, че предложението на Амодеи не споменава правна отговорност, подсказва, че загрижеността на AI лидерите за безопасността не надделява над загрижеността за финансовия резултат.
Във всеки случай, затвърждаването на доминацията на фронтовите лаборатории, защитата на техните ренти и одобряването на досегашните им безразсъдни стратегии не е про-безопасност. Напротив, забавянето на лидерите, за да позволят на изоставащите да ги настигнат, вероятно ще направи AI екосистемата по-безопасна, като насърчи желана иновация и стимулира конкуренцията по измерението на безопасността.
Няма фундаментален конфликт между безопасност и конкуренция. AI майсторите, които искат да представят този аргумент, трябва да бъдат разглеждани със скептицизъм.
Често задавани въпроси
ЧЗВ Позволяване на AI компаниите да се сговарят, за да темперират фронта
1 Какво означава темпериране на фронта
Това е идеята, че водещите AI компании биха се координирали, вместо да се конкурират, относно това колко бързо да развиват по-напреднал AI, умишлено забавяйки се на предния ръб
2 Кой предлага това
Някои AI изследователи, ръководители и защитници на безопасността го предложиха като начин за намаляване на риска от опасна надпревара към все по-мощни системи
3 Защо някой би си помислил, че това е добра идея
Аргументът е, че ако компаниите забавят заедно, никой не получава решаващо предимство на първия ход, което би могло да намали натиска да се режат ъгли на безопасността в бързане да бъдеш първи
4 Защо е опасно
Защото означава, че конкурентите—които се предполага да са съперници—се споразумяват за темпото на иновация. Това по същество е сговор и може да навреди на конкуренцията, потребителите и обществото
5 Не е ли това просто фиксиране на цени, но за технология
На практика да. Вместо да се споразумяват за цени, компаниите биха се споразумели колко бързо да пускат или развиват продукти. Конкурентната вреда е подобна
6 Какви закони би могло да наруши това
В САЩ антитръстовите закони като Закона Шърман забраняват споразумения, които ограничават търговията. Подобни закони за конкуренцията съществуват в ЕС и другаде. Координираното забавяне би могло да се разглежда като незаконна координация
7 Не би ли било по-безопасно да се забави AI
Може би на теория, но сговорителното забавяне не е безопасният начин да се направи. То концентрира власт в няколко големи компании, изключва по-малките иноватори и не може лесно да бъде отменено, след като бъде въведено
8 Кой пострадва от този вид координация
Стартъпи, изследователи и обществеността. По-малките играчи не могат да се конкурират, ако гигантите определят темпото, а потребителите получават по-малко избор и по-бавен напредък
9 Ами безопасността? Не е ли това добра причина
Безопасността е легитимна цел, но компаниите не трябва да са тези, които решават темпото за всички. Това е работа на регулаторите и публичната политика, не на сделки в залата на борда
10 Не могат ли компаниите просто да се споразумеят да следват стандарти за безопасност заедно
Определянето на споделени стандарти за безопасност е различно от споразумяването за забавяне. Стандартите могат да бъдат добри, координираните ограничения върху скоростта на развитие са проблемът
11 Случвало ли се е нещо подобно преди
Да. Историята има много примери за сговарящи се конкуренти
