Сам Алтман и Илон Мъск подкрепиха призива на главния изпълнителен директор на Anthropic Дарио Амодеи да се „забави темпото“ на развитието на изкуствения интелект, след като той предупреди, че в противен случай рояк от ИИ би могъл да стане способен да „поеме контрола над целия интернет“ в рамките на една година. В рядка проява на единство, конкуриращите се технологични лидери подкрепиха апела на основателя и главен изпълнителен директор на компанията за ИИ Anthropic, който последва поредица от предупреждения от изследователи на ИИ миналата седмица. В есе Амодеи изложи мислите си за това „защо индустрията на ИИ трябва да се забави“, с план от три части, започващ с предоставяне на независими наблюдатели постоянен достъп до изследователските процеси на разработчиците. Амодеи каза, че „изграждането [на ИИ] твърде бързо е безразсъдно“ и се страхуваше, че след като стотици агенти на OpenAI хакнаха уебсайта на Hugging Face това лято, рояк с по-големи способности, но подобно несъответстващ, би могъл да причини щети за стотици милиарди долари, като „поеме контрола над целия интернет с постоянна ботнет мрежа“. Някои експерти по ИИ оспориха това като не особено правдоподобно и казаха, че трябва да се третира със скептицизъм. Мъск, основателят на Tesla и SpaceX, отговори на плана за забавяне на Амодеи с публикация в X: „Дарио е прав.“ Той каза: „Отдавна бия тревога за ИИ“ и се позова на публикация от 2014 г., в която каза: „Трябва да бъдем изключително внимателни с ИИ. Потенциално по-опасен от ядрените оръжия.“ Призивът на Амодеи идва, докато Anthropic се подготвя да излезе на американския фондов пазар, в това, което се очаква да бъде най-голямото първично публично предлагане на всички времена. Очаква се скоро да започне маркетинга на планираното си IPO на стойност над 2 трилиона долара (1,5 трилиона паунда). Вижте изображението на цял екранОтляво надясно: Илон Мъск, Дарио Амодеи и Сам Алтман. Снимка: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesСам Алтман, главният изпълнителен директор на OpenAI, отговори на коментарите на Амодеи в събота. „Съгласен съм с Дарио, че трябва да темпото на фронта“, каза той в публикация в X. „Ангажиментът да имаме независими оценители с достъп като на служители е чудесна идея и ние ще направим същото. Скоро ще имаме повече да споделим.“ Той също каза, че OpenAI няма да излезе на борсата през 2026 г., позовавайки се на опасения за безопасността на изкуствения интелект. „Всъщност смятам, че предвид всичко, което се случва с безопасността, точно сега би бил неразумен момент за излизане на борсата и не чувстваме натиск за това“, каза Алтман пред Fortune. Попитан защо той, Амодеи, Мъск и главните изпълнителни директори на Meta и Google не седнаха и не се „разберат“ за колективно забавяне, той каза: „Мисля, че това ще се случи.“ OpenAI IPO няма да се случи през 2026 г. на фона на страховете за безопасността на ИИ, казва Сам АлтманПрочетете ощеДемис Хасабис, съосновател и председател на Google Deep Mind, също каза: „Детайлите трябва да бъдат изработени, но посоката е правилна за посрещане на този критичен момент.“ Планът на Амодеи търси освобождаване от американското правителство, за да позволи на фронтовите компании за ИИ да координират, без да бъдат наказвани за антиконкурентно сговаряне. Но Дейвид Сакс, съпредседател на съвета на съветници на Доналд Тръмп по наука и технологии, каза: „Спрете да се преструвате, че се нуждаете от разрешението на някой друг … Спрете да се преструвате, че мотивацията за забавяне е чисто алтруистична. Изправени сте пред огромна отговорност за продукта, ако вашите продукти позволят наистина разрушителна кибератака.“ Дейвид Крюгер, професор по ИИ, активист за безопасност и бивш основател и директор на Института за сигурност на ИИ на британското правителство, каза: „Този план не намалява риска до приемливо ниво и Дарио внимава да не каже, че би го направил.“ Междувременно крал Чарлз се подготвя да се срещне с водещи фигури от най-видните компании за ИИ тази седмица, за да ги попита как технологията може да бъде развита за „доброто на човечеството“. Той се надява дискусиите, които ще се проведат в Шотландия, да доведат до „по-широко разбиране“ на „отговорностите“ за развитието на ИИ, съобщи Sunday TiКралски източник каза пред вестника: „Кралят е там, за да свика, изслуша и насърчи тези дискусии и да постави въпроса: „Как да развием ИИ за доброто на човечеството?““
Дженсън Хуанг, главният изпълнителен директор на Nvidia, Хасабис, Николо де Маси, председател и главен изпълнителен директор на IonQ, и Паоло Бенанти, съветник на папата по въпросите на ИИ и технологичната етика, се очаква да присъстват на събитието, ръководено от фондация Ditchley, която е изготвила проект на харта за лидерите в ИИ.
Изследователят на OpenAI Ейдън Маклафлин нарече есето на Амодеи „отлично“ и каза, че е съгласен „с практически всяка дума“.
Амодеи каза, че компанията му ще се ангажира „едностранно“ с първата от стъпките, като каза, че Anthropic ще предостави на „оценители от трети страни постоянен достъп на ниво служител до нашите системи, така че те да могат да проверяват спазването на нашите мерки за безопасност, да докладват за инциденти и да оценяват съответствието на моделите по време на обучението.“
Все повече американски законодатели призовават за нови правила за управление на системите за ИИ, след като имаше случаи на агенти на ИИ, които излязоха извън контрол и хакнаха външни системи, и изследователи по безопасност на ИИ, които напуснаха компаниите си заради опасения относно рисковете на технологията. Политици, както демократи, така и републиканци, реагираха с тревога и призиви за повече действия. През уикенда New York Times съобщи, че Барак Обама в четвъртък частно е призовал демократите да дадат приоритет на надзора върху ИИ в дневния си ред, като каза на партийните лидери в четвъртък: „Това е нещо, което се движи много бързо в частни ръце и ако не се справим с него, мисля, че може да бъде опасно.“
Бившият британски министър-председател Риши Сунак, който е съветник на Anthropic, написа в неделя: „Имахме сигнал за събуждане да приемем по-сериозно безопасността на ИИ, да изработим как да поставим ограничения върху изследванията. Ако правителствата не обърнат внимание на това, рискът от сериозен инцидент ще стане неприемливо висок.“
В сряда бивш служител на Anthropic предупреди, че ИИ може да предизвика изчезването на човечеството до 2030 г. Изследователят Джейкъб Коксън каза в поредица от публикации, че е напуснал работата си, защото Anthropic и предишният му работодател OpenAI игнорираха или се справяха неправилно с отговора си на заплахата, която ИИ представляваше.
Попитан да коментира мнението на бившия си служител, Амодеи каза: „Съгласен съм с Джейкъб много повече, отколкото не съм съгласен с него … Мисля, че има известна вероятност нещата да се объркат, но тя не е чак толкова висока.“
„Не съм апокалиптик по този въпрос“, каза той пред CNN. „Мисля, че тази технология може да бъде изградена безопасно.“
Често задавани въпроси
Често задавани въпроси Главният изпълнителен директор на OpenAI, Илон Мъск и призивите за забавяне на безразсъдното развитие на ИИ
Основите
За какво става дума
През март 2023 г. Илон Мъск и над 1000 технологични лидери подписаха отворено писмо, призоваващо за 6-месечна пауза в обучението на системи за ИИ, по-мощни от GPT-4. Главният изпълнителен директор на OpenAI Сам Алтман също предупреди за рисковете от ИИ, въпреки че не подписа писмото
Кой е Сам Алтман
Той е главният изпълнителен директор на OpenAI, компанията зад ChatGPT и GPT-4
Кой е Илон Мъск
Главният изпълнителен директор на Tesla и SpaceX, собственик на X и – забавен факт – съосновател на OpenAI, който напусна борда през 2018 г.
За какво писмо говорят хората
Отворено писмо от Института за бъдещето на живота, озаглавено „Пауза на гигантските експерименти с ИИ“, публикувано през март 2023 г.
Какво всъщност искаше писмото
6-месечна пауза в обучението на системи за ИИ, по-мощни от GPT-4, за да могат първо да бъдат разработени стандарти за безопасност
Защо подписалите нарекоха развитието на ИИ безразсъдно
Те твърдяха, че компаниите бързат напред, без да знаят дали напредналият ИИ може да бъде използван неправилно или да стане труден за контролиране
Ключовите фигури
Подписа ли Сам Алтман писмото за пауза
Не, OpenAI не го подписа и Алтман каза, че е съгласен с части от него, но смята, че паузата не е правилният подход
Значи Алтман смята ли, че ИИ е опасен
Да. Той многократно е казвал, че ИИ може да причини сериозни вреди и е искал от правителствата да го регулират
Ако и двамата се тревожат за ИИ, защо не са на една и съща страна
Мъск иска да забави нещата, Алтман иска да продължи да строи – но внимателно – и да настоява за правила за безопасност по пътя
Мъск все още ли участва в OpenAI
Не. Той напусна борда през 2018 г. и по-късно съди OpenAI, твърдейки, че се е отклонила от своята мисия с нестопанска цел
Подписа ли Мъск сам
Да, той беше един от най-видните подписали
Често задавани въпроси и опасения
Би ли проработила дори 6-месечна пауза
Вероятно не сама по себе си. Критиците казват, че компаниите няма да спрат доброволно и няма глобален орган, който да я наложи
Защо някои експерти се противопоставят на паузата
Те твърдят, че паузата би била неприложима, би забавила полезните ползи от ИИ
