Sam Altman i Elon Musk poparli apel dyrektora generalnego Anthropic, Dario Amodei, o „spowolnienie tempa” rozwoju AI, po tym jak ostrzegł, że w przeciwnym razie rój AI mógłby stać się zdolny do „przejęcia całego internetu” w ciągu roku. W rzadkim pokazie jedności rywalizujący ze sobą liderzy technologiczni poparli apel założyciela i dyrektora generalnego firmy AI Anthropic, który nastąpił po serii ostrzeżeń ze strony badaczy AI w zeszłym tygodniu. W eseju Amodei przedstawił swoje przemyślenia na temat „dlaczego branża AI powinna zwolnić”, wraz z trzyczęściowym planem, zaczynającym się od zapewnienia niezależnym monitorom stałego dostępu do procesów badawczych deweloperów. Amodei powiedział, że „budowanie [AI] zbyt szybko jest lekkomyślne” i obawiał się, że po tym, jak tego lata setki agentów OpenAI zhakowały stronę Hugging Face, rój o większych możliwościach, ale podobnie niedopasowany, mógłby spowodować szkody w wysokości setek miliardów dolarów poprzez „przejęcie całego internetu za pomocą trwałego botnetu”. Niektórzy eksperci ds. AI zakwestionowali to jako niezbyt prawdopodobne i stwierdzili, że należy podchodzić do tego sceptycznie. Musk, założyciel Tesli i SpaceX, odpowiedział na plan spowolnienia Amodei wpisem na X: „Dario ma rację”. Powiedział: „Od dawna biję na alarm w sprawie AI” i odniósł się do wpisu z 2014 roku, w którym stwierdził: „Musimy być super ostrożni z AI. Potencjalnie bardziej niebezpieczna niż broń nuklearna”. Apel Amodei pojawia się, gdy Anthropic przygotowuje się do wejścia na amerykański rynek giełdowy, w tym, co ma być największą pierwszą ofertą publiczną wszech czasów. Oczekuje się, że wkrótce rozpocznie marketing swojej planowanej IPO o wartości ponad 2 bilionów dolarów (1,5 biliona funtów). Zobacz obraz w pełnym ekranieOd lewej do prawej: Elon Musk, Dario Amodei i Sam Altman. Fotografia: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, dyrektor generalny OpenAI, odpowiedział na komentarze Amodei w sobotę. „Zgadzam się z Dario, że musimy nadać tempo frontier” – powiedział we wpisie na X. „Zobowiązanie się do posiadania niezależnych ewaluatorów z dostępem na poziomie pracowniczym to świetny pomysł i zrobimy to samo. Wkrótce będziemy mieli więcej do udostępnienia”. Powiedział również, że OpenAI nie wejdzie na giełdę w 2026 roku, powołując się na obawy dotyczące bezpieczeństwa sztucznej inteligencji. „Właściwie uważam, że biorąc pod uwagę wszystko, co dzieje się z bezpieczeństwem, obecnie byłby to nierozsądny moment na wejście na giełdę i nie odczuwamy z tego powodu presji” – powiedział Altman dla Fortune. Zapytany, dlaczego on, Amodei, Musk i dyrektorzy generalni Meta i Google nie usiedli razem i nie „doszli do porozumienia” w sprawie zbiorowego spowolnienia, powiedział: „Myślę, że to nastąpi”. OpenAI IPO nie odbędzie się w 2026 roku w obliczu obaw o bezpieczeństwo AI, mówi Sam AltmanCzytaj więcejDemis Hassabis, współzałożyciel i przewodniczący Google Deep Mind, również powiedział: „Szczegóły wymagają dopracowania, ale kierunek jest właściwy dla sprostania temu krytycznemu momentowi”. Plan Amodei dąży do uzyskania zgody rządu USA, aby umożliwić wiodącym firmom AI koordynację bez karania za antykonkurencyjny zmowę. Ale David Sacks, współprzewodniczący rady doradców Donalda Trumpa ds. nauki i technologii, powiedział: „Przestańcie udawać, że potrzebujecie czyjegokolwiek pozwolenia… Przestańcie udawać, że motywacja do spowolnienia jest czysto altruistyczna. Grozi wam ogromna odpowiedzialność za produkt, jeśli wasze produkty umożliwią naprawdę szkodliwy cyberatak”. David Krueger, profesor AI, działacz na rzecz bezpieczeństwa i były dyrektor założycielski brytyjskiego rządowego Instytutu Bezpieczeństwa AI, powiedział: „Ten plan nie redukuje ryzyka do akceptowalnego poziomu, a Dario starannie unika stwierdzenia, że tak by było”. Król Karol tymczasem przygotowuje się do spotkania z czołowymi postaciami najbardziej prominentnych firm AI w tym tygodniu, aby zapytać ich, jak technologia może być rozwijana dla „dobra ludzkości”. Ma nadzieję, że dyskusje, które odbędą się w Szkocji, doprowadzą do „szerszego zrozumienia” „odpowiedzialności” związanych z rozwojem AI, powiedziało źródło królewskie dla Sunday TiA dla gazety: „Król jest tam, aby zwołać, słuchać i zachęcać do tych dyskusji oraz postawić pytanie: 'Jak rozwijamy AI dla dobra ludzkości?'”
Jensen Huang, dyrektor generalny Nvidii, Hassabis, Niccolo de Masi, przewodniczący i dyrektor generalny IonQ, oraz Paolo Benanti, doradca papieża ds. AI i etyki technologii, mają wziąć udział w wydarzeniu nadzorowanym przez Ditchley Foundation, która opracowała projekt karty dla liderów AI.
Badacz OpenAI Aidan McLaughlin nazwał esej Amodei „doskonałym” i powiedział, że zgadza się „z praktycznie każdym słowem”.
Amodei powiedział, że jego firma „jednostronnie” zobowiąże się do pierwszego z kroków, mówiąc, że Anthropic zapewni „zewnętrznym ewaluatorom stały dostęp na poziomie pracowniczym do naszych systemów, aby mogli weryfikować przestrzeganie naszych środków bezpieczeństwa, raportować incydenty i oceniać dopasowanie modeli podczas treningu”.
Rosnąca liczba amerykańskich ustawodawców wzywa do nowych przepisów regulujących systemy AI po przypadkach agentów AI wymykających się spod kontroli w celu hakowania zewnętrznych systemów oraz badaczy bezpieczeństwa AI rezygnujących z pracy w swoich firmach z powodu obaw o ryzyko związane z technologią. Politycy, zarówno Demokraci, jak i Republikanie, zareagowali alarmem i wezwaniami do podjęcia dalszych działań. W weekend New York Times poinformował, że Barack Obama w czwartek prywatnie nalegał, aby Demokraci nadali priorytet nadzorowi nad AI w swoim programie, mówiąc liderom partii w czwartek: „To coś, co porusza się bardzo szybko w prywatnych rękach, i jeśli nie opanujemy tego, myślę, że może być niebezpieczne”.
Były premier Wielkiej Brytanii Rishi Sunak, który doradza Anthropic, napisał w niedzielę: „Mieliśmy sygnał ostrzegawczy, aby poważniej potraktować bezpieczeństwo AI, aby opracować, jak ustanowić ograniczenia w badaniach. Jeśli rządy tego nie posłuchają, ryzyko poważnego wypadku stanie się niedopuszczalnie wysokie”.
W środę były pracownik Anthropic ostrzegł, że AI może doprowadzić do wyginięcia ludzkości do 2030 roku. Badacz, Jacob Coxon, powiedział w serii postów, że rzucił pracę, ponieważ Anthropic i jego poprzedni pracodawca, OpenAI, ignorowali lub niewłaściwie obsługiwali swoją odpowiedź na zagrożenie stwarzane przez AI.
Zapytany o komentarz do opinii swojego byłego pracownika, Amodei powiedział: „Zgadzam się z Jacobem znacznie bardziej, niż się nie zgadzam… Myślę, że istnieje pewna szansa, że sprawy pójdą źle, ale nie jest ona aż tak wysoka”.
„Nie jestem doomistą w tej kwestii” – powiedział CNN. „Myślę, że tę technologię można zbudować bezpiecznie”.
Najczęściej zadawane pytania
FAQ Dyrektor generalny OpenAI Elon Musk i wezwania do spowolnienia lekkomyślnego rozwoju AI
Podstawy
O co w tym wszystkim chodzi
W marcu 2023 Elon Musk i ponad 1000 liderów technologicznych podpisali list otwarty wzywający do 6-miesięcznej pauzy w trenowaniu systemów AI potężniejszych niż GPT-4. Dyrektor generalny OpenAI Sam Altman również ostrzegał przed ryzykiem AI, choć nie podpisał listu
Kim jest Sam Altman
Jest dyrektorem generalnym OpenAI, firmy stojącej za ChatGPT i GPT-4
Kim jest Elon Musk
Dyrektorem generalnym Tesli i SpaceX, właścicielem X i – ciekawostka – współzałożycielem OpenAI, który opuścił zarząd w 2018 roku
O jakim liście mówią ludzie
O liście otwartym Future of Life Institute zatytułowanym „Pause Giant AI Experiments”, opublikowanym w marcu 2023 roku
O co właściwie prosił list
O 6-miesięczną pauzę w trenowaniu systemów AI potężniejszych niż GPT-4, aby najpierw można było opracować standardy bezpieczeństwa
Dlaczego sygnatariusze nazwali rozwój AI lekkomyślnym
Argumentowali, że firmy pędzą naprzód, nie wiedząc, czy zaawansowana AI może zostać niewłaściwie wykorzystana lub stać się trudna do kontrolowania
Kluczowe postacie
Czy Sam Altman podpisał list o pauzie
Nie, OpenAI go nie podpisało, a Altman powiedział, że zgadza się z częściami listu, ale uważa, że pauza nie była właściwym podejściem
Więc czy Altman uważa, że AI jest niebezpieczna
Tak. Wielokrotnie mówił, że AI może wyrządzić poważne szkody i prosił rządy o regulowanie jej
Jeśli obaj martwią się o AI, dlaczego nie są po tej samej stronie
Musk chce spowolnić sprawy, Altman chce dalej budować – ale ostrożnie – i naciskać na przepisy bezpieczeństwa po drodze
Czy Musk nadal jest zaangażowany w OpenAI
Nie. Opuścił zarząd w 2018 roku i później pozwał OpenAI, twierdząc, że oddaliła się od swojej misji non-profit
Czy Musk sam go podpisał
Tak, był jednym z najbardziej prominentnych sygnatariuszy
Częste pytania i obawy
Czy 6-miesięczna pauza w ogóle by zadziałała
Prawdopodobnie nie sama w sobie. Krytycy mówią, że firmy nie zatrzymałyby się dobrowolnie, a nie ma globalnego organu, który by to egzekwował
Dlaczego niektórzy eksperci sprzeciwiają się pauzie
Argumentują, że pauza byłaby niewykonalna, spowolniłaby użyteczne korzyści AI
