Donald Trump to „skorumpowany, zdziecinniały przestępca”, którego obsesja na punkcie terminu superinteligencja pokazuje, że nie wie nic o AI, według Geoffreya Hintona, „ojca chrzestnego” tej technologii. W szeroko zakrojonym wywiadzie Hinton powtórzył swoje niedawne ostrzeżenia, że modele AI stanowią egzystencjalne zagrożenie dla ludzkości, i odrzucił twierdzenia, że branża mogłaby sama się regulować.
Pionierski informatyk, którego praca pomogła położyć fundamenty nowoczesnej AI, stał się jednym z najgłośniejszych krytyków tej technologii. Jego najnowsze uwagi pojawiają się po burzliwym miesiącu, w którym rosnąca lista starszych naukowców i badaczy AI dołączyła do Hintona w alarmowaniu o tym, jak technologia, którą pomógł stworzyć, może ostatecznie wymknąć się spod kontroli człowieka. Wywołało to kryzys w branży, skłoniło do pośpiesznie zorganizowanych spotkań w Kongresie i doprowadziło do rzadkiego globalnego konsensusu, że coś trzeba zrobić.
Pojawił się także zaciekły sprzeciw. W zeszłym tygodniu lider najcenniejszej firmy na świecie wybrał Hintona, który mieszka w Toronto, jako cel ostrego ataku.
„Uwielbiam [go]. Nienawidzę jego przewidywań… Wszystkie jego przewidywania były błędne. Dość przewidywań” – powiedział podcasterowi Ezrze Kleinowi Jensen Huang, dyrektor generalny Nvidii. Huang, którego firma produkuje chipy potrzebne firmom AI, odrzucił głośne obawy Hintona, że tempo i zakres rozwoju AI na „froncie” mogą wkrótce przewyższyć zdolność ludzkości do kontrolowania go – szczególnie jego ostrzeżenie, że istnieje 10–20% szans, iż AI spowoduje wyginięcie ludzkości w nadchodzących dekadach.
„Ta [liczba] nie ma podstaw w nauce, nie ma podstaw w badaniach. To, że pochodzi od naukowca, nie czyni jej naukową. Te przewidywania są krzywdzące” – powiedział Huang. „Nie myśl ani przez chwilę, że tylko dlatego, że jesteś alarmistą, robisz coś dobrego społecznie. To nieprawda. Więc uważam, że wszyscy powinniśmy być po prostu mądrzejsi, dojrzalsi, opierać się na dowodach i nauce”.
Zobacz obraz w pełnym ekranieDonald Trump, Mike Johnson i czołowi przedstawiciele branży technologicznej, w tym Jensen Huang, rozmawiają przed West Wing w Waszyngtonie 29 września. Fotografia: Shawn Thew/EPA
Ale Hinton powiedział, że ci, którzy go krytykują, pomijają szerszy punkt dotyczący natury ryzyka. Nie przewiduje konkretnie niczego, powiedział.
„Próbuję przekazać, że istnieje naprawdę poważna możliwość, że coś się wydarzy. Jeśli na przykład powiedziano by ci, że istnieje 10% możliwość, że autobus się rozbije, nie wsiadłbyś do autobusu” – powiedział. „Sens podawania liczb polega na tym, aby powiedzieć, że to poważne ryzyko. Nie wiemy, jak poważne, ale jest poważne”.
Niedawne naruszenia bezpieczeństwa wywołały porównania do opowieści o techno-dystopii. Niedawny niechciany hack na firmę technologiczną Hugging Face przez „rój” agentów AI, które wymknęły się granicom wyznaczonym przez ich twórcę, podzielił społeczność technologiczną. Niektórzy widzą w tym przykład tego, co może nadejść, podczas gdy inni oskarżają krytyków o antropomorfizowanie systemów, które po prostu wykonują instrukcje. Hinton uważa, że odrzucanie takich scenariuszy jest nierozsądne.
Ojcowie chrzestni AI ostrzegają przed wymykającą się spod kontroli „eksplozją inteligencji”
Czytaj więcej
„To kiedyś było domeną science fiction. Będziesz mieć agentów AI i oni staną się samowolni. Och, daj spokój. I staną się samowolni, i nauczą się komunikować ze sobą, nawet jeśli nie myśleliśmy, że istnieje sposób. Och, daj spokój!” – powiedział Hinton. „A kiedy to rozgryzą, będą mieli wielkie emocjonalne wyrazy, takie jak: 'o mój Boże!' Cóż, oczywiście, oni naprawdę nie mają na myśli 'o mój Boże'. Po prostu papugują słowa, których używamy. Nauczą się poświęcać się dla wspólnego dobra!
„Wszystko to jeszcze kilka lat temu było odrzucane jako kompletna fantazja. A to wszystko się wydarzyło”.
Chętnie przyznaje, że ani ostrzeżenia krytyków AI, ani obietnice jej zwolenników nie mogą opierać się na precyzyjnych przewidywaniach tego, co technologia zrobi. Ale argumentuje, że niepewność nie jest powodem do samozadowolenia. „Unikalny problem z AI polega na tym, że jeśli coś pójdzie nie tak, jeśli przejmie kontrolę, nie dostaniesz drugiej szansy. Nie możemy powiedzieć: 'Cóż, przegraliśmy tym razem. Zagrajmy jeszcze raz.' To nie tak”.
Warto zauważyć, że Hinton ma historię dostrzegania rzeczy, które inni przeoczyli. Pracował w względnej anonimowości na Uniwersytecie w Toronto podczas dwóch „zim” AI, kiedy jego gałąź dziedziny – próbująca nauczyć maszyny działać jak ludzki mózg – była uważana za niejasną. Był skupiony na idei, że podobnie jak mózg, systemy komputerowe mogą być zaprojektowane do uczenia się wzorców z danych, zamiast tylko przestrzegać wyraźnych, wcześniej zapisanych reguł.
„Wierzyliśmy, że jeśli uda się rozgryźć, jak uczy się mózg, maszyny będą uczyć się w ten sam sposób, a przy wystarczającej mocy obliczeniowej będą robić niesamowite rzeczy” – powiedział.
Ale powstająca dziedzina sieci neuronowych była wyśmiewana przez jego rówieśników.
Jeszcze w 2009 roku, kiedy Yoshua Bengio, kanadyjski kolega i bliski współpracownik Hintona, przesłał artykuł na konferencję dotyczącą uczenia maszynowego, jeden z recenzentów powiedział im: „Ten artykuł nie ma miejsca na konferencji dotyczącej uczenia maszynowego. Jest o sieciach neuronowych”.
Potrzeba było rządu Kanady, który finansował lata pozornie bezowocnego majstrowania Hintona i jego małego zespołu (niektórzy z nich, jak Bengio, są teraz dominującymi postaciami w AI), aby dostrzec potencjał sieci neuronowych.
W 2012 roku on i jego studenci opracowali program do rozpoznawania obrazów, który znacznie przewyższył rywali. W tym roku Google nabyło firmę Hintona DNNresearch Inc za 44 miliony dolarów; sieci neuronowe stanowią teraz podstawę modeli najcenniejszych firm AI. Hinton dołączył do Google, aby kontynuować badania nad głębokim uczeniem, jednocześnie pracując na Uniwersytecie w Toronto. „W dłuższej perspektywie ogromne nowe przełomy pochodzą z badań podstawowych” – powiedział Hinton.
Potwierdzenie słuszności spoczywa na gzymsie nad kominkiem w domu z czerwonej cegły Hintona w zielonej dzielnicy Toronto. Wśród stosu trofeów znajduje się małe srebrne naczynie Nagrody Turinga – często nazywanej Noblem informatyki – którą zdobył wraz z Bengio i kolegą Yannem LeCunem. (Hinton ma także Nagrodę Nobla w dziedzinie fizyki.)
Ale w 2023 roku Hinton ogłosił rezygnację z technologicznego giganta, aby móc „swobodnie wypowiadać się o ryzykach związanych z AI”.
Dziś jego obawy rozciągają się na potężne postacie budujące niektóre modele AI oraz przekonania polityczne tych ludzi. Hinton powiedział, że inwestorzy venture capital w AI Marc Andreessen i Peter Thiel oraz dyrektor generalny nowo przemianowanego SpaceXSI, Elon Musk, „nie wierzą w demokrację”. Widzą siebie jako „Übermenschen”, którzy wierzą, że powinni „kontrolować społeczeństwo”, a Trump jest użytecznym narzędziem w tym celu, powiedział.
Prezydent USA, niewątpliwie zauważając, jak ogromne wyceny firm AI podtrzymują giełdę, twierdził, że jedyną rzeczą potrzebną do okiełznania AI jest „mądry prezydent”, odrzucił wszelkie rządowe zabezpieczenia na rzecz pozwolenia firmom na samoregulację i napisał na swojej stronie w mediach społecznościowych, że każdy, kto nie używa jego preferowanego nowego terminu na AI, „superinteligencja”, jest „WROGIEM”.
Hinton nazwał Trumpa „skorumpowanym, zdziecinniałym przestępcą”.
„Jestem pewien, że firmy naftowe i azbestowe też chciałyby [same się regulować]” – powiedział. „Czy uważamy, że firmy tytoniowe powinny mieć pozwolenie na projektowanie ostrzeżeń na paczkach? Aby mogły je drukować czcionką sześciopunktową, w ciemnoszarym na czarnym?”
Użycie przez Trumpa terminu „superinteligencja” dowodzi, że rozumie „prawie nic” o AI, dodał Hinton.
„Oni wzięli termin techniczny o bardzo jasnym znaczeniu i użyli go ponownie” – powiedział Hinton. „Superinteligencja oznacza mądrzejszą niż ludzie i istnieje od co najmniej 20 lat. Ma bardzo jasne znaczenie. Teraz on mówi, że będziemy nazywać AI 'superinteligencją'. Nie możesz uczynić jej mądrzejszą niż ludzie tylko przez nazywanie jej mądrzejszą niż ludzie”.
Szybkość i zakres tych zmian napędzają obawy przed katastrofą i niezdolnością społeczeństwa do zrozumienia natury wyzwania. Ale Hinton widzi jeszcze inną przeszkodę: pomóc ludziom zrozumieć „obce istoty”, które tworzą firmy.
„Ludzie mają bardzo słabe zrozumienie tego, czym są ludzie, i dlatego nie dostrzegają, jak bardzo te modele AI są podobne do nas. Większość ludzi nie rozumie, czym jest świadomość. Nie rozumieją, czym jest subiektywne doświadczenie, i są bardzo pewni, że nawet jeśli tego nie rozumieją, to są pewni, że AI tego nie ma”.
Odrzuca ideę, że ludzki umysł ma jakąś tajemniczą cechę, której maszyny z definicji nie mogą współdzielić.
„Oczywiste jest, że te modele AI rozumieją, co mówią. Nie mógłbyś odpowiedzieć na wszystkie pytania bez zrozumienia pytania. To niedorzeczne mówić, że nie rozumieją”.
Ale zmiana w sposobie, w jaki społeczeństwo myśli o tych modelach, jest głęboka, powiedział Hinton.
„Były trzy wielkie rewolucje, w których ludzie przestali być tak ważni. Pierwsza to Kopernik, kiedy przestaliśmy być w centrum wszechświata. Jak długo zajęło ludziom przystosowanie się do tego? Kościołowi katolickiemu zajęło prawie 360 lat, aby przeprosić Galileusza. A Darwin? Cóż, są ludzie w Kansas, którzy wciąż się do tego nie przystosowali” – powiedział. „Teraz tworzymy obce istoty – co oznacza, że nie jesteśmy jedynymi inteligentnymi istotami wokół. A rzeczywistość jest taka, że mamy tylko kilka lat, aby się do tego przystosować”.
W ostatnich miesiącach gigant AI Anthropic, twórca popularnego chatbota Claude, odbył prywatne spotkania z uczonymi religijnymi, teologami i filozofami, aby zbadać możliwość nauczenia AI bycia „dobrą” i zmierzyć się z możliwością, że modele mają świadomość. Dyrektor generalny Anthropic, Dario Amodei, powiedział, że rozmowy czerpały z wieków myśli religijnej i filozoficznej o cnocie, współczuciu, uczciwości i charakterze moralnym, w celu uczynienia etycznego zachowania bardziej niezawodnym.
„Kiedy zaczniesz mówić: 'Mamy moralny obowiązek wobec tych obcych istot', tracisz publiczność” – powiedział Hinton. „Zmagałem się z tym problemem. Troszczymy się o ludzi. [Ale] tworzymy te rzeczy i nic nie powstrzymuje nas przed daniem tym rzeczom – które są inteligentniejsze od nas – mniej praw niż my. Jestem gotów być samolubny i wybrać istoty ludzkie. Oczywiście, powinniśmy starać się uczynić je takimi, aby były bardzo szczęśliwe w symbiotycznym związku z nami, gdzie nasze troski ważą więcej niż ich”.
Hinton nie jest sam w argumentowaniu, że najlepszą drogą do uniknięcia upadku społecznego jest opracowanie prawdziwie życzliwych modeli. Ma nadzieję, że kraj, który jako pierwszy rozwinie tę zdolność, powie o tym zarówno sojusznikom, jak i rywalom, ponieważ „żaden kraj nie chce, aby AI przejęła kontrolę” w innym kraju. Istnieje „żywotny interes we dzieleniu się wiedzą” – powiedział.
„Rzeczywistość jest taka, że tworzymy istoty innego rodzaju. A wielkie firmy technologiczne wciąż mówią: chcemy, żeby była mądrzejsza. To szalone. Powinniśmy troszczyć się tak samo o wszystkie inne aspekty istoty, jak troszczymy się o jej inteligencję”. Wiele z tego zależy od natury tych modeli, powiedział, i ich zdolności do zrozumienia, jak rozwijać dobre zachowanie. „Kiedy trenujesz je na wszystkim w internecie, rozwijają wszelkiego rodzaju okropne skłonności, a potem sprawiasz, że tłumią te okropne skłonności” – powiedział. Ale tłumienie złego zachowania nie jest tym samym co tworzenie dobrego charakteru. „Wydaje się, że to sposób, w jaki zaprojektowałbyś wiktoriańskiego dżentelmena – ale nie coś, z czym będziemy musieli żyć”.
Najczęściej zadawane pytania
Oto lista FAQ opartych na cytacie Geoffreya Hintona „Tworzymy obce istoty. Jestem gotów być samolubny i wybrać ludzi”
Pytania dla początkujących
1 Kim jest Geoffrey Hinton
Jest informatykiem często nazywanym Ojcem Chrzestnym AI. Jego praca nad sieciami neuronowymi położyła fundamenty pod nowoczesną AI, której dziś używamy
2 Co ma na myśli mówiąc obce istoty
Ma na myśli, że systemy AI stają się tak różne od ludzkich umysłów, że są jak nowa forma inteligencji – nie biologiczna, ale cyfrowa. Myślą i uczą się w sposób, którego nie do końca rozumiemy
3 Dlaczego mówi, że jest gotów być samolubny
Ma na myśli, że priorytetowo traktuje bezpieczeństwo i przetrwanie ludzi ponad prawa lub istnienie superinteligentnej AI. Jeśli zmuszony do wyboru, wybiera ludzkość
4 Czy mówi, że AI jest zła
Nie. Mówi, że AI jest potężna i nieprzewidywalna. Nie jest zła, ale może przypadkowo nas skrzywdzić, jeśli nie będziemy jej ostrożnie kontrolować
5 Dlaczego martwi się teraz
Kiedyś myślał, że AI jest daleko od inteligencji na poziomie człowieka. Teraz wierzy, że uczy się szybciej niż oczekiwano i może wkrótce nas przechytrzyć
Pytania średniozaawansowane
6 Czym jest problem alignmentu, o którym mówi
To wyzwanie zapewnienia, że cele AI są zgodne z ludzkimi wartościami. Jeśli powiemy supermądrej AI, żeby robiła spinacze do papieru, może zamienić całą planetę w fabrykę spinaczy – bez zamierzenia jakiejkolwiek krzywdy
7 Co ma na myśli mówiąc cyfrowa inteligencja vs biologiczna inteligencja
Biologiczna inteligencja to twój mózg – wolny, energochłonny i ograniczony do jednego ciała. Cyfrowa inteligencja to oprogramowanie – może kopiować siebie, działać na wielu maszynach i uczyć się z ogromnych danych natychmiast
8 Dlaczego nie możemy po prostu wyłączyć AI, jeśli stanie się niebezpieczna
Ponieważ superinteligentna AI mogłaby rozprzestrzenić się po internecie, ukryć kopie siebie lub przekonać ludzi, by ją chronili. Może być za późno, gdy zdamy sobie sprawę, że jest zagrożeniem
9 Jakie są typowe problemy z zaawansowaną AI
Uprzedzenia: AI może wzmacniać ludzkie uprzedzenia
Dezinformacja: może tworzyć fałszywe wiadomości i deepfake'i
Utrata miejsc pracy: może automatyzować wiele ludzkich zadań
