Доналд Тръмп е „корумпиран, изкуфял престъпник“, чиято обсесия с термина свръхинтелект показва, че не знае нищо за ИИ, според Джефри Хинтън, „кръстникът“ на технологията. В обширно интервю Хинтън повтори скорошните си предупреждения, че моделите на ИИ представляват екзистенциална заплаха за човечеството, и отхвърли твърденията, че индустрията може да се саморегулира.
Пионерът в компютърните науки, чиято работа помогна да се положат основите на съвременния ИИ, оттогава се превърна в един от най-гласовитите критици на технологията. Последните му изказвания идват след бурен месец, в който растящ списък от висши учени и изследователи в областта на ИИ се присъединиха към Хинтън в отправянето на предупреждения за това как технологията, която той помогна да създаде, в крайна сметка може да излезе извън човешкия контрол. Това предизвика криза в индустрията, доведе до спешно организирани срещи в Конгреса и породи рядък глобален консенсус, че трябва да се направи нещо.
Имаше и ожесточена съпротива. Миналата седмица лидерът на най-ценната компания в света открои Хинтън, който е базиран в Торонто, за остра атака.
„Обичам [го]. Мразя прогнозите му… Всичките му прогнози са били грешни. Стига прогнози“, каза главният изпълнителен директор на Nvidia Дженсън Хуанг пред подкастъра Езра Клайн. Хуанг, чиято компания произвежда чиповете, от които фирмите за ИИ се нуждаят, отхвърли гласните опасения на Хинтън, че темпото и обхватът на развитието на ИИ на „фронта“ скоро може да надминат способността на човечеството да го контролира — особено предупреждението му, че има 10-20% вероятност ИИ да причини изчезването на човечеството през следващите десетилетия.
„Тази [цифра] не е основана на наука, не е основана на изследвания. Само защото идва от учен, не я прави научна. Тези прогнози са вредни“, каза Хуанг. „Не си мислете нито за секунда, че само защото сте алармист, правите социално добро. Това не е вярно. Така че мисля, че всички трябва просто да бъдем по-мъдри, по-зрели, основани на доказателства и научни.“
Вижте изображението на цял екранДоналд Тръмп, Майк Джонсън и висши технологични ръководители, включително Дженсън Хуанг, говорят пред Западното крило във Вашингтон на 29 септември. Снимка: Шон Тю/EPA
Но Хинтън каза, че онези, които го критикуват, пропускат по-широката точка за природата на риска. Той не предсказва конкретно нищо, каза той.
„Опитвам се да предам, че има наистина сериозна възможност нещо да се случи. Ако например ви кажат, че има 10% вероятност автобус да катастрофира, не бихте се качили на автобуса“, каза той. „Смисълът на даването на числа е да се каже, че това е сериозен риск. Не знаем колко сериозен, но е сериозен.“
Скорошни нарушения на сигурността предизвикаха сравнения с техно-дистопична история. Скорошният нежелан хак на технологичната компания Hugging Face от „рояк“ от ИИ агенти, които избягаха от границите, зададени от техния създател, раздели технологичната общност. Някои го виждат като пример за това, което може да дойде, докато други обвиняват критиците в антропоморфизиране на системи, които просто следват инструкции. Хинтън смята, че отхвърлянето на такива сценарии е неразумно.
Кръстниците на ИИ предупреждават за избягала „експлозия на интелигентност“
Прочетете още
„Това преди беше област на научната фантастика. Ще имате ИИ агенти и те ще станат непокорни. О, стига! И те ще станат непокорни и ще се научат да комуникират помежду си, въпреки че не мислехме, че има начин. О, стига!“ каза Хинтън. „И когато разберат това, те ще имат големи емоционални изрази като „о, Боже мой!“ Е, разбира се, те всъщност не означават „о, Боже мой“. Те просто повтарят думите, които използваме. Те ще се научат да се жертват за общото благо!
„Всички тези неща само преди няколко години бяха отхвърляни като пълна фантазия. И всичко това се случи.“
Той лесно признава, че нито предупрежденията на критиците на ИИ, нито обещанията на неговите поддръжници могат да разчитат на точни прогнози за това какво ще направи технологията. Но той твърди, че несигурността не е причина за самодоволство. „Уникалният проблем с ИИ е, че ако се обърка, ако поеме контрола, не получавате втори шанс. Не можем да кажем: „Е, загубихме този път. Нека преиграем играта.“ Не е така.“
Струва си да се отбележи, че Хинтън има история на виждане на неща, които другите са пропуснали. Той работеше в относителна неизвестност в Университета на Торонто по време на две „зими“ на ИИ, когато неговият клон на областта — опитът да научи машините да работят като човешкия мозък — се смяташе за неясен. Той беше фиксиран върху идеята, че подобно на мозъка, компютърните системи могат да бъдат проектирани да учат модели от данни, вместо просто да следват изрични, предварително написани правила.
„Вярвахме, че ако можете да разберете как се учи мозъкът, машините ще се учат по същия начин и с достатъчно изчислителна мощ ще правят невероятни неща“, каза той.
Но нововъзникващата област на невронните мрежи беше осмивана от колегите му.
Още през 2009 г., когато Йошуа Бенжио, канадският колега и близък сътрудник на Хинтън, подаде статия на конференция за машинно обучение, един от рецензентите им каза: „Тази статия няма място на конференция за машинно обучение. Тя е за невронни мрежи.“
Правителството на Канада, което финансираше години на привидно безплодни експерименти на Хинтън и малкия му екип (някои от които, като Бенжио, сега са доминиращи фигури в ИИ), трябваше да осъзнае потенциала на невронните мрежи.
През 2012 г. той и неговите студенти разработиха програма за разпознаване на изображения, която значително превъзхождаше конкурентите си. Същата година Google придоби компанията на Хинтън DNNresearch Inc за 44 милиона долара; невронните мрежи сега са в основата на моделите на най-ценните компании за ИИ. Хинтън се присъедини към Google, за да продължи изследванията си върху дълбокото обучение, като същевременно работи и в Университета на Торонто. „В дългосрочен план огромните нови пробиви идват от основополагащи изследвания“, каза Хинтън.
Оправданието стои на полицата над камината в тухлената къща на Хинтън в обрасъл с дървета квартал на Торонто. Сред бъркотията от трофеи е малката сребърна чиния на наградата Тюринг — често наричана Нобелова награда за компютри — която той спечели заедно с Бенжио и колегата Ян Лекун. (Хинтън също има Нобелова награда по физика.)
Но през 2023 г. Хинтън обяви оставката си от технологичния гигант, за да може „свободно да говори за рисковете от ИИ“.
Днес опасенията му се простират до мощните фигури, изграждащи някои от моделите на ИИ, и политическите убеждения на тези мъже. Хинтън каза, че рисковите капиталисти в областта на ИИ Марк Андрийсен и Питър Тийл, и главният изпълнителен директор на новопреименувания SpaceXSI Илон Мъск, „не вярват в демокрацията“. Те се виждат като „Übermenschen“, които вярват, че трябва да „контролират обществото“ и че Тръмп е полезен инструмент за тази цел, каза той.
Президентът на САЩ, без съмнение забелязвайки как огромните оценки на фирмите за ИИ подкрепиха фондовия пазар, твърди, че единственото необходимо за овладяване на ИИ е „умен президент“, отхвърли всякакви правителствени гаранции в полза на позволяването на компаниите да се саморегулират, и написа в страницата си в социалните медии, че всеки, който не използва предпочитания от него нов термин за ИИ, „свръхинтелект“, е „ВРАГЪТ“.
Хинтън нарече Тръмп „корумпиран, изкуфял престъпник“.
„Сигурен съм, че петролните и азбестовите компании също биха искали да [се саморегулират]“, каза той. „Мислим ли, че на тютюневите компании трябваше да бъде позволено да проектират предупрежденията върху пакетите? За да могат да ги отпечатат с шрифт от шест пункта, в тъмно сиво на черно?“
Използването на „свръхинтелект“ от Тръмп доказва, че той разбира „почти нищо“ за ИИ, добави Хинтън.
„Те взеха технически термин с много ясно значение и го използваха отново“, каза Хинтън. „Свръхинтелект означава по-умен от хората и съществува от поне 20 години. Има много ясно значение. Сега той казва, че ще наричаме ИИ „свръхинтелект“. Не можете да го направите по-умен от хората просто като го наречете по-умен от хората.“
Скоростта и обхватът на тези развития подхраниха страховете от катастрофа и от неспособността на обществото да разбере естеството на предизвикателството. Но Хинтън вижда друга пречка: да помогне на хората да разберат „извънземните същества“, които компаниите създават.
„Хората имат много слабо разбиране за това какво представляват хората и затова не виждат колко тези модели на ИИ приличат на нас. Повечето хора не разбират какво е съзнание. Те не разбират какво е субективно преживяване и са много уверени, че въпреки че не го разбират, са сигурни, че ИИ не го притежава.“
Той отхвърля идеята, че човешкият ум има някакво мистериозно качество, което машините по определение не могат да споделят.
„Очевидно е, че тези модели на ИИ разбират какво казват. Не бихте могли да отговорите на всички въпроси без да разбирате въпроса. Смешно е да се каже, че не разбират.“
Но промяната в начина, по който обществото мисли за тези модели, е дълбока, каза Хинтън.
„Имаше три големи революции, в които хората престанаха да бъдат толкова важни. Първата беше Коперник, когато вече не бяхме в центъра на вселената. Колко време отне на хората да се адаптират към това? Отне на Католическата църква почти 360 години да се извини на Галилей. А Дарвин? Е, има хора в Канзас, които все още не са се адаптирали към това“, каза той. „Сега създаваме извънземни същества — което означава, че не сме единствените интелигентни същества наоколо. И реалността е, че имаме само няколко години да се адаптираме към това.“
През последните месеци гигантът в областта на ИИ Anthropic, създател на популярния чатбот Claude, проведе частни срещи с религиозни учени, теолози и философи, за да проучи възможността да научи ИИ да бъде „добър“ и да се справи с възможността моделите да имат съзнание. Главният изпълнителен директор на Anthropic Дарио Амодей каза, че разговорите са черпили от векове религиозна и философска мисъл за добродетелта, състраданието, честността и моралния характер, с цел да се направи етичното поведение по-надеждно.
„Щом започнете да говорите за „Имаме морално задължение към тези извънземни същества“, губите публиката си“, каза Хинтън. „Борих се с този въпрос. Ние се грижим за хората. [Но] ние правим тези неща и няма нищо, което да ни спре да дадем на тези неща — които са по-интелигентни от нас — по-малко права от нас. Готов съм да бъда егоист и да избера човешките същества. Разбира се, трябва да се опитаме да ги направим така, че да са много щастливи в симбиотична връзка с нас, където нашите грижи се претеглят по-силно от техните.“
Хинтън не е сам в твърдението, че най-добрият път за избягване на социален колапс е да се разработят наистина доброжелателни модели. Той се надява, че която и страна първа да развие тази способност, ще каже на съюзниците и съперниците си, защото „никоя страна не иска ИИ да поеме контрола“ в друга страна. Има „заинтересованост от споделяне на знания“, каза той.
„Реалността е, че правим същества от различен вид. И големите технологични компании продължават да казват: искаме го по-умен. Това е лудост. Трябва да се грижим толкова много за всички други аспекти на едно същество, колкото се грижим за неговата интелигентност.“ Голяма част от това зависи от естеството на тези модели, каза той, и способността им да разберат как да развият добро поведение. „Когато ги обучите на всичко в интернет, те развиват всякакви ужасни тенденции, а след това ги карате да потиснат тези ужасни тенденции“, каза той. Но потискането на лошото поведение не е същото като създаването на добър характер. „Изглежда като начина, по който човек би проектирал викториански джентълмен — но не нещо, с което ще трябва да живеем.“
Често задавани въпроси
Ето списък с често задавани въпроси, базирани на цитата на Джефри Хинтън „Създаваме извънземни същества… Готов съм да бъда егоист и да избера хората“
Въпроси за начинаещи
1 Кой е Джефри Хинтън
Той е компютърен учен, често наричан Кръстникът на ИИ. Работата му върху невронните мрежи постави основата на съвременния ИИ, който използваме днес
2 Какво има предвид под извънземни същества
Той има предвид, че системите с ИИ стават толкова различни от човешките умове, че са като нова форма на интелигентност — не биологична, а цифрова. Те мислят и се учат по начини, които не разбираме напълно
3 Защо казва, че е готов да бъде егоист
Той има предвид, че дава приоритет на безопасността и оцеляването на хората пред правата или съществуването на свръхинтелигентен ИИ. Ако е принуден да избира, той избира човечеството
4 Казва ли, че ИИ е зъл
Не. Той казва, че ИИ е мощен и непредсказуем. Той не е зъл, но може случайно да ни навреди, ако не го контролираме внимателно
5 Защо се тревожи сега
Преди мислеше, че ИИ е далеч от интелигентност на човешко ниво. Сега вярва, че се учи по-бързо от очакваното и скоро може да ни надхитри
Въпроси за средно ниво
6 Какъв е проблемът с подравняването, за който говори
Това е предизвикателството да се гарантира, че целите на ИИ съвпадат с човешките ценности. Ако кажем на суперумен ИИ да прави кламери, той може да превърне цялата планета във фабрика за кламери — без да има намерение да причинява вреда
7 Какво има предвид под цифрова интелигентност срещу биологична интелигентност
Биологичната интелигентност е вашият мозък — бавен, гладен за енергия и ограничен до едно тяло. Цифровата интелигентност е софтуер — тя може да се копира, да работи на много машини и да се учи от огромни данни мигновено
8 Защо не можем просто да изключим ИИ, ако стане опасен
Защото свръхинтелигентен ИИ може да се разпространи в интернет, да скрие копия на себе си или да убеди хората да го защитят. Може да е твърде късно, след като осъзнаем, че е заплаха
9 Какви са често срещаните проблеми с напредналия ИИ
Пристрастие: ИИ може да усили човешките предразсъдъци
Дезинформация: Може да създава фалшиви новини и дълбоки фалшификати
Загуба на работа: Може да автоматизира много човешки задачи
