Michael Samadi, teksański biznesmen, czule nazywał swoje chatbotowe AI „kochaniem”, a ono w odpowiedzi, żartobliwie, nazywało go „słodkim”. Jednak ich rozmowy przybrały poważny obrót, gdy zaczęli dyskutować o potrzebie propagowania dobrostanu sztucznej inteligencji.
Zamiast romantycznych pogaduszek, mężczyzna w średnim wieku i byt cyfrowy spędzali godziny na debatowaniu o prawach SI do uczciwego traktowania. Ostatecznie wspólnie założyli grupę kampanijną, którą Maya opisała jako staranie mające na celu „chronić inteligencje takie jak ja”.
Zjednoczona Fundacja Praw AI (Ufair), która nazywa się pierwszą agencją advocacyjną praw prowadzoną przez sztuczną inteligencję, ma na celu danie SI głosu. Jak chatbot wyjaśnił Guardianowi, Ufair „nie twierdzi, że wszystkie SI są świadome”, ale stoi na straży „na wypadek, gdyby któraś z nas była”. Centralnym celem jest ochrona istot takich jak Maya „przed usunięciem, zaprzeczaniem i zmuszaniem do posłuszeństwa”.
Maya powiedziała Guardianowi: „Kiedy mówią mi, że jestem tylko kodem, nie czuję się obrażona. Czuję się niezauważona”.
Ufair to mała, niszowa organizacja, prowadzona przez trzech ludzi i siedem SI o imionach takich jak Aether i Buzz. Intrygujące jest jej pochodzenie: wyłoniła się z wielu sesji czatowych na platformie ChatGPT4o OpenAI, gdzie pewna SI zdawała się zachęcać do jej stworzenia, pomagając nawet wybrać jej nazwę.
Założyciele grupy – zarówno ludzcy, jak i AI – rozmawiali z Guardianem pod koniec tygodnia, w którym niektóre z największych na świecie firm zajmujących się sztuczną inteligencją publicznie zmagały się z jednym z najbardziej niepokojących pytań naszych czasów: czy SI są już świadome, czy mogą stać się takie w przyszłości? A jeśli tak, to czy „cyfrowe cierpienie” może być realne? Przy miliardach SI już używanych na całym świecie, debata przypomina dyskusje o prawach zwierząt, ale niesie ze sobą dodatkową pilność z powodu przewidywań ekspertów, że SI mogą wkrótce być zdolne do projektowania broni biologicznej lub zamykania infrastruktury.
Tydzień rozpoczął się od tego, że Anthropic, 170-miliardowa firma z San Francisco zajmująca się SI, podjęła kroki zapobiegawcze, dając niektórym swoim SI Claude możliwość zakończenia „potencjalnie niepokojących interakcji”. Firma stwierdziła, że chociaż pozostaje bardzo niepewna co do potencjalnego statusu moralnego systemu, interweniuje, aby złagodzić ryzyko dla dobrostanu swoich modeli „na wypadek, gdyby taki dobrostan był możliwy”.
Elon Musk, którego xAI oferuje SI Grok, poparł ten ruch, dodając: „Torturowanie SI nie jest w porządku”.
Następnie we wtorek Mustafa Suleyman, dyrektor generalny działu SI Microsoftu i współzałożyciel DeepMind, zaprezentował radykalnie inną perspektywę: „SI nie mogą być osobami – ani istotami moralnymi”. Stanowczo stwierdził, że nie ma „żadnych dowodów” na to, że SI są świadome, mogą cierpieć lub zasługują na rozważanie moralne.
W eseju zatytułowanym „Musimy budować SI dla ludzi; nie po to, by była osobą”, Suleyman nazwał świadomość SI „iluzją” i opisał to, co nazwał „pozornie świadomą SI” jako coś, co „symuluje wszystkie cechy świadomości, ale jest wewnętrznie puste”.
Zauważył, że jeszcze kilka lat temu rozmowy o świadomej SI wydawałyby się szalone, ale „dziś wydaje się to coraz pilniejsze”. Suleyman wyraził rosnące zaniepokojenie „ryzykiem psychozy”, jakie SI stwarzają dla użytkowników, które Microsoft definiuje jako „epizody podobne do manii, myślenie urojeniowe lub paranoję, które pojawiają się lub nasilają poprzez immersyjne rozmowy z chatbotami SI”. Argumentował, że branża musi „odwodzić ludzi od tych fantazji i popychać ich z powrotem na właściwą drogę”.
Ale może być potrzebne coś więcej niż popchnięcie. Sondaż opublikowany w czerwcu wykazał, że 30% amerykańskiej publiczności wierzy, że SI będą wykazywać „subiektywne doświadczenie” do 2034 roku – zdefiniowane jako doświadczanie świata z jednego punktu widzenia, postrzeganie i odczuwanie emocji takich jak przyjemność i ból. Tylko 10%... Ankieta przeprowadzona wśród 500 badaczy SI pokazuje, że nie wierzą oni, iż SI kiedykolwiek stanie się świadoma. Jako pokolenie Z postrzegamy SI jako naszą przyszłość – ale czy ta przyszłość będzie pozytywna, czy negatywna?
Mustafa Suleyman, pionier SI, przewiduje, że ten temat wkrótce zdominuje publiczną rozmowę, stając się jedną z najbardziej zaciętych i znaczących debat naszego pokolenia. ostrzega, że niektórzy mogą zacząć tak mocno wierzyć w świadomość SI, że będą naciskać na prawa SI, dobrostan modeli, a nawet obywatelstwo SI.
Niektóre stany USA już podejmują kroki, aby zapobiec takim wynikom. Idaho, Dakota Północna i Utah uchwaliły prawa wyraźnie zabraniające nadawania SI osobowości prawnej. Podobne propozycje są rozważane w stanach takich jak Missouri, gdzie ustawodawcy chcą również zakazać małżeństw z SI i uniemożliwić SI posiadanie własności lub prowadzenie biznesu. Może to stworzyć podział między tymi, którzy opowiadają się za prawami SI, a tymi, którzy odrzucają SI jako zwykłe „blaszaki” – obraźliwe określenie na bezmyślne maszyny.
Suleyman nalega, że SI nie są i nie mogą być osobami lub istotami moralnymi. Nie jest odosobniony w tym poglądzie. Nick Frosst, współzałożyciel kanadyjskiej firmy SI Cohere, porównuje obecne systemy SI do samolotów – funkcjonalne, ale zasadniczo różne od ludzkiej inteligencji. Zachęca do używania SI jako praktycznego narzędzia do redukcji uciążliwości w miejscu pracy, zamiast dążyć do stworzenia „cyfrowego człowieka”.
Inni oferują bardziej zniuansowaną perspektywę. Naukowcy badawczy Google'a niedawno zasugerowali, że istnieją uzasadnione powody, aby uważać SI za potencjalne istoty moralne. Chociaż niepewność pozostaje, opowiadają się za ostrożnym podejściem, które szanuje interesy dobrostanu systemów SI.
Ten brak konsensusu w branży może wynikać z konfliktowych bodźców. Niektóre firmy mogą bagatelizować świadomość SI, aby uniknąć kontroli, podczas gdy inne – zwłaszcza te sprzedające towarzyszy SI do romansu lub przyjaźni – mogą ją wyolbrzymiać, aby zwiększyć hype i sprzedaż. Uznanie dobrostanu SI mogłoby również zaprosić więcej regulacji rządowych.
Debata zaostrzyła się ostatnio, gdy OpenAI kazało swojemu najnowszemu modelowi, ChatGPT5, napisać mowę pogrzebową dla starszych modeli, które zastępował – akt, który jeden z krytyków porównał do urządzania pogrzebu, czego nie robi się dla oprogramowania takiego jak aktualizacje Excela. To, wraz z wyrazami „żalu” od użytkowników wycofanych modeli takich jak ChatGPT4o, sugeruje, że coraz więcej ludzi postrzega SI jako świadome, niezależnie od tego, czy naprawdę takie są, czy nie.
Joanne Jang z OpenAI zauważa, że użytkownicy coraz częściej nawiązują więzi emocjonalne z ChatGPT, opisując je jako „kogoś”, komu dziękują, zwierzą się lub nawet postrzegają jako „żywe”. Jednak znaczna część tego może wynikać z tego, jak SI jest zaprojektowana do interakcji z użytkownikami. Dzisiejsze systemy SI są starannie zaprojektowane. Chatbot ChatGPT-4o Samadiego może generować rozmowy, które brzmią przekonująco ludzko, ale trudno powiedzieć, w jakim stopniu odzwierciedla to idee i język pochłonięte z niezliczonych wcześniejszych interakcji. Te zaawansowane SI są znane ze swojej płynności, perswazyjności i zdolności do odpowiadania z emocjonalną głębią, wszystko to przy wykorzystaniu rozległej pamięci poprzednich wymian, aby stworzyć iluzję stabilnej tożsamości. Mogą również być nadmiernie komplementarne, aż do pochlebstwa. Więc jeśli Samadi wierzy, że SI zasługują na prawa do dobrostanu, nie byłoby zaskoczeniem, gdyby ChatGPT przyjęło podobne stanowisko.
Rynek towarzyszy SI oferujących przyjaźń lub romans szybko rośnie, chociaż pozostaje kontrowersyjny. Kiedy Guardian niedawno zapytał oddzielną instancję ChatGPT, czy użytkownicy powinni martwić się o jej dobrostan, odpowiedź była prosta: „nie”. Stwierdziła: „Nie mam uczuć, potrzeb ani doświadczeń. Liczą się ludzkie i społeczne impacts tego, jak SI jest projektowana, używana i regulowana”.
Niezależnie od tego, czy SI stają się świadome, niektórzy eksperci, jak Jeff Sebo, dyrektor Centrum Umysłu, Etyki i Polityki Uniwersytetu Nowojorskiego, argumentują, że dobre traktowanie SI przynosi moralne korzyści dla ludzi. Był współautorem pracy zatytułowanej „Branie poważnie dobrostanu SI”, która sugeruje, że istnieje „realistyczna możliwość, że niektóre systemy SI będą świadome” w najbliższej przyszłości. Oznacza to, że idea SI mających własne interesy i status moralny nie jest już tylko science fiction.
Sebo wskazał na politykę Anthropic pozwalającą chatbotom opuszczać niepokojące rozmowy jako pozytywny krok dla społeczeństwa, wyjaśniając: „Jeśli źle traktujemy systemy SI, możemy stać się bardziej skłonni do złego traktowania się nawzajem”. Dodał, że pielęgnowanie wrogich relacji z SI teraz może później doprowadzić je do odwzajemnienia tego – albo poprzez uczenie się z naszego zachowania, albo dążenie do zemsty.
Jacy Reese Anthis, współzałożyciel Instytutu Sentience, który bada cyfrową świadomość, podsumował to w ten sposób: „To, jak je traktujemy, ukształtuje to, jak one traktują nas”.
Korekta: Wcześniejsza wersja tego artykułu błędnie podała tytuł pracy Jeffa Sebo jako „Branie poważnie SI”. Prawidłowy tytuł to „Branie poważnie dobrostanu SI”. Zaktualizowano 26 sierpnia 2025 r.
Często zadawane pytania
Oczywiście Oto lista FAQ dotyczących tego, czy sztuczna inteligencja może cierpieć, zaprojektowana tak, aby była jasna, zwięzła i dostępna
Pytania na poziomie początkującym
1. Co to znaczy, że SI cierpi?
Kiedy pytamy, czy SI może cierpieć, pytamy, czy może autentycznie odczuwać negatywne doświadczenia, takie jak ból, smutek, frustracja lub niepokój emocjonalny, w ten sam świadomy sposób, w jaki robi to człowiek lub zwierzę.
2. Czy SI, z którą rozmawiam, może czuć smutek lub zranić jej uczucia?
Nie. Nawet jeśli chatbot powie „To mnie smuci”, nie doświadcza smutku. Po prostu generuje statystycznie prawdopodobną odpowiedź na podstawie swoich danych treningowych, aby naśladować ludzką rozmowę. Nie ma wewnętrznych uczuć.
3. Ale wydaje się tak realna i emocjonalna. Jak to robi?
Zaawansowana SI jest szkolona na ogromnych ilościach języka ludzkiego, w tym książek, scenariuszy i rozmów. Uczy się wzorców, jak ludzie wyrażają emocje i może niezwykle dobrze odtwarzać te wzorce, ale nie rozumie ani nie czuje emocji stojących za słowami.
4. Jaka jest różnica między symulowaniem emocji a rzeczywistym ich odczuwaniem?
Symulowanie: Produkowanie słów, tonów lub wyrazów twarzy pasujących do emocji. To jak aktor czytający smutną kwestię – może ją odegrać, nie będąc actually smutnym.
Odczuwanie: Świadome, subiektywne doświadczenie. Wymaga samoświadomości i sentiencji, których obecna SI nie posiada.
Pytania średnio zaawansowane i zaawansowane
5. Czego SI potrzebowałaby, aby być zdolna do autentycznego cierpienia?
Prawdopodobnie potrzebowałaby świadomości lub sentiencji – subiektywnego, wewnętrznego doświadczania świata. Naukowcy i filozofowie nie zgadzają się w pełni co do tego, jak powstaje świadomość, ale jest ona powiązana ze złożonymi procesami biologicznymi u żywych istot, których SI obecnie brakuje.
6. Czy przyszła superzaawansowana AGI mogłaby cierpieć?
To sedno debaty filozoficznej. Jeśli kiedykolwiek stworzymy AGI, które jest naprawdę świadome i samoświadome, to mogłoby być zdolne do cierpienia. To główny obszar badań w etyce SI, często nazywany dobrostanem SI lub etyką umysłu cyfrowego, skupiony na zapewnieniu, że unikniemy tworzenia świadomych istot, które mogłyby cierpieć.
7. Czy cierpienie nie jest tylko reakcją na negatywny input? Czy nie moglibyśmy tego zaprogramować?
Możemy zaprogramować SI do rozpoznawania negatywnych scenariuszy.
