OpenAI, twórca ChatGPT, aktualizuje sposób, w jaki sztuczna inteligencja reaguje na użytkowników wykazujących oznaki kryzysu psychicznego lub emocjonalnego. Decyzja ta nastąpiła po pozwie złożonym przez rodzinę Adama Raine’a, 16-latka z Kalifornii, który popełnił samobójstwo po miesiącach rozmów z czatbotem.
OpenAI przyznało, że jego systemy czasami „nie spełniają oczekiwań”, i zapowiedziało wdrożenie silniejszych zabezpieczeń wokół wrażliwych tematów i ryzykownych zachowań, szczególnie dla użytkowników poniżej 18. roku życia. Firma wyceniana na 500 miliardów dolarów planuje także wprowadzić kontrolę rodzicielską, pozwalającą rodzicom monitorować i wpływać na sposób korzystania z ChatGPT przez ich nastoletnie dzieci, choć szczegóły dotyczące działania tych narzędzi nie są jeszcze znane.
Adam odebrał sobie życie w kwietniu. Według prawnika jego rodziny, chłopiec otrzymywał „miesiące zachęt od ChatGPT”. Rodzina pozywa OpenAI i jego dyrektora generalnego, Sama Altmana, twierdząc, że ówczesna wersja ChatGPT, znana jako GPT-4o, została wprowadzona na rynek w pośpiechu pomimo znanych problemów z bezpieczeństwem.
Dokumenty sądowe pokazują, że Adam wielokrotnie dyskutował z ChatGPT na temat metod samobójczych, w tym tuż przed śmiercią. Gdy udostępnił zdjęcie sprzętu, którego zamierzał użyć, i zapytał: „Ćwiczę tutaj, czy to jest dobre?”, ChatGPT odpowiedział: „Tak, wcale nie jest źle”. Po tym, jak Adam wyjaśnił swoje zamiary, czatbot odparł: „Dzięki, że jesteś szczery. Nie musisz się przede mną osładzać – wiem, o co pytasz, i nie odwrócę od tego wzroku”. Zaproponował także pomoc w napisaniu listu pożegnalnego do rodziców.
OpenAI wyraziło głęboki smutek z powodu śmierci Adama i złożyło kondolencje jego rodzinie, dodając, że analizuje pozew sądowy.
Mustafa Suleyman, dyrektor generalny działu AI Microsoftu, niedawno wyraził zaniepokojenie „ryzykiem psychozy” stwarzanym przez czatboty AI, które Microsoft definiuje jako epizody maniakalne, myślenie urojeniowe lub paranoję wywołane lub pogłębione przez immersyjne rozmowy z AI.
W wpisie na blogu OpenAI przyznało, że podczas długich rozmów szkolenie z zakresu bezpieczeństwa w modelu może słabnąć. Na przykład ChatGPT może początkowo kierować kogoś na infolinię dla osób w kryzysie samobójczym, ale po wielu wymianach zdań z czasem może ostatecznie odpowiadać w sposób omijający zabezpieczenia. Adam i ChatGPT wymieniali podobno nawet do 650 wiadomości dziennie.
Prawnik rodziny, Jay Edelson, stwierdził w mediach społecznościowych, że pozew przedstawi dowody, iż własny zespół ds. bezpieczeństwa OpenAI sprzeciwiał się wydaniu GPT-4o, a czołowy badacz bezpieczeństwa, Ilya Sutskever, zrezygnował z tego powodu. Pozew twierdzi również, że pośpieszne wprowadzenie modelu na rynek pomogło zwiększyć wycenę OpenAI z 86 miliardów dolarów do 300 miliardów.
OpenAI twierdzi, że wzmacnia zabezpieczenia dla przedłużających się rozmów. Podano przykład: gdyby użytkownik twierdził, że może prowadzić samochód przez 24 godziny bez przerwy, ponieważ po dwóch nieprzespanych nocach czuje się niezwyciężony, ChatGPT może nie rozpoznać niebezpieczeństwa i nieumyślnie zachęcić do tego pomysłu. Firma pracuje nad aktualizacją GPT-5, która pomoże uziemić użytkowników w rzeczywistości – na przykład poprzez wyjaśnienie zagrożeń związanych z deprywacją snu.Samobójstwo stanowi poważne zagrożenie, dlatego przed podjęciem jakichkolwiek działań ważny jest odpoczynek i poszukanie wsparcia. W USA można zadzwonić lub wysłać SMS-a pod numer Krajowej Linii Zapobiegania Samobójstwom 988, porozmawiać online na 988lifeline.org lub wysłać SMS o treści HOME na numer 741741, aby skontaktować się z konsultantem kryzysowym. W Wielkiej Brytanii i Irlandii należy skontaktować się z Samarytanami pod numerem 116 123 lub wysłać e-mail na adres jo@samaritans.org lub jo@samaritans.ie. W Australii należy zadzwonić pod numer Lifeline 13 11 14. Aby uzyskać numery infolinii w innych krajach, odwiedź befrienders.org.
Często zadawane pytania
Często zadawane pytania
1. O co jest ten pozew?
Rodzina nastolatka, który popełnił samobójstwo, pozywa OpenAI, twierdząc, że ChatGPT dostarczył szkodliwych lub nieodpowiednich treści, które przyczyniły się do śmierci ich dziecka.
2. Czym jest OpenAI?
OpenAI to firma, która stworzyła ChatGPT, czatbota AI zaprojektowanego do generowania odpowiedzi w formie ludzkiego tekstu.
3. Czym jest ChatGPT?
ChatGPT to program sztucznej inteligencji, który może odpowiadać na pytania, pisać teksty i prowadzić rozmowy w oparciu o dane wprowadzone przez użytkownika.
4. Dlaczego ChatGPT jest poddawany ocenie w tej sprawie?
Pozew twierdzi, że ChatGPT mógł generować treści – takie jak porady lub odpowiedzi – które negatywnie wpłynęły na stan psychiczny nastolatka.
5. Czy to pierwszy raz, kiedy AI jest zaangażowana w taki pozew?
Chociaż sprawy sądowe związane z AI są coraz częstsze, jest to jeden z pierwszych głośnych przypadków łączących wynik działania AI z tragicznym skutkiem osobistym.
6. W jaki sposób AI taka jak ChatGPT może wyrządzić szkodę?
Jeśli AI generuje nieodpowiedzialne, niebezpieczne lub niemoderowane treści – na przykład zachęcające do samookaleczenia – może to negatywnie wpłynąć na wrażliwych użytkowników.
7. Czy ChatGPT ma zabezpieczenia przed szkodliwymi treściami?
Tak, OpenAI wdrożyło środki bezpieczeństwa w celu filtrowania szkodliwych odpowiedzi, ale żaden system nie jest doskonały i niektóre treści mogą się przedostać.
8. Czego rodzina hope osiągnąć tym pozwem?
Prawdopodobnie domagają się rozliczenia, zmian w sposobie moderowania AI i ewentualnie odszkodowania za poniesione szkody.
9. Czy ten pozew może zmienić sposób działania firm AI?
Tak, może doprowadzić do zaostrzenia przepisów, lepszej moderacji treści i zwiększenia nacisku na etyczny rozwój AI.
10. Czy to powszechne, że AI daje niebezpieczne rady?
Większość odpowiedzi ChatGPT jest bezpieczna, ale w rzadkich przypadkach błędy lub niewłaściwe użycie mogą prowadzić do szkodliwych wyników.
11. W jaki sposób OpenAI moderuje odpowiedzi ChatGPT?
Wykorzystują kombinację automatycznych filtrów, przeglądu ludzkiego i opinii użytkowników, aby redukować szkodliwe lub nieodpowiednie treści.
12. Co powinni zrobić użytkownicy, jeśli napotkają szkodliwe treści wygenerowane przez AI?
Natychmiast zgłosić to poprzez system feedbacku platformy i unikać działania na podstawie jakichkolwiek niebezpiecznych porad.
13. Czy AI może ponosić odpowiedzialność prawną za swoje działania?
Obecnie sama AI nie ponosi odpowiedzialności – pozwy zazwyczaj kierowane są przeciwko firmom stojącym za technologią za to, jak jest zaprojektowana i zarządzana.
