Když vstoupíte do MIT Media Lab v Cambridge v Massachusetts, máte pocit, jako byste udělali krok blíž k budoucnosti. Prostor lemují vitríny vystavující prototypy podivuhodných vynálezů – od miniaturních stolních robotů po surreálnou sochu navrženou umělou inteligencí, která měla představit čajovou soupravu z částí lidského těla. V recepci asistuje návštěvníkům s tříděním odpadu AI asistent jménem Oscar a radí jim, kam vyhodit použitý kelímek od kávy.
O patro výš vyvíjí výzkumnice Nataliya Kosmynová nositelné rozhraní mozek-počítač. Jejím cílem je jednoho dne pomoci lidem, kteří ztratili schopnost mluvit kvůli onemocněním jako ALS, aby komunikovali pouze pomocí myšlenek.
Většina Kosmynové práce zahrnuje analýzu mozkové aktivity. Také navrhuje nositelné zařízení – jedna verze vypadá jako brýle – které dokáže rozpoznat, kdy je člověk zmatený nebo ztrácí soustředění. Asi před dvěma lety jí začaly chodit nečekané e-maily od neznámých lidí, kteří tvrdili, že po použití velkých jazykových modelů jako ChatGPT cítili změnu ve svém myšlení. Jejich paměť už nebyla tak bystrá – a ptali se, jestli je to vůbec možné?
Kosmynová sama si všimla, jak rychle lidé přijímají generativní AI. Viděla kolegy používat ChatGPT v práci a žádosti od výzkumníků, kteří se chtěli připojit k jejímu týmu, začaly vypadat jinak. Jejich e-maily byly delší a formálnější. Během pohovorů na Zoomu si občas všimla, jak kandidáti před odpovědí na chvíli zaváhají a odvrátí pohled. Pomáhala jim AI? Tato myšlenka ji šokovala. A pokud ano, kolik z daných odpovědí skutečně chápali?
Zvědavá Kosmynová s kolegy z MIT připravila experiment. Pomocí EEG skenů sledovali mozkovou aktivitu účastníků při psaní esejí – někteří bez pomoci, jiní s vyhledávačem a další s ChatGPT. Výsledky ukázaly, že čím více vnější pomoci lidé měli, tím nižší byla jejich mozková konektivita. Uživatelé ChatGPT vykazovali výrazně méně aktivity v oblastech spojených s myšlením, pozorností a kreativitou.
Zkrátka, zatímco uživatelé mohli mít pocit zapojení, skeny mozku vyprávěly jiný příběh: moc se tam nedařilo.
Po odevzdání esejů byli účastníci – všichni studenti z MIT nebo okolních škol – požádáni, zda si pamatují, co napsali. „Téměř nikdo ze skupiny používající ChatGPT nedokázal citovat vlastní práci,“ říká Kosmynová. „To je znepokojivé – právě jste to napsali a nic si nepamatujete.“
Pětatřicetiletá Kosmynová je stylově oblečená v modré košilové šatech s velkým barevným náhrdelníkem. Mluví rychleji, než většina lidí stihne myslet. Jak poznamenává, psaní eseje vyžaduje dovednosti, které používáme denně: syntézu informací, zvažování různých pohledů a budování argumentace. „Jak zvládnete konverzaci?“ ptá se. „Budete muset říkat: ‚Ehm… můžu se podívat do telefonu?‘“
Studie byla malá – pouze 54 účastníků – a dosud neprošla recenzním řízením. Přesto ji Kosmynová v červnu zveřejnila online, s myšlenkou, že by mohla zaujat další výzkumníky. Netušila, že rozpoutá mezinárodní mediální bouři.
Kromě žádostí o rozhovory obdržela přes 4000 e-mailů z celého světa. Mnoho přišlo od vystresovaných učitelů znepokojených, že studenti spoléhající na ChatGPT při domácích úkolech se ve skutečnosti nic neučí. Obávají se, že AI vytváří generaci, která sice dokáže produkovat přijatelnou práci, ale postrádá skutečné porozumění látce.
Jádro problému, vysvětluje Kosmynová, spočívá v tom, že jakmile nám technologie usnadní život, jsme evolučně naprogramováni ji používat. „Naše mozky…“ Přirozeně milujeme zkratky, ale naše mozky ve skutečnosti potřebují výzvy, aby se učily efektivně. K růstu vyžadují určité množství tření.
Je zajímavé, že zatímco naše mysl toto tření potřebuje, instinktivně se mu vyhýbá. Technologie naopak slibují „bezproblémový“ zážitek, zajišťující, že bez jakýchkoli překážek plynule přecházíme z jedné aplikace nebo obrazovky na druhou. Toto plynulé propojení je důvodem, proč tak snadno svěřujeme informace a úkoly svým zařízením. Vysvětluje to, proč se snadno ztratíme v nekonečném online obsahu a máme potíže se od něj odtrhnout. Je to také důvod, proč se generativní AI tak rychle stala základem každodenní rutiny mnoha lidí.
Ze společné zkušenosti víme, že jakmile si zvyknete na hyperefektivitu digitálního světa, skutečný svět se všemi svými překážkami se zdá obtížněji zvladatelný. Takže se možná vyhýbáte telefonátům, používáte samoobslužné pokladny a vše objednáváte přes aplikaci. Možná sáhnete po telefonu, abyste vyřešili matematický problém, který byste zvládli z hlavy, vyhledáte fakt místo abyste si jej vybavili, nebo spoléháte na Google Maps, aby vás bez přemýšlení dovedly z bodu A do B. Možná jste přestali číst knihy, protože udržení soustředění vyžaduje příliš úsilí, nebo sníte o vlastním samořídícím autě. Je to začátek toho, co spisovatelka a expertka na vzdělávání Daisy Christodoulou nazývá „stupidogenní společností“ – podobně jako prostředí podporující obezitu, ale takové, které usnadňuje intelektuální lenost, protože stroje přemýšlejí za vás?
Lidská inteligence je příliš rozmanitá na to, abychom ji jednoduše označili jako „hloupou“, ale jsou zde znepokojivé známky, že naše digitální vymoženosti si vybírají daň. Ve vyspělých zemích OECD dosáhly skóre PISA, které hodnotí dovednosti v čtení, matematice a přírodních vědách u patnáctiletých, vrcholu kolem roku 2012. Zatímco skóre IQ celosvětově rostlo po celé 20. století, pravděpodobně díky lepšímu vzdělání a výživě, nyní se v mnoha rozvinutých zemích zdá, že klesají.
Debata o klesajících výsledcích testů a IQ je bouřlivá. Těžší popřít je, že s každým technologickým pokrokem se stáváme více závislými na digitálních zařízeních a je pro nás stále těžší pracovat, pamatovat si, přemýšlet nebo dokonce fungovat bez nich. Jak s frustrací poznamenává jedna expertka, Kosmynová, „Jen vývojáři softwaru a drogové dealery nazývají lidi uživateli.“ To zdůrazňuje spěch společností s AI, které tlačí své produkty na veřejnost, než plně pochopíme psychologické a kognitivní důsledky.
V neustále rostoucím, bezproblémovém online prostoru jste především uživatel: pasivní a závislý. Jak vstupujeme do éry dezinformací a deepfakeů generovaných AI, jak si udržíme skepticismus a nezávislé myšlení, které budeme potřebovat? Až si uvědomíme, že naše mysl už není plně naše a že bez technologií nedokážeme jasně myslet, kolik vlastní vůle nám zůstane, abychom se bránili?
Pokud vyjádříte obavy o tom, co inteligentní stroje dělají s našimi mozky, můžete být v blízké budoucnosti zesměšňováni jako staromódní. Sókratés se kdysi obával, že psaní oslabí paměť a podpoří povrchní porozumění – „domýšlivost moudrosti“ namísto skutečné moudrosti. Tento argument rezonuje s mnoha moderními kritikami AI. Psaní a následné technologie jako knihtisk, masmédia a internet však ve skutečnosti umožnily více lidem přístup k více informacím. To umožnilo více jednotlivcům rozvíjet a sdílet skvělé nápady, čímž jsme se stali chytřejšími a inovativnějšími jak jednotlivě, tak jako společnost.
Koneckonců, psaní nezměnilo jen to, jak přistupujeme k informacím a ukládáme je; změnilo to, jak myslíme. S poznámkovým blokem a perem může člověk zvládnout složitější úkoly než pouze s pamětí.
Používání AI často vede k bezvýrazné, neimaginativní a fakticky pochybné práci. Jedním z problémů je „ančoringový efekt“: když položíte generativní AI otázku, její odpověď může uzamknout vaše myšlení na určité koleji, což vás učiní méně otevřenými jiným nápadům. Jak vysvětluje jeden expert: „Vezměte si například svíčku. AI vám může pomoci ji vylepšit – udělat ji jasnější, déle hořící, levnější a atraktivnější – ale nepovede to k vynálezu žárovky.“ K takovému skoku potřebujete lidské kritické myšlení, které může být chaotické, nestrukturované a nepředvídatelné. Když společnosti zavádějí nástroje jako chatbot Copilot bez řádného školení, riskují vytvoření týmů průměrných výrobců svíček ve světě, který potřebuje vysoce účinné žárovky.
Další obavou je, že dospělí, kteří používají AI jako zkratku, měli přinejmenším prospěch ze vzdělávacího systému, který existoval předtím, než počítače mohly dělat domácí úkoly. Nedávný britský průzkum zjistil, že 92 % univerzitních studentů používá AI a asi 20 % ji použilo k napsání celé nebo části úkolu. To vyvolává otázky, kolik se toho vlastně učí. Pěstují školy a univerzity stále kreativní, originální myslitele, kteří mohou budovat chytřejší společnosti, nebo produkují bezduché, důvěřivé jedince, kteří spoléhají na AI při psaní esejí?
Před několika lety se Matt Miles, učitel psychologie na střední škole ve Virginii, zúčastnil školení o technologiích ve školách. Instruktoři ukázali video studentky přistižené při používání telefonu ve třídě, která pak tvrdila, že si vyhledávala informace s odborníkem na vodu z Botswany. „Je to k smíchu. Děti se tomu všichni smějí,“ říká Miles. Znepokojen propastí mezi názory tvůrců politik a realitou ve třídách napsal se svým kolegou Joem Clementem v roce 2017 knihu „Screen Schooled“, v níž argumentují, že příliš mnoho technologií děti zhlupuje. Od té doby ve svých třídách zakázali chytré telefony, ačkoli studenti stále používají laptopy. Jak trefně poznamenal jeden student: „Když mě vidíte na telefonu, je 0% šance, že jsem produktivní. Na notebooku je to 50 %.“
Podle výzkumnice Faith Boningerové byli před pandemií mnozí učitelé oprávněně skeptičtí vůci zavádění více technologií do tříd. Když však lockdowny přinutily školy přejít online, nástroje jako Google Workspace for Education, Kahoot! a Zearn se staly běžnými. S nástupem generativní AI přišly nové sliby o revoluci ve vzdělávání prostřednictvím personalizovaného učení a snížení pracovní zátěže učitelů. Téměř veškerý výzkum podporující tyto přínosy je však financován ed-tech průmyslem, zatímco většina nezávislých rozsáhlých studií ukazuje, že čas strávený před obrazovkou brání úspěchu. Například globální studie OECD zjistila, že zvýšené používání technologií ve školách koreluje s horšími výsledky studentů.
„Pro efektivitu těchto nástrojů prostě neexistují žádné nezávislé důkazy ve velkém měřítku,“ říká Wayne Holmes, profesor na University College London. „V podstatě s těmito technologiemi experimentujeme na dětech. Většina rozumných lidí by nevešla do baru a…“ Představte si, že by vám někdo nabídl novou drogu s tvrzením, že je skvělá pro vaše zdraví, a vy byste ji bez otázek začali brát. Obvykle požadujeme, aby naše léky prošly přísnými testy a byly předepsány odborníky. Když však jde o vzdělávací technologie, které mají být tak prospěšné pro vyvíjející se mysl dětí, tyto standardy najednou opouštíme.
Milese a Clementa znepokojuje nejen to, že jejich studenty neustále rozptylují zařízení, ale také to, že přicházejí o rozvoj kritického myšlení a hlubokého porozumění, když jsou odpovědi vždy na dosah rychlého vyhledávání. Clement vzpomíná na dobu, kdy by položil otázku jako: „Na kterém místě si myslíte, že jsou USA v žebříčku HDP na hlavu?“ a provedl třídu jejím řešením. Teď už někdo odpověď vyhledá online, než otázku dokončí. Studenti běžně používají ChatGPT a jsou frustrovaní, pokud úkoly neobdrží digitálně, což je nutí otázky přepisovat místo kopírování a vkládání do AI nebo vyhledávače.
„Najít správnou odpověď přes Google není totéž jako mít znalosti,“ upozorňuje Clement. „A znalosti jsou zásadní, protože vám umožňují zpochybnit něco, co zní divně nebo falešně. Bez nich si můžete přečíst blog o placaté Zemi a myslet si: ‚To dává smysl,‘ protože nemáte potřebné zázemí, abyste věděli, že je to nesmysl.“ Obává se, že internet je již zaplaven konspiračními teoriemi a dezinformacemi, což je problém, který se bude jen zvětšovat, jak AI generuje přesvědčivý, ale falešný obsah, a mladí lidé na to nejsou připraveni.
Během pandemie našel Miles svého malého syna, jak pláče nad školním tablet
