Jak rychle musíte škrtnout sirkou, aby se zapálila? Neptám se na chemii vznícení – myslím skutečnou rychlost v metrech za sekundu, kterou se musí malá dřevěná tyčka a její baňatá hlavička pohybovat, aby spustily řetězovou reakci, jež vytvoří plamen.
Tato otázka vzešla z bezesné noci. A tam, ve tmě, jsem udělal jedinou věc, kterou byste neměli dělat, pokud chcete znovu usnout: sáhl jsem po telefonu. Než jsem se nadál, byla ze třetí ráno pátá. Dozvěděl jsem se, co obsahuje třecí proužek (červený fosfor, drcené sklo) a hlavička sirky (chlorečnan draselný, sulfid antimonitý, vosk), a že bezpečnostní sirka se nezapálí, pokud ji škrtnete o cokoli jiného. Našel jsem zpomalené záběry škrtnutí sirky natočené rychlostí 3 500 snímků za sekundu. Ale nic o rychlosti.
Stále jsem hledal odpověď, a tak jsem svou otázku poslal tabákové společnosti Swedish Match a poté jsem napsal dvěma profesorům: jednomu chemikovi v Tasmánii a druhému profesorovi termodynamiky na Imperial College London. V půl šesté ráno jsem konečně znovu usnul, trochu frustrovaný a přemýšlel, jestli by mi Claude dal odpověď, kterou jsem chtěl, během pár sekund.
Téměř dvacet let nám Silicon Valley prodává bezproblémovost místo tření a my jsme byli dychtivými kupci. Před pár měsíci jsem pocítil malý záchvěv znechucení u příspěvku na LinkedIn, kde autorka popsala, jak moc preferuje doporučovací algoritmus Amazonu před knihkupectvími. Algoritmus, napsala, ji znal, a tak byl efektivní – což naznačovalo, že ztrácet se v bludišti autorů a obálek, se kterými můžete, ale nemusíte navázat spojení, je ztráta času. Bylo to tření.
Představte si, že by vám nabídli Louvre, pomyslel jsem si, když jsem ten příspěvek četl, bez touhy se zdržet.
Život se odehrává ve zpomaleném prostoru možností, který tření vytváří. Umělá inteligence je naopak jako sáně nekonečného zrychlování, které mění reflexi – jež potřebuje čas – v jistou porážku. "Pokud zavedeme lidský dohled nad každým rozhodnutím ve zlomku vteřiny, nebude to fungovat," řekl deníku Libération šéf francouzského oddělení pro integraci AI do obrany. "Už jsme prohráli." Stavět AI takto na hranici života a smrti je něco, co vás v noci nenechá spát.
Kdysi jsem vtipkoval, že mě mé vlastní děti jednou uvidí jako starého reakcionáře, pokud jde o "práva robotů". Je takový humanista, možná zašeptají – což se do té doby stane sporným slovem, ne-li přímou urážkou. Nikdy by mě nenapadlo, v blažených dobách před velkými jazykovými modely na konci 10. let 21. století, že by můj odhad mohl být špatný. Že by ke střetu mezi těmi, kdo vidí ranou formu vědomí v tom, jak fungují "neuronové sítě" rozpoznávající vzory, a těmi, kdo v tom vidí šíleně složitý, daidalovský trik, mohlo dojít dříve, než opustím svou třicítku. A přesto jsme tady.
Někteří z největších finančníků Silicon Valley, jako Marc Andreessen, se chlubí svým vlastním nedostatkem introspekce a považují ji za ztrátu času. Toto je duch AI – pohánět neprozkoumaný život – a já si nemohu pomoci, ale vidím epickou duchovní krizi vynořující se z trosek. Sociální prázdnotu, sucho, které zůstalo na místě toho, na co brazilská spisovatelka Clarice Lispectorová naráží, když píše o "síle těla ve vodách světa" a o tom, jak "zachycuje tu druhou věc, kterou opravdu říkám, protože já sám nemohu."
Hledání bezproblémovosti vysává tuto nepopsatelnou "druhou věc" – kterou bych mohl zhruba nazvat prostorem mezi tím, co říkáme a co víme, a samotným věděním. AI tento prostor hroutí a v té plochosti není žádné "tam". Algoritmy rozpoznávající vzory produkují napodobování, ne význam; uvnitř černé skříňky jejich výstupu je kopie toho, co znamená žít skrze zkušenost, ale nic, co by se k tomu skutečně přiblížilo. Vytvářejí obrazy, ale ne umění; text, ale ne literaturu; zvuk, ale ne symfonii – nic, co by vám mohlo způsobit mravenčení na kůži z pocitu, že tohle je to nejbližší, jak se můžeme dostat k tomu, jak se skladatel skutečně cítil. Algoritmus rozpoznávající vzory není živé tělo ve světě. Nezná smích, ticho, smutek ani lásku. Nemůže hřešit, odpouštět ani obětovat.
Co nás žene k tomu, abychom se pokoušeli vytáhnout bytost z lingvistického Drosteho efektu – zdánlivě nekonečného, ale nakonec jen smyčky sebe sama? Možná nás přitahuje myšlenka, že by nám technologické zrcadlo mohlo ukázat, kdo jsme, kdybychom ho jen nakrmili dostatkem dat, dostatkem naší sdílené historie a duše. Ale Boha nenajdeme tím, že ho promítneme do stroje.
Když Sam Altman porovnal energii potřebnou k trénování modelu AI s dvaceti lety jídla, které člověk spotřebuje, aby "zmoudřel", Sasha Luccioniová, vedoucí oddělení AI a klimatu ve společnosti HuggingFace, nazvala toto uvažování "fází Black Mirror" kapitalismu. Šel bych ještě dál a řekl, že je to konečná fáze kapitalismu: svět čistého kapitálu bez práce. Alespoň bez lidské práce – toho druhu, který existuje v biologickém čase, který jí, spí, socializuje se a dělá všechny ty věci, na které kapitalismus nemůže nasadit cenu, věci, které dělají život na Zemi tím, čím je. Měli bychom být opravdu překvapeni tímto posunem od plánovaného zastarávání zboží k plánovanému zastarávání lidí?
Ukazuje se, že většina lidí mimo Silicon Valley to vlastně nechce. Jsou více znepokojeni než nadšeni nárůstem používání AI. Pokud mi něco dává jiskřičku naděje, je to odpor. Myslím, že začne jako odmítání zacházet s používáním AI jako s "klíčovým ukazatelem výkonnosti" západních ekonomik a skončí obnovením humanismu.
Tímto způsobem AI požírá sama sebe. Podle některých měřítek nyní výstup AI tvoří více než polovinu internetu. Algoritmus je jako ouroboros, nekonečně se přetrénovávající na svém vlastním výstupu: hladký, bezproblémový a nezaměnitelně dutý. Nakonec si i ti, kdo v něm vidí náznaky božství – nebo, ještě znepokojivěji, duši – uvědomí, že vidí jen přízraky.
Týden po mé nespavosti jsem dostal odpovědi na všechny tři své dotazy. Swedish Match mi řekli, že to prostě nevědí. Nathan Kilah, profesor chemie na University of Tasmania, mi napsal, že bych se musel zeptat fyzika, ale že třecí síla se rovná součiniteli tření krát síla v newtonech a že rychlost by se mohla lišit v závislosti na tlaku. Erich Muller, profesor termodynamiky na Imperial, mi poradil, abych otázku přeformuloval z hlediska minimální iniciační energie (0,2 milijoulu k zapálení červeného fosforu na třecím proužku) a že odtud bychom mohli vzít hmotnost sirky a odhadnout rychlost škrtnutí. A Claude? Nikdy jsem to nekontroloval. O to nikdy nešlo.
Alexander Hurst píše pro Guardian Europe z Paříže. Jeho memoáry Generation Desperation právě vyšly.
Často kladené otázky
Zde je seznam často kladených otázek založených na citátu Alexandera Hursta, který se zabývá konceptem lidského tření versus bezproblémové povahy AI.
Otázky pro začátečníky
1 Co znamená tření v tomto kontextu
Znamená to každodenní boje, zpoždění, nepříjemnosti a emocionální úsilí, které jsou součástí lidského bytí. Věci jako dopravní zácpy, pomalé internetové připojení, nedorozumění s přítelem nebo nutnost čekat na něco, co chcete.
2 Proč Hurst říká, že zastánci AI to nikdy nepochopí
Protože AI je navržena tak, aby odstraňovala tření. Poskytuje okamžité odpovědi, dokonalou gramatiku a logická řešení. Nikdy se neunaví, není frustrovaná a nedělá chyby kvůli emocím. Zastánci často vidí tření pouze jako chybu, kterou je třeba opravit, ne jako cennou součást života.
3 Je tření špatná věc
Ne nutně. Citát argumentuje, že je to určující věc. Zatímco některé tření je bolestivé, hodně z nás učí trpělivosti, odolnosti a kreativitě. Boj s učením se dovednosti nebo opravováním chyby je často místem, kde rosteme.
4 Můžete uvést jednoduchý příklad dobrého tření
Učení se hrát na hudební nástroj. Je to frustrující, pomalé a plné špatných tónů. Ale právě ten boj dělá konečné zahrání písničky dokonale tak odměňujícím. AI by mohla zahrát písničku okamžitě, ale nezažili byste hrdost z učení.
Pokročilé – hlubší otázky
5 Jak tento citát souvisí s konceptem stavu flow
Flow je stav hlubokého soustředění, kde je tření nízké, ale je dosaženo zvládnutím tření. Běžec najde svůj rytmus po protlačení se bolestí. Spisovatel najde flow po zápase se špatným prvním návrhem. AI nabízí falešný stav flow – je to jen snadné, ne zasloužené.
6 Jaká jsou nebezpečí bezproblémového světa podle této myšlenky
Mohlo by to z nás udělat netrpělivé, náročné a méně odolné. Pokud je každá překážka odstraněna, nikdy si nevybudujete mentální svaly na zvládání skutečných problémů. Odstraňuje to také náhodu – šťastné nehody, které se stanou, když věci nejdou podle plánu.
7 Znamená to, že bychom se měli vyhnout používání AI na všechno
Ne. Pointa je o
