Едно от най-странните неща за този трескав, бързо движещ се момент е, че изглежда няма минало. Всичко е за бъдещето на това или онова – бъдещето на работата, бъдещето на човечеството, бъдещето на планетата. Сякаш всички крещят (някои с вълнение, повечето със страх): роботите поемат властта! Междувременно не можете да оставите телефона си, да се изключите, да изтриете AI приложенията си или да кажете на Zoom да се маха. Чувствате се, сякаш се състезавате към нещо, неспособни да спрете, да погледнете назад или да мислите ясно.
Но разбира се, този странен момент в историята има минало. Той идва отнякъде. Не е бил неизбежен. Нещата е можело да се развият по различен начин – и все още могат. Ако погледнете назад, ще видите, че много хора са предвидили това. Те са предсказали нашето настояще, когато то е било все още бъдеще. Някои са мислели, че може да се окаже чудесно, като компютърна утопия. Други са се притеснявали, че може да завърши с катастрофа. Преди всичко те продължаваха да предупреждават за възхода на това, което аз наричам изкуствената държава – замяната на либералната демократична национална държава, където хората дават съгласието си да бъдат управлявани, с управление от машини. Те предупреждаваха за бъдеще, в което демократичният дебат ще бъде заменен от предсказание чрез изчисление, където публичната сфера ще бъде превзета от търговия, задвижвана от данни, и където дронове ще заменят хората. Защо никой не слушаше?
Между 50-те и 80-те години на 20-ти век компютрите стават по-малки, по-бързи, по-евтини и по-мощни. Компютърните езици стават по-напреднали, а електронните данни – някога малък хълм – стават планина. Тъй като обработката на данни и компютрите с общо предназначение се преместват от военните в индустрията, бизнеса и медицината, големи части от публичния живот биват автоматизирани. Компютрите, изчисленията, мрежите и алгоритмите поемат политически задачи като събиране на подкрепа, провеждане на кампании, комуникация с избиратели и оформяне на политики, особено в най-богатите нации.
Приемането и разпространението на тези технологии предизвиква диви спекулации за възможните им социални и политически ефекти. Този разговор, както обикновено, се люшка между мечти за технологична утопия и страхове от изкуствена държава.
Например през 1981 г. японският социолог Йонежи Масуда, който изучава това, което той нарича „информационно общество“, предсказва две възможни бъдеща. Едното е „компютопия“, която би елиминирала класовите и националните разделения и би довела до „симбиоза, в която човекът и природата могат да живеят заедно в хармония“. Другото е „компютодистопия“, която той нарича „автоматизирана държава“ – управление от машини. И все пак тези две бъдеща имаха много общо, защото пътят към всяко от тях вече беше довел хората „да пренебрегнат необходимостта от съвместно съществуване с природата, докато нашето въздействие върху природата е нараснало неизмеримо“.
Ключов повратен момент в историята на автоматизираната държава настъпва през 1958 г., когато екип от американски изследователи и рекламни експерти построява машина, за която твърдят, че може едновременно да предсказва и да влияе на избирателното поведение. Същата година в Националната физическа лаборатория в Тедингтън, близо до Лондон, се провежда голяма конференция за „механизацията на мисловните процеси“. Сред лекторите има учени от Франция, Израел, Русия и Унгария. Те говорят за бъдеще, в което компютрите ще композират музика, ще решават правни спорове, ще контролират въздушния трафик, ще извършват операции и – в правителството – ще заменят не само чиновниците, но и ръководителите.
В Ню Йорк Едуард Л. Грийнфийлд, ръководител на рекламна агенция на Медисън Авеню, изготвя предложение за това, което ще стане известно като Машина за хората. Той предлага да се съберат стотици хиляди перфокарти – изборни резултати, проучвания на общественото мнение и преброявания на населението – за да се изгради „информационна банка“, която може да сортира избирателите по тип и техните мнения по въпроси. „На повърхността няма нищо мистериозно в това“, казват Грийнфийлд и участващият политолог от Масачузетския технологичен институт, „входът в машината е информация за реални индивиди, получена от проучвания.“ Ученият Итил де Сола Пул пише това през 1958 г. Но „след като тази информация е вътре в съоръженията за бързо съхранение на машината, това е различен свят.“ Машината ще действа като „макроскоп“, способен да симулира целия електорат на САЩ.
Вижте изображението в цял екран
Делегати разглеждат Автоматичния изчислителен двигател, ранен компютър, на симпозиума за механизация на мисловните процеси в Националната физическа лаборатория в Тедингтън, тогава в Мидълсекс, на 24 ноември 1958 г. Снимка: Ron Case/Getty Images
Следващата година Грийнфийлд, Пул и Алекс Бърнстейн от IBM основават компания, наречена Simulmatics Corporation. Под „симулматикс“ те имат предвид автоматизираната симулация на човешкия интелект. Те вярват, че са създали „атомната бомба на социалните науки“.
Техният първи клиент е Демократическият национален комитет (DNC). През 1959 г. DNC наема Simulmatics да провежда симулации върху изкуствен електорат, съветвайки номинирания на партията какво да казва, на кого и кога. Не всички са възторжени. Историкът Артър Шлезингер пише: „Потръпвам при мисълта за последиците за публичното лидерство от идеята … че човек не трябва да казва нищо, докато не бъде одобрено от машината.“
След като Джон Ф. Кенеди печели номинацията, неговата кампания наема Simulmatics да провежда предсказания на IBM 704. Когато Кенеди печели, много в пресата приписват победата на Машината за хората на Simulmatics. Както се изразява New York Herald Tribune, „голямо, обемисто чудовище, наречено „Simulmatics“, е било „тайното оръжие“ на Кенеди.
Simulmatics преминава към нови кампании, възхвалявана от медиите. Но Машината за хората се оказва преди времето си. През 1970 г. Simulmatics фалира, неспособна да намери достатъчно плащащи клиенти. Проблемът не са компютрите или моделът – това е липсата на данни. Когато Бърнстейн се среща с издатели на книги и списания и филмови дистрибутори, надявайки се да продаде пазарна симулация за продажби на книги, абонаменти за списания и продажби на билети – видът микротаргетиране, което по-късно правят компании като Amazon и Netflix – той открива, че няма начин да се изгради модел за нито една от тези индустрии.
Единствените реални успехи на Simulmatics са в политиката, където може да разчита на големи източници на данни като преброявания, изборни резултати и проучвания на общественото мнение. Но в тази област работата на компанията повдига значителни притеснения. Тя също така вдъхновява предсказания за политическа катастрофа, включително два дистопични романа. Единият, публикуван през 1964 г., е „480-те“, политически трилър, в който едва прикрити „Simulations Enterprises“ се намесват в президентските избори в САЩ. Написан е от Юджийн Бърдик, който е бил поканен да се присъедини към компанията, но отказва, по причини, които стават ясни в книгата. Там той описва Simulmatics като част от зловещ политически пейзаж.
„Новото подземие е съставено от невинни и добронамерени хора, които работят с логаритмични линийки, изчислителни машини и компютри, които могат да съхраняват почти безкраен брой битове информация, както и да сортират, категоризират и възпроизвеждат тази информация с натискане на бутон. Повечето от тези хора са високообразовани, много от тях са доктори, и никой от тези, които съм срещнал, няма злокачествени политически намерения спрямо американската публика. Те обаче могат радикално да реконструират американската политическа система, да изградят нова политика и дори да модифицират почитани и древни американски институции – факти, от които те са блажено невинни.“
Бърдик умира през 1965 г., но неговите притеснения за автоматизирана държава се появяват навсякъде. През 1966 г. в „Митът за машината“ американският критик Луис Мъмфорд оплаква възхода на „кибернетичния интелект“, предупреждавайки, че при неговото „автоматично действие … човекът ще стане пасивно, безцелно, машинно обусловено животно, чиито правилни функции, както техниците сега интерпретират ролята на човека, ще бъдат или подадени в машината, или строго ограничени и контролирани в полза на обезличени, колективни организации.“ Мъмфорд описва технологичния детерминизъм – вярата, че машините оформят хода на историята и представляват стабилен прогрес – като „радикална погрешна интерпретация на целия ход на човешкото развитие“ от един критик. Следващата година, пишейки в The New Yorker, той твърди, че тази погрешна идея трябва да бъде изоставена, „ако искаме да получим адекватен контрол върху нашата механизирана култура, преди да загубим както съзнанието си за човешка цел, така и увереността си в способността да контролираме собствените си творения.“
Никой наистина не спря, за да поеме този контрол. Вместо това събирането на данни става от съществено значение за индустрии, които започват да съхраняват всичко – кредитни картови транзакции, коли под наем, записи от библиотечни заеми – като компютърни файлове. Това прави възможни видовете предсказания, за които Simulmatics Corp е можела само да мечтае. С толкова много данни компютрите, все по-свързани помежду си, са готови да станат много повече от прости машини за въпроси и отговори.
Докато всичко това се случва – натрупването на данни, подобренията в компютърния дизайн и използването на компютрите не само за изчисления, но и за комуникация – най-добрите мислители на епохата се чудят какво може да означава това за човечеството: компютопия или автоматизирана държава? Отговорът изглежда зависи до голяма степен от това какво могат да означават тези технологии за способността на хората да разбират света. Както винаги, природата на управлението ще зависи от природата на знанието. Както се изразява директор по медицина и наука във Фондация Рокфелер: „Организираното знание поставя огромно количество власт в ръцете на хората, които си правят труда да го овладеят.“
Междувременно природата и формата на самото знание се променят. През 1965 г. JCR Ликлайдер, блестящият инженер, на когото най-често се приписва изобретяването на интернет, пише „Библиотеки на бъдещето“, където разглежда многото недостатъци на книгите. „Обзорът на милион книги на 10 000 рафта“, казва той, е кошмар. „Когато информацията се съхранява в книги, няма практичен начин да се прехвърли информацията от хранилището до потребителя, без физически да се премести книгата или читателя, или и двете.“ Но ако преобразувате книгите в данни, които компютърът може да чете, можете да преместите тези данни от хранилището до потребителя – и до произволен брой потребители – много по-лесно.
Използвайки съдържанието на всички книги в Библиотеката на Конгреса като заместител на общата сума на човешкото знание, Ликлайдер изчислява нейния размер през 1960 г. и оценява, че тя се удвоява всяка година. Въз основа на тези числа общата сума на човешкото знание, като данни, ще бъде около дузина петабайта през 2020 г. Никой наистина не знае колко голям е бил интернетът през 2020 г., но някои хора казваха, че е десетки зетабайта. Ако са били прави, Ликлайдер е бил далеч от истината. Във всеки случай библиотеката на човешкото знание изведнъж изглеждаше спиращо дъха обширна.
Ще бъдат ли библиотеките на бъдещето отворени за всички? А какво да кажем за библиотеките на настоящето – огромните хранилища от данни, държани от правителствата? В САЩ предложението за създаване на Национален център за данни, предназначен да направи за електронните данни това, което Библиотеката на Конгреса прави за книгите и Националният архив за ръкописите, е изоставено поради опасения за поверителността. Критиците наричат предложения център „шпионска машина“.
Ликлайдер се оказва отличен футурист. През 1963 г. той изпраща меморандум до колеги в Агенцията за напреднали изследователски проекти (Arpa), предлагайки „да се развие способност за интегрирана мрежова операция“ – това, което първо ще стане Arpanet и в крайна сметка интернет.
Позицията на Ликлайдер по този проект и участието му в повечето от най-модерните изследвания през 60-те години му дават изключителна представа за бъдещето. През април 1968 г. в есе за списание Science and Technology Ликлайдер и психологът Робърт У. Тейлър предсказват, че „след няколко години хората ще могат да общуват по-ефективно чрез машина, отколкото лице в лице.“ Те също така предсказват възхода на „онлайн интерактивни общности“, които ще трансформират начина, по който хората се свързват помежду си: „Животът ще бъде по-щастлив за онлайн индивида, защото хората, с които взаимодействат най-много, ще бъдат избрани повече от споделени интереси и цели, отколкото от случайност на местоположението.“
Итил де Сола Пул, съосновател на Simulmatics Corporation, също пише есе за този брой. Той предсказва, че развития като персонализираните вестници ще доведат до ера на хипериндивидуализъм. „Читателят започва, като поиска резюме на новините“, представя си Пул. „Той може да поиска подробности за всяка история, която го интересува.“
Пул вярва, че хиперперсонализацията на новините ще промени политиката. „През 21-ви век видът критик, който сега атакува конформизма в обществото, може да се оплаква от атомизирано общество“, предсказва Пул. „Съвременната технология, ще твърди той, е унищожила нашата споделена културна основа и ни е оставила да живеем в собствените си малки светове.“
Той не греши. „В идващото атомизирано общество информацията, която гражданинът получава, ще идва от собствените му специфични интереси“, пише той, и „когато всеки може да избере собствения си източник на информация, политическото предизвикателство да се изгради ефективна подкрепа зад конкретен рационален въпрос или кандидат ще стане много различно и много по-трудно.“
По-често срещани през 60-те и 70-те години от предсказанията на Пул за атомизирано общество под автоматизирана държава – или поне по-силни и по-привличащи вниманието – са предсказанията за компютърно задвижвана социалистическа революция или демократично освобождение, известни като компютопии. В Чили между 1971 и 1973 г., под демократично избрания Салвадор Алиенде, кибернетиците разработват проект Cybersyn, мрежа, предназначена главно да управлява социалистическата икономика на Чили. Политическата реалност се намесва: целият проект е изоставен, след като Аугусто Пиночет завзема властта чрез преврат през 1973 г.
На други места оптимизмът само расте. „Готови или не, компютрите идват при хората“, предсказва Стюарт Бранд в Rolling Stone през декември 1972 г. Персоналният компютър, предсказва Бранд, ще донесе „власт на хората“. Бранд, привърженик на LSD, учил в Станфорд, описва пристигането на Arpanet като най-добрата новина „откакто съществуват психеделиците“.
Компютопианството намира много последователи. Пишейки през 1975 г., израелско-американският социолог Амитай Етциони и неговите съавтори предсказват, че компютърната революция ще доведе до завръщане на „формата на демокрация, открита в древногръцкия град-държава, кибуца и събранието на Нова Англия, която даваше на всеки гражданин шанса да участва пряко в политическия процес.“ Историкът Даниел Бурстин, библиотекар на Конгреса, предсказва през 1978 г., че новите комуникационни връзки ще създадат нови общностни връзки, развитие, което той нарича „република на технологията“.
И все пак имаше, както винаги, скептици. Джоузеф Вайзенбаум, инженер от MIT, който през 1966 г. е разработил Eliza, първият от това, което по-късно ще бъде наречено чатботове, възразява срещу развитието на изкуствения интелект като неизбежно водещо до автоматизация на държавните функции. Пишейки през 1976 г., той описва като „скверен“ всеки проект, който предлага „да се замести компютърна система за човешка функция, която включва междуличностно уважение, разбиране и любов.“ Той също така предупреждава срещу изследвания, които един ден ще доведат до „напълно автоматизирано бойно поле“, и, както пише горчиво, месеци след евакуацията на САЩ от Сайгон: „Не виждам причина да съветвам студентите си да дадат талантите си на тази цел.“
Вижте изображението в цял екран
Джоузеф Вайзенбаум. Снимка: Ullstein Bild/Getty Images
Самият Ликлайдер беше твърде внимателен мислител, за да се абонира за което и да е от двете предсказания: компютопия или автоматизирана държава. През 1969 г. той предсказва, че до 2000 г. „международна мрежа от цифрови компютърни комуникационни мрежи“ – той я нарича мултинет – ще служи „като основен и съществен медиум за информационно взаимодействие за правителства, институции, корпорации и индивиди“, заменяйки всичко от телефона и пощенската система до магазините и банките. Ликлайдер беше малко по-малко сигурен какво ще означава мултинетът за политиката. Той знаеше, че „интерактивната политика ще работи добре само ако гражданите са информирани“ и предупреди за възможността за „нови възможности за мръсни номера“, включително „тайни програми с изкуствен интелект, които търсят в бази данни, променят файлове, фабрикуват записи и изтриват собствените си одитни следи.“ Все пак Ликлайдер повтори Бранд, когато заключи, че „даването на компютърна власт на хората е от съществено значение за бъдеще, в което повечето граждани са информирани, заинтересовани и включени в процеса на управление.“ Но обществото изглежда се движеше в различна посока – към автоматизирана държава, а не към такава, в която гражданите стават по-активни участници.
Пропуснете бюлетина за промоция
Безплатен бюлетин | Седмичен
Абонирайте се за The Long Read
Потопете се в страхотна история: от политика до психология, храна до технология, култура до престъпление
Въведете имейла си Абонирайте се
След бюлетина за промоция
Когато 70-те години приключват, консултанти, работещи за президентската кампания на Роналд Рейгън, създават своя собствена Машина за хората, компютъризирана политическа информационна система. Репортер обяснява, че тя работи като гигантска шахматна дъска, на която кампанията на Рейгън може да тества възможни сценарии: „Ако синдикатите изплашат половината от членовете си относно трудовото досие на Рейгън, трябва ли той да засили атаките си срещу Картър или да се опита да контрира конкретните им твърдения? Или, ако вотът на Джон Андерсън започне да спада, трябва ли Рейгън да добави предизборна спирка в Кънектикът, или може да си позволи да отмени една?“
През 1980 г. тя помага да доведе Рейгън до победа. Говоренето за „информационно общество“ отстъпва място на говоренето за „информационна революция“. През 1982 г. Time нарича „компютърът“ човек (машина) на годината. „Компютърът ще счупи пирамидата“ на богатството и ще направи всички хора равни, обещава развълнуван прогнозист през 1984 г.
Но метафората за революция е зле обмислена, твърди политическият теоретик Лангдън Уинър, защото революционерите имат отговори на въпроси като дали тяхното движение „се стреми да поддържа валиден идеал за човешка свобода“, „дали цели система на демократично управление?“ и „дали ще има чести, открити избори?“ За разлика от тях, „компютърната революция е забележително мълчалива за собствените си цели.“ И, както вижда Уинър, има малко доказателства в подкрепа на някое от тези предсказания за компютърна утопия. Досега „текущите развития в информационната ера предполагат увеличение на властта за тези, които вече имаха много власт, по-силна централизация на контрола за тези, които вече бяха подготвени за контрол, и растеж на богатството за вече богатите.“ Той крещеше в празното пространство.
„Едва ли се появява ново изобретение, за което някой да не провъзгласи, че е спасението на свободното общество“, отбелязва Уинър. Изглежда няма по-добър пример от телевизионната реклама от 1984 г. за новия персонален компютър Macintosh на Apple. „Днес празнуваме първата славна годишнина от информационното пречистване … градина на чистата идеология“, произнася мощен глас, докато маси от безкосмени хора, изглеждащи като андроиди, маршируват в синхрон и седят в редици, за да гледат Големия брат на гигантски компютърен монитор. Те са облечени в сиви униформи, сякаш живеят при фашизъм. „На 24 януари Apple Computer ще представи Macintosh“, продължава рекламата. Apple внушава, че само нейният персонален компютър може да предотврати възхода на тоталитарна държавна машина. „И ще видите защо 1984 няма да бъде като 1984.“
И все пак вече имаше признаци, че свързването на компютри в мрежа може да доведе до или да допринесе за социален упадък. Usenet, онлайн табло за обяви, отваря през 1980 г. върху това, което понякога се нарича „бедняшкият Arpanet“, телефонна мрежа, свързваща университети и изследователски центрове. Тя предлага на потребителите възможността да се присъединяват към нюзгрупи и включва функция за отговор. Потребителските имена могат да бъдат анонимни. „Заедно безотговорността и анонимността канеха хората да тестват социалните граници и предели“, както се изразява Джейсън Ханън, учен от Университета на Уинипег. Освободени от личните последици на офлайн живота, някои потребители на нюзгрупи намират тъмно удоволствие в нарушаването на правилата просто за удоволствие.
Някъде през 80-те години това поведение става известно като „тролинг“. Вирусната омраза също датира от това десетилетие. През 1974 г. американският неонацист Джордж Диц отваря книжарница в Западна Вирджиния и започва да издава малко списание с абонамент, наречено Liberty Bell. През 1983 г. той обявява, че „работи, през последните две седмици, до четири или пет сутринта, опитвайки се да научи „компютърски“, така че вашият покорен слуга да може да говори с това чудовище на неговия собствен език и при неговите условия.“ Скоро след това той стартира първото табло за обяви на бялото превъзходство, Liberty Bell Network, на персонален компютър Apple IIe.
Усилията му бързо са последвани през 1984 г. от повече табла за обяви, включително Aryan Nations Liberty Net, Aryan Nations/Ku Klux Klan Computer Net и White Aryan Resistance. Членове на тези групи също пренасят своя стил и идеи в дискусионни форуми на America Online и CompuServe. Тъ
