Когато основите се разклащат: данни, алгоритми и стари сигурности

Ден, в който Швейцарската конфедерация открива своите течове, в който ИИ обещава да замени математиците и разработчиците, и в който всички се чудят какво още стои. Между откупи, цитати и вечерни часове, реалността напомня на добронамерените за своето присъствие.

Да започнем с течовете, които предизвикват гняв: Тиери Вебер предава случая на бандата Акира, която иска откуп за данните на повече от 100 000 служители и бивши служители на Конфедерацията, изтекли в PK Softech, доставчик на софтуер за пенсионни фондове. Ето една верига на доверие, която се къса в едно дискретно звено, и изведнъж човек осъзнава, че сигурността на една държава зависи от доставчици, чиито имена никой не знае. На съвсем друга тема, Каролин Миньо отбелязва, че потребителското общество подлудява хората, докато Изабел Буйу повдига въпроса дали изкуственият интелект може да замени математиците, позовавайки се на анализа на Терънс Тао. Три начина да се каже, че нашите системи – икономически, когнитивни или дигитални – са призовани да докажат, че все още се държат.

Доверието, именно, се изразява също в цитати и възприятия. Лоран Бабикян призовава Нелсън Мандела и неговата идея, че омразата и любовта се учат, начин да се напомни, че нищо от това не е даденост. Паскал Вагнер-Егер посочва завладяваща статия на своите колеги и приятели Питър Барет и Антоан Мари за насилието във Франция и възприятието на протестите, която резонира с текущите събития. А Юго Клеман открива дебата: за да се защити каузата на жените, трябва ли да се забрани порнографията? Три входа, един и същ въпрос за това какво мислим, че виждаме и какво искаме да забраним, между преподаването на чувства и политиката на погледа.

Погледът е именно занаятът на журналиста, и Амел Дебей напомня, че тяхната роля по отношение на властите повдига фундаментални въпроси за прозрачността и противодействащата сила, особено когато критична информация се представя без контекст или цифри. Лионел Жирар, от своя страна, се пита дали ChatGPT подготвя свят без Amazon, което измества дърпането на въже на страната на търговията. Франк Рива разширява размишлението в по-мрачен тон: тази градска и икономическа война във Франция ще продължи ли през уикендите до Коледа, или до следващите президентски избори, в следите на негативния рейтинг на Moody's? Три начина да се попита кой контролира разказа, от телевизора до пазарската кошница.

Машините, от своя страна, не искат ничие разрешение. Вилфрид дьо Ранти предупреждава, че банките започват да губят контрол, докато ИИ агентите се утвърждават. Пиер Жан Дювивие, наричан Sage, иронично коментира „великата кауза“ на правата на жените под Макрония, изброявайки разбъркано аферите Брюел, първата дама, правосъдна система, която осъжда само малка част от насилниците, и токсични продукти, хвърляни по протестиращите. И той се подиграва на CNEWS, която коментира в Париж какво се случва в Тирана, отбелязвайки, че числеността на персонала очевидно не е достатъчна, за да гарантира яснота. Технологията напредва, политиката се препъва, а спортният коментар на телевизионните панели се превръща в боен спорт.

Защото мрежата има своите мистерии, и Sage разказва една хубава: на 21 октомври, както много ИТ специалисти, той се опитвал да пачне своите PHP сървъри след откриването на нови уязвимости, преди да открие, че неговите Debian машини нямат правилните хранилища, което го връща, както винаги, към Ондржей Сури, това име, което се е повтаряло двадесет и пет години в живота му на разработчик, без никога да е виждал лицето му. Той извлича от това размишление за индустрия, която обръща стотици милиарди и почива на няколко ентусиасти, понякога доброволци, от които всички се възползват и които никой не познава, с този замайващ въпрос: какво би се случило, ако тези хора спрат една хубава сутрин? Шон Б., от своя страна, публикува в GitHub оръжеен експлойт за двете CVE, които се появиха този ден за PHP, насочен към най-новия WordPress, с едно „Enjoy!“, което не се нуждае от коментар. Ръката, която поправя, и тази, която чупи, понякога се пресичат в едно и също хранилище.

ИИ вече не се задоволява да кодира пачове: Камий Ру съобщава, че Epic Games преминава към „AI first“ за своя стрелец Marvel/Star Wars с Disney, повече код, писан на ръка, модели като Claude генерират кода и ръководят активите. Генерал Жан Пиер Майер, от своя страна, обсъжда разузнаването, командването и вземането на решения в епохата на ИИ, доказателство, че темата напуска студиата за генералните щабове. А Sage, в по-прозаичен регистър, е раздразнен от Габриел Атал, чиито заслуги оспорва предвид диплома „коригирана“ в Sciences Po и практически никакъв професионален опит, напомняйки, че присъщата некомпетентност има последствия за много повече хора, и то с нашите данъци. От алгоритми до автобиографии, въпросът за компетентността остава същият.

Това, което остава, е тялото, онзи велик забравен елемент от организационните схеми. Двама милиардери от Силициевата долина набират 200 милиона, за да създадат генетично модифицирани бойни кучета, съобщава Futura, което дава представа какво човечеството намира за финансиране, когато му е скучно. Венсан Флибюстие, от своя страна, напомня, че когато прекарате размазано изображение през ChatGPT, моделът буквално измисля пикселите и фабрикува смътно подобни лица, което потенциално компрометира. Филип Дуал, накрая, показва визуал, където публикацията, показана на екрана, принадлежи на някой друг, и където коментарите се превръщат в бумеранг на видимостта. Размазването, решително, вече не защитава никого.

Има и такива, които гледат тълпите с умореното око на биолог. Sage отбелязва, че работата преди 10 сутринта би противоречала на нашия биологичен ритъм, цитирайки изследователя Пол Кели от Оксфордския университет, за когото традиционните графици, откъснати от вътрешния ни часовник, причиняват хронично лишаване от сън, с умора, проблеми с концентрацията, тревожност, отслабен имунитет и сърдечно-съдови рискове, и проучване, публикувано в Frontiers in Human Neuroscience, показващо, че началото на часовете в 10 сутринта подобрява здравето и резултатите на учениците на възраст от 13 до 16 години. Същият автор отбелязва, че феноменът MAGA илюстрира криза на западната грамотност, където невежеството би станало добродетел. И той призовава спомена за филм за управлението, човешките ресурси и корпоративната култура, за да опише младеж, която отказва да стане зъбно колело, като същевременно напомня, че светът, абсурден и брутален, остава по-малко ужасен, отколкото някога е бил, и че образователният провал може би се състои в това, че сме спрели да се учим да се изправяме пред сложността, вместо да се предпазваме от нея.

На политическия фронт чашата прелива. Sage твърди, че самодоволството има цена, която страната вече не може да понесе: постоянни вечерни часове, ранени полицаи, отсечени ръце, изгубени уикенди за магазинерите, бягащи туристи, спрял бизнес, и според него консенсус от LFI до RN да се каже на Макрон да си тръгне. Той добавя, че не е останало нищо за спасяване в този режим, което е начин да се затвори главата, вместо да се напише.

Протестът, от своя страна, не спира на границите. Sage отбелязва, че след Франция, Испания, Португалия, Италия, Албания, Индия, Аржентина, Сърбия сега пламва на свой ред, и се пита дали нашите общества произвеждат тревожни ефекти, общи за страни, които въпреки това са много различни, без очевидна политическа връзка между социалистическа Испания, Италия на Мелони и Сърбия. Той също се връща към CNEWS, коментираща три минути кадри, заснети отляво в Париж и отдясно в Албания, включително албански знамена, за да извлече от това искане за забрана или санкция. Александър Поидац, от своя страна, хвали точните думи и силния обрат по отношение на Вилпен, Льо Пен и депортирането, доказателство, че езикът остава бойно поле.

Остава въпросът за виза и зелена карта за индийци, който Марио Коца повдига bluntly, начин да се напомни, че големите миграционни концерни също се разиграват във формуляри. След откупите, експлойтите, цитатите и вечерните часове, денят завършва с административен формуляр: това е може би истинското лице на нашите общества, по-малко зрелищно от техните кризи, но също толкова решаващо.

Моят бестиарий на деня

Гласовете и перата, пресечени в това издание:

Редакционно резюме, изготвено с помощта на DeepSeek от публикациите, изброени по-горе.

Публикацията Когато основите треперят: данни, алгоритми и стари сигурности се появи първо в перата, които хапят.

Често задавани въпроси
ЧЗВ Когато основите треперят Данни Алгоритми и стари сигурности

1 За какво е Когато основите треперят
Става дума за това как данните и алгоритмите разклащат дългогодишни убеждения и установени начини на правене на нещата—и как можем да реагираме, когато сигурностите, на които разчитахме, спрат да издържат

2 Какво означава стари сигурности тук
Предположенията, правилата от опит и експертните преценки, на които хората са се доверявали с години—неща като „опитът знае най-добре“ или „така просто се прави“—които сега биват оспорвани от доказателства, основани на данни

3 Защо основите треперят сега
Защото евтините изчисления, огромните набори от данни и мощните алгоритми ни позволяват да тестваме и поставяме под въпрос неща в мащаб и скорост, които не бяха възможни преди

4 Каква е разликата между данни и алгоритми
Данните са суровата информация—числа, текст, записи. Алгоритъмът е набор от стъпки или правила, които обработват тези данни, за да произведат резултат, като прогноза или класиране

5 Трябва ли да съм технически грамотен, за да разбера тази тема
Не. Основните идеи—какво показват данните, какво правят алгоритмите и защо старите предположения се разпадат—могат да бъдат разбрани без програмиране или математика

6 Какви са ползите от по-голямото разчитане на данни и алгоритми
По-добри решения в мащаб, откриване на модели, които хората пропускат, последователност, скорост и способност да се тестват убеждения, вместо просто да се твърдят

7 Кои са най-честите проблеми
Лоши или пристрастни данни, алгоритми, които са правилни средно, но грешни за конкретни групи, свръхдоверие към моделите и загуба на човешка преценка в процеса

8 Какво е боклук влиза, боклук излиза
Означава, че качеството на резултата на алгоритъма зависи от качеството на входните му данни. Дефектните данни произвеждат дефектни резултати, независимо колко сложен е моделът

9 Какво е алгоритмична пристрастност
Когато алгоритъмът систематично произвежда несправедливи или изкривени резултати—често защото обучителните данни са отразявали минали пристрастия или не представляват всички

10 Можете ли да дадете пример от реалния свят за опровергани стари сигурности
Да—области от медицината до наемането на работа са видели дълго доверени методи, оспорени от доказателства

11 Това означава ли, че експертите и опитът вече нямат значение
Не. Данните и алгоритмите

Моят бестиарий на деня

Related Posts