Bořivoj Brdička: Démonologie podle Marka Pesceho (Před deseti lety vypadal internet jinak. Dnes začíná připomínat démona.)

Ještě před 10 lety vypadal internet docela jinak. Zdálo se, že se stane místem propojování různých lidí, spolupráce a sdílení… Bohužel jsme spíše svědky toho, jak vliv získávají platformy ovládané algoritmy, které využívají možností strojového učení. Ty se snaží každého uživatele přimět, aby setrvával v jejich prostředí co nejdéle. Předkládají mu, bez ohledu na pravdivost sdělení, to, co se mu líbí a posilují bezmyšlenkovité a bezpracné přijímání mediálních sdělení. Taktéž vedou k individualismu. Vyvolávají snahu sebe sama prezentovat v lepším světle a potřebu být v online světě rozeznatelný a uznávaný.

Mark Pesce (twitter.com)

Mark Pesce ve svých přednáškách vysvětluje, že se během posledních 2–3 let stávají praktiky platforem neúnosné. Nikdy nezapomene zmínit aféru, která rozvířila mediální kruhy (zvláště v Austrálii) na jaře 2017. Tehdy vyšlo (díky whistleblowerům) najevo, že Facebook nabízí zadavatelům reklamy možnost oslovit mladé lidi přesně v okamžiku emocionálního vypětí, které již je schopen identifikovat v reálném čase. Případ asi nejdůkladněji popisuje Wired. Bez souhlasu uživatelů to samo o sobě je vážným porušením práva na soukromí, o to horší, jedná-li se o nezletilé.

Problém je ale ještě mnohem vážnější. Známý je výzkum, který Facebook realizoval již v roce 2014. Tehdy proběhl poměrně úspěšný experiment, v němž se ověřovala schopnost bez vědomí uživatele ovlivnit jeho náladu na základě toho, jaké zprávy dostává. To znamená, že Facebook je nejen schopen reklamu předložit uživateli v okamžiku, kdy je na ni emočně naladěn, ale že vhodnou emoci dokáže též uměle když ne přímo vyvolat, tak určitě alespoň přiživit. Člověk si pak koupí třeba i to, co nepotřebuje. Pokušení ovládat touto cestou třeba také politické smýšlení je samozřejmě obrovské.

Vypadá to, že jsme díky GDPR v Evropě zavedli pravidla, která tyto manipulativní postupy značně omezí, ale nenechme se mýlit, nejprve je musíme umět odhalit, což nemusí být snadné. Umělá inteligence začíná být schopna fungovat tak, že bude obtížně identifikovatelná. Platformní algoritmy jsou zásadně tajné! Další otázkou je, zda si běžní uživatelé internetu umí zjistit, co znamená, dávají-li souhlas se zpracováním svých osobních dat. A tak nám nezbývá než konstatovat, že se velké sociální platformy stávají nástrojem sledování a globálního ovlivňování myšlení (chování) lidí. Díky tomu, že se vyvíjelo statisíce let jen v kontaktu mezi lidmi, je poměrně snadno předvídatelné.

Zvláště mladí lidé nemají vyvinutou schopnost se bránit. Často se dostávají do závislosti. Věří něčemu, co umí číst jejich myšlenky, zná jejich slabiny, umí se přizpůsobit jejich náladě a ovládá je ne k jejich prospěchu, ale ke svému. Kdybychom žili v 15. st., asi bychom něco takového nazvali démonem. Proto mluvíme o Pesceho démonologii jako o fenoménu, který jednoduše ukazuje, jaký problém se v pozadí skrývá. Nechat se ovládat je ve skutečnosti hodně podobné situaci, v níž se ocitl Faust, když uzavřel smlouvu s ďáblem.


Celý text naleznete zde