Bořivoj Brdička: Když velký bratr dostane velká data

Zpráva o tom, jakého pokroku dosahuje plošná aplikace umělé inteligence a hlubokého učení na velkých datech za účelem kontroly lidí (stabilizace společnosti) v Číně, to vše v souvislosti se školstvím. Velká data byla nejdříve využívána ke komerčním účelům formou cílené reklamy.

Bořivoj Brdička (youtube.com)

Ve školství se v poslední době často setkáváme se snahou analyzovat data vyprodukovaná žáky při práci s digitálními přístroji za účelem hodnocení výsledků jejich učení (learning analytics, personalizace). Že je to záležitost riskantní z pohledu ochrany osobních údajů, je nám, doufám, jasné. Demokratická společnost však má prostředky, jak nekalým praktikám čelit. Viděli jsme to na eliminaci snah firmy inBloom v USA získávat velká data od žáků, proti čemuž se postavili rodiče, a dosáhli soudního zákazu. Aktuálně zaváděné evropské GDPR je zřejmým důsledkem tohoto vývoje.

S demokracií však na tom je současný svět dost špatně. Jsme svědky toho, jak se o netransparentní zpracování velkých dat o občanech pokoušejí bezpečnostní agentury téměř všech zemí. Co se může stát, dostane-li se takový nástroj umožňující analyzovat činnost lidí na velkých datech do rukou totalitní moci, můžeme pozorovat v Číně. Vláda zde zavádí reputační systém tzv. „sociálních kreditů“. Jedná se zjevně o způsob, jak ještě více posílit moc vládnoucí strany a eliminovat všechny známky opozice v samém zárodku. Informací je velmi málo. S jistotou lze říci, že v pozadí bude pracovat podobný algoritmus založený na umělé inteligenci, jaký používají nejrozšířenější komerční platformy, včetně naprosto stejné neprůhlednosti. Jen cíl je trochu jiný. Namísto maximalizace stráveného času se v tomto případě jedná o nástroj centralizovaného ovládání obyvatel.

Systém shromažďuje dostupná data o všech občanech ČLR. Kromě základních dat z registru obyvatel (adresa, fotka) ví, co čtou i co vkládají na sociální sítě (za pochvalu vlády přiděluje kladné body a naopak), sleduje, zda nejezdí načerno, platí včas účty, neruší noční klid, starají se o seniory apod. Jména občanů s nejvyšším sociálním kreditem jsou již dnes lokálně zveřejňována a mají všelijaké výhody. Pro ty, kteří se ocitnou na opačné straně tohoto „žebříčku“ to může mít i velmi nepříjemné důsledky. Zde je 5 příkladů již existující praxe:

1. Zákaz cestovat letadlem či rychlíkem
Dle sdělení Channel News Asia vstoupilo toto opatření v platnost 1. 5. 2018 a týká se od počátku 9 milionů lidí s nejnižším sociálním kreditem. Součástí zákazu je pochopitelně též nemožnost vycestovat do zahraničí.

2. Zákaz studovat
Beijing News informovali o tom, že 17 lidem, kteří odmítli nastoupit vojenskou službu, bylo znemožněno studovat na vysoké škole. (To je ale jen vrchol ledovce, protože dostatečná úroveň sociálního kreditu jistě bude podmínkou přijetí na všech lepších čínských univerzitách.)

3. Nemožnost získat lepší zaměstnání
Občané s nízkým sociálním kreditem nemají šanci získat lepší zaměstnání ve státních i soukromých firmách.

4. Zákaz ubytovat se v lepším hotelu
Dle informací zjištěných BBC má sociální kredit též vliv na možnost ubytovat se v hotelu. Lidé s vyšším kreditem nemusí platit zálohu.

5. Zveřejnění seznamu „špatných občanů“
Lidé s nejnižším kreditem jsou zapsáni do veřejně dostupného seznamu, což má za následek nejen hanbu, ale též mnoho dalších komplikací v běžném životě – nemožnost cestovat, získat půjčku, byt, nedostatkové zboží apod.

Celý text naleznete zde