Michal Pěchouček: Umělá inteligence s námi manipuluje. Nejsme schopni pochopit, proč se neuronové sítě rozhodují, jak se rozhodují

pondělí 4. února 2019 ·

„Dnes je těžké říct, kde se nachází umělá inteligence, protože jen během našeho rozhovoru se posune o kousek dál. Rychlost změny je šílená. Jednak proto, že v oboru pracuje čím dál více kvalifikovaných lidí, jednak proto, že stále sbíráme spoustu zajímavých kvalitních dat. Také se ukazuje, že umělá inteligence má ve společnosti čím dál lepší a smysluplnější místo,“ říká v rozhovoru pro Hospodářské noviny profesor Michal Pěchouček z ČVUT.


Michal Pěchouček (cvut.cz)
V rozhovoru zazní také tyto otázky a odpovědi:

A co přijde jako další krok ve vývoji umělé inteligence a robotiky?

Jsme na prahu spousty zajímavých témat. Lidé si začali uvědomovat, že umělá inteligence bude velkou součástí jejich životů, chtějí ji pochopit, využívat. A také se jí trochu obávají. Ta obava sama o sobě vytváří nová témata. Jedno z nich je vysvětlitelnost umělé inteligence. To je schopnost komplikovaných algoritmů strojového učení a neuronových sítí vysvětlit závěry, k nimž došly. V minulosti, když byla umělá inteligence založena na logických matematických modelech, dalo se dopočítat, proč například nějaký program identifikoval, že je v daném krevním vzorku určitá nemoc. Dnes to nejde. Vzhledem k přesnosti hlubokých neuronových sítí nejsme schopni porozumět tomu, proč se ta síť rozhodla, jak se rozhodla. To je velký problém, přestože to skvěle funguje. Nevysvětlitelná umělá inteligence bude řídit auta, ale v oblastech, jako je medicína nebo právo, se bude vyžadovat odpovědnost za rozhodnutí. Takže dnes vědci přemýšlejí, jak vytvořit technologie, které budou tak přesné, tak schopné, ale budou mít v sobě schopnost vysvětlovat.

Velkým tématem je také bezpečnost...

Ano, být schopen prokázat, že algoritmus nebude nebezpečný, že se nedá zmanipulovat jeho rozhodování. V počítačové bezpečnosti řada algoritmů umělé inteligence útočí, ale také brání. Dnes je počítačová bezpečnost souboj dvou umělých inteligencí. A schopnost prokázat formálně, že můj obranný algoritmus nikdo nikdy nezmanipuluje, aby fungoval proti mým zájmům, je velké téma.

Kdy nás umělá inteligence převýší a začne s námi manipulovat?

To není otázka kdy, ale jak moc. Protože to se už dneska děje. Jsme manipulováni umělou inteligencí, rozhoduje za nás. Považujeme to za přijatelné, protože máme pocit, že nás zvlášť neohrožuje. Je otázka, budeme-li schopni jako lidstvo rozpoznat, že už je manipulace hodně. Zvykli jsme si, že nás umělá inteligence manipuluje v nákupech. Jsme zvyklí číst novinové články prezentované na různých agregačních serverech, kde za nás algoritmus rozhodne, jaký si máme vytvořit názor – to je krásný příklad manipulace. Ukazuje se, že umělá inteligence umí manipulovat voliče, vytvořit voličskou poptávku.


Celý rozhovor naleznete zde

1 komentářů:

mirek vaněk řekl(a)...
4. února 2019 7:59  

Poslední odstavec je zcela zásadní. Tak to je a bude to horší. A čím méně vzdělaný občan(nemyslím papírově), tím lépe se s ním manipuluje.
Jenže tohle si je málokdo schopen uvědomit. A řada těch co si to uvědomují to chtějí využít ve svůj prospěch.



Články dle data

Učitelské listy

Nabídka práce

Česká škola - portál pro ZŠ a SŠ

Česká škola poskytuje svým čtenářům diskusní prostor k vyjádření názorů na školskou problematiku. Tyto příspěvky se nemusí shodovat se stanoviskem redakce České školy a jsou uveřejňovány jako podnět k dalším diskusím.

Obsah článků nemusí vyjadřovat stanovisko redakce nebo vydavatele Albatros Media, a.s.


Všechna práva vyhrazena.

Tento server dodržuje právní předpisy
o ochraně osobních údajů.

ISSN 1213-6018




Licence Creative Commons

Obsah podléhá licenci Creative Commons Uveďte autora-Neužívejte dílo komerčně-Nezasahujte do díla 3.0 Česká republika, pokud není uvedeno jinak nebo nejde-li o tiskové zprávy.



WebArchiv - archiv českého webu



Tyto webové stránky používají k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Informace o tom, jak tyto webové stránky používáte, jsou sdíleny se společností Google. Používáním těchto webových stránek souhlasíte s použitím souborů cookie.