Vývojář: Fake news před volbami? Používejte selský rozum a ptejte se, zda není načasování zvláštní
Umělá inteligence je stále inteligentnější, prudký vývoj ale může být hrozbou například pro demokratické volby. Matylda, model umělé inteligence, se stala už před čtyřmi lety moderátorkou předvolebních debat. A teď toho umí mnohem víc. „Je jako dítě, které postupně dospívá, zraje a je týden od týdne chytřejší,“ popisuje jazykové modely AI Jan Tyl, vývojář a programátor umělé inteligence. „Umí se ptát a umí do řeči vnášet emoce.“
Vytvořit digitální personu, která má své vlastní názory, vymyslí pro politiky neotřelé otázky a navíc je stále chytřejí, se Janu Tylovi podařilo před čtyřmi lety. Matylda, jak ji pojmenoval, se ihned zhostila role moderátorky politických debat. V pořadu Osobnost Plus vývojář popisuje, jak k jejímu zrodu došlo.
„Někteří lidé ji vnímají jako takového agnostického papouška, jako statistický model, který predikuje další slovo nebo část slova. Ale i náš mozek často funguje tak, že se snaží vytvořit model světa a predikovat, co může přijít,“ vysvětluje.
„Často si ji personalizuji do takové míry, že se nám v lecčems podobá,“ říká. Právě to je ale realita – systémy umělé inteligence se lidem podobají čím dál víc.
Vývojař uvažuje i o tom, jak se AI za čtyři roky proměnila. „Generování videí bylo před čtyřmi lety takřka nemožné. Dnes je vygenerovat deepfake za pár minut pro každého člověka bez jakékoliv znalosti velmi jednoduché.“
AI jako nástroj dezinformací
Zejména v politice je riziko zneužití umělé inteligence vysoké. Takzvané fake news nebo vygenerovaná videa mohou být zneužity před volbami, aniž by je někdo účinně dokázal zastavit.
4:51
AI pomáhá s identifikací zvířat. ‚Umíme určit jednotlivce u rysů nebo tygrů,‘ říká vědec
Číst článek
„Pokud by se to stalo, prosím o kritické uvažování,“ radí Tyl. „Je to jen ten zdravý selský rozum, zamyslet se, jestli načasování není trochu divné těsně před volbami.“
Na sociálních sítích je jednoduché algoritmy ovlivnit nerozhodné voliče, velká část politické kampaně se odehrává na jednotlivých platformách. „Nastavení na sociálních sítích si určují sítě samy, začínají jim ale do toho mluvit jednotlivé země,“ přibližuje odborník.
Dodává, že firmy jako Google nebo Facebook podnikají kroky k tomu, aby bylo jejich prostředí méně politizované.
Dalším z nástrojů dezinformátorů mohou být i chatboti, tedy programy simulující reálnou konverzaci.
„Typicky se mluví o proruských webech, který vygenerují relativně nepoznatelné chatboty, které se čtenáři mohou diskutovat. Vůbec netuší, že na druhé straně není člověk, ale je tam trénovaný chatbot, kterého je velmi snadné vytvořit,“ varuje Jan Tyl na závěr.
Máme ještě šanci rozpoznat, že na nás mluví umělá inteligence? Poslechněte si celý rozhovor v audio záznamu výše.
