OVĚŘOVNA: Evropští lídři v Bílém domě na chodbě neseděli. Co má taková falešná fotografie sdělit?
Internet je plný fotografií a videí, stále častěji se ale stává, že snímky nepořídil člověk, ale vytvořila je umělá inteligence. S rozvojem této technologie jsou navíc čím dál tím hůře rozpoznatelné od reálných fotografií. „Stále můžeme věřit mnoha věcem, ale už i já občas ztrácím dovednost na první pohled rozlišit, co na mě nečekaně vybafne na internetu,“ vysvětluje v dalším díle Ověřovny zakladatelka Internetového institutu Tereza Bartoníčková.
Doba, kdy se dalo věřit tomu, co člověk vidí na vlastní oči, podle Terezy Bartoníčkové ještě neskončila. Její konec se ale přibližuje s rozvojem umělé inteligence (AI), která už nyní dokáže vytvořit na první pohled věrohodně působící snímky.
Jejich výroba se postupně zjednodušuje a je otevřená široké veřejnosti, uvádí pro iROZHLAS.cz odbornice na eticko-právní dopady umělé inteligence Bartoníčková. „Je to stále poměrně složitější proces, nicméně je pravda, že pokud se i obyčejný člověk snaží, tak něco takového už může vytvořit díky modelům na internetu úplně sám,“ vysvětluje.
Falešné autobiografie (nejen) hvězdných fotbalistek. Přibývá titulů vytvořených umělou inteligencí
Číst článek
Složitější je pak i takové snímky rozpoznat. „Už i já občas ztrácím dovednost na první pohled rozlišit věci na internetu, které na mě třeba nečekaně vybafnou,“ přiznává odbornice.
Kdyby měla poradit, jak takové snímky odhalit, zmiňuje dvě věci, na které by se lidé měli zaměřit. První je dokonalost AI fotografií, které mohou působit „až moc perfektně“.
Druhou a zásadnější je kontext, v jakém se takový snímek objevuje. „Je to kontextový závod. Opravdu si musím uvědomit, kde jsem a kdo mi co říká,“ říká Bartoníčková a jako příklad uvádí politiku. Dříve strany o svých slibech mohly jen mluvit, nyní je ale mohou doplnit o hyperrealistické fotografie. Těmi se mohou pokusit své soupeře i poškodit.
Fotografie vygenerované AI se objevují ale například i v komerčním marketingu. „Momentálně už se používají i modelky vytvořené umělou inteligencí, které například využila firma Guess v časopisech jako Vogue. Takže ty účely se rozšiřují, ale musíme se vždy zamyslet nad tím kontextem, kde nás potkávají,“ líčí.
Nesedí oblečení ani počet nohou
Pro konkrétní případ z politiky nemusíme chodit daleko, protože jedna umělou inteligencí vytvořená fotografie obletěla sociální sítě tento týden. Po pondělním setkání amerického prezidenta Donalda Trumpa s evropskými lídry a špičkami Evropské komise a NATO se začala šířit fotografie, na které údajně tito lídři sedí v řadě vedle sebe na chodbě Bílého domu a čekají, než je Trump přijme.
S komentářem „Jde o jasné ponížení těchto zkorumpovaných šmejdů. Naprosto nádherné“ snímek sdílel na sociální síti X například jeden konzervativní politický komentátor, který už dříve podle stanice France24 šířil dříve vyvrácené dezinformace.
Snímek byl hojně sdílen nejen na X, ale i na facebooku, linkedinu nebo threads a v několika jazycích – v angličtině, řečtině, němčině nebo francouzštině. Příspěvek uveřejnila také ruská síť Pravda, která šíří proruské narativy, píše France24.
Jak ale odhalily fack-checkingové servery, šlo o obrázek vytvořený umělou inteligencí. Nasvědčovalo tomu rovnou několik detailů na fotografii. V popředí snímku má být prezident Francie Emmanuel Macron, zbytek skupiny ale přítomné lídry nepřipomíná. Například předsedkyně Evropské komise Ursula von der Leyenová a premiérka Itálie Giorgia Meloniová, které na jednání s Trumpem byly, si na snímku vůbec nejsou podobné, navíc mají i jinak barevné a střižené oblečení než na oficiálních fotografiích z Bílého domu, píše například fact-checkingový server Snopes.
27:32
Kybernetik: Vytrácí se univerzálnost pravdy. AI může být nebezpečná, aniž by ve všem dosáhla člověka
Číst článek
Několik osob na fotografii má zdeformované části těla – Macron má místo dvou nohou čtyři a má nepřirozeně plochý obličej a jedna žena má kolena srostlá k sobě.
Nekonzistentní je i vzor na podlaze chodby, kde měli státníci údajně sedět. Nástroje na odhalování falešných fotografií proto usoudily, že s 99,8procentní jistotou jde o falešnou fotografii.
Bartoníčková uvádí, že ji na první pohled zaujala pozice vyobrazených lídrů, která je podle ní velmi účelná. „Jenom těžko bychom hledali takto seřazené lídry ‚na popravu‘, jak jsou na těchto židlích,“ všímá si. Kromě chyb zmiňovaných i ve článku na Snopes uvádí ještě jeden častý indikátor fotek vytvořených AI – špatné osvětlení. Na tomto konkrétním snímku je podle ní ale udělané dobře.
Účel splněn
Výzkumník digitálních technologií na University of Zurich Morgan Wack se domnívá, že přestože při bližším pohledu je jasné, že fotka není skutečná, svou práci i tak odvede. „Má to mnoho interakcí, bylo to propagováno většími účty a propaguje to pocit, že Trump je u kormidla a každý čeká, až na něj přijde řada,“ říká pro německou stanici Deutsche Welle.
„Mnoho AI obrázků nemá vypadat realisticky. Vidíme mnoho přehnaných fotek, které upřednostňují jistý typ narativů, aniž by se snažily vypadat skutečně,“ doplňuje.
Fotografie vytvořené umělou inteligencí – ovšem v nadsázce – sdílel v minulosti i sám Donald Trump. AI z něj udělala postavu ze Star Wars i nového papeže.
