AI lidem sebere práci. Nedebatujeme o tom, co od ní chceme, vadí analytikovi

Praha 23. července 2025 Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

Budeme se zase po čase bavit o AI. Tři alba za letošní rok, víc než milion a půl fanoušků na streamovací platformě Spotify, raketový vzestup během pár týdnů. Asi jsi slyšel softrockovou kapelu Velvet Sundown.
Poslouchal jsem to. Přiznám se, že to není můj šálek čaje, ale slyšel jsem.

Poznal bys, že to je umělá inteligence?
Speciálně v tomto žánru bych to nepoznal, protože mi to všechno přijde na jedno kopyto. A nedivím se, že to nepoznala spousta lidí.

Strašně moc lidí. Bavili jsme se o tom s naším sound designérem Jaroslavem Pokorným, který je zároveň kapelník, hraje a skládá, a na první dobrou to nebyl schopný rozeznat. Upozornil mě na určité momenty, kde to trochu zavání, ale laik to prý nemá šanci poznat.
Ale to je strašně zajímavé. AI je strašně široký pojem, ale modely generativní umělé inteligence jsou tu s námi relativně krátkou dobu. V podstatě tři roky v tuto chvíli, když to budeme brát od GPT-3. Výzkumů je strašně moc, mimochodem řada z nich se dělá v Česku. Jeden z českých výzkumů ukazoval u textů, které vygeneroval ChatGPT, že když ti dám jeden text, tak šance, že to poznáš, je docela malá. Závisí na délce textu a podobně, ale dá se to naučit. 

Jde se naučit rozpoznat to.
Takže když ti to pustím, tak na první dobrou je šance malá. Ale když se tomu budeš věnovat delší dobou a trénovat tu schopnost, tak stoupá šance, že AI obsah má nějaký svůj styl, který je do nějaké míry naučitelný. Důležité je asi říkat zatím, protože to, co říkáme dnes, nemusí platit za měsíc, ale taky za rok nebo za deset let. Zatím se to tedy ještě pořád dá naučit do nějaké míry úspěšnosti.

Ale tady nejde jenom o text, protože umělá inteligence složila i hudbu. Chytlavé melodie, riffy…
Samozřejmě, ale ty riffy jsou relativně monotónní. Historie generování hudby pomocí AI, a dokonce Spotify v tom má svoji historii, by nás vracela hodně zpátky. Myslím, že první větší skandály se začaly objevovat dokonce před osmi lety. Tehdy se jednalo o různé jingly a hudbu, která je spíš instrumentální, meditační. To se dalo generovat dobře už i předtím. Už v té době se ukazovalo, že takové skladby pronikají do playlistů na Spotify. Dokonce se tehdy vedla debata, jestli to Spotify nedělá trochu naschvál, aby ušetřilo peníze. To, kam jsme se dostali dnes, je něco, co Spotify zažívá už zhruba od roku 2023. Situace je dnes taková, že například konkurence švédského Spotify, francouzská firma Deezer, která v Česku není tolik známá, nicméně je to velká streamovací platforma, tak ve své poslední zprávě, myslím, uvádí, že zhruba 18 % veškerého hudebního obsahu, který je tam nahráván, je generováno AI. To znamená, že se s tímto fenoménem budeme setkávat v masivní podobě čím dál víc.

Deezer taky umístil poznámku u Velvet Sundown, že některé skladby mohou být generované umělou inteligencí. Spotify tam žádnou poznámku nemá kromě samotného představení té kapely, kde její autoři už teď přiznávají, že jsou AI. Na začátku to nikdo nevěděl, museli na to upozornit novináři. Ale kapela se dostala i na doporučovací playlist Spotify.
Na řadě platforem se AI podílí na vytváření těchto playlistů...

Pomocí algoritmů, že? 
Pomocí algoritmů, které jsou většinou postavené na strojovém učení.

Takže umělá inteligence si doporučila umělou inteligenci. 
V podstatě ano. Nutno říct, že platformy v tuto chvíli nezakazují AI generovaný obsah. Zakázané je lhát o tom, že je to lidské, a přitom jde o AI. Možná, že do budoucna uvidíme, že se někdo bude vydávat za AI a bude to sám skládat, nevím. Ale lhaní je zakázané, zatímco samotné využívání generované hudby anebo přímo celé generované skladby zakázané není. Popravdě řečeno asi nebude zakázané.

Říkal jsi, že tyto skladby jsou takové monotónní, jednoduché, že se dají po čase rozpoznat, dá se naučit identifikovat je. Na druhou stranu bych mohl oponovat, a nechci se dotknout žádného hudebníka, že nejúspěšnější písničky se ale taky často skládají ze tří akordů.
To ano, ale kdybychom šli na úroveň šumu v těch písních, nějakých nepravidelností a podobně, tak AI s tím pořád má malinko problémy, byť můžeme dnes vidět na generovaném hlasu, že už zvládá „hazety“ a všechny tyto věci. Myslím, že do budoucna to k rozpoznání nebude, když ti pustím jenom ukázku. Ale s opakováním ta schopnost roste. Například u skutečné digitální fotografie a fotografie vygenerované AI víme, že poměrně úspěšné jsou algoritmy, které jsou postaveny na tom, že každý čip fotoaparátu nechává fyzický otisk k tomu obrázku. Když máš takový otisk prstu digitální fotografie, tak víš, že je z jednoho a toho samého fotoaparátu, což je něco, s čím AI má problém. Umí sice přidat nějaký šum, ale neumí udržet konzistenci mezi vygenerovanými fotografiemi. Takže v tomto ohledu, byť z jiného média, ale přece jenom vidíme, že jsou tam ještě pořád cesty, jak to detekovat. Znovu říkám, že zatím.

AI, novinařina a učení

To máme hudbu, poslech, obrázky. Kde dál nás může umělá inteligence ještě ošálit? Dostáváme se totiž asi do fáze, kdy je to velmi těžce rozpoznatelné.
Nabízí se to, co už jsme zmiňovali, tedy hlas, kde kvalita taky prudce roste. Má na tom mimochodem velké zásluhy polský startup ElevenLabs, abychom se taky pochlubili, že v Evropě máme velmi úspěšné AI startupy. A pak je to samozřejmě video, protože minimálně od okamžiku, kdy Google uvolnil VO3, vidíme už AI generovaný obraz, který je velmi realistický. Když dnes otevřeš TikTok, tak na tebe padá jedno AI generované video za druhým. Tyto oblasti jsou taky zasažené. 

Kde to bude asi nějakou dobu trvat, ale myslím, že to je částečně proto, že po tom není poptávka, je například otázka vůní. Ale v zásadě jde říct, že tam, kde máme dostatek dat, progres vidíme a do budoucna taky pravděpodobně dojde ke ztrátě hranice mezi tím, co je dílo člověka a co je dílo stroje.

Jsi mediální analytik, tak jak velké ohrožení je to pro žurnalistiku? 
Obzvlášť s nástupem VO3, který je z května tohoto roku... 

To je pár měsíců. 
Přesně tak a skloňuje se ve všech možných pádech, protože vygenerovat si demonstranty, kteří přiznávají, že je zaplatila vláda, není už v tuto chvíli vůbec žádný problém. Čili ta situace už tady je. Otázka je ale jiná, totiž jaký vliv to bude mít na žurnalistiku. Ve všech případech falešného obsahu se skloňuje to, že do budoucna poroste role značky, která bude tím, co bude krýt pravost dané věci. 

Bude garantovat důvěryhodnost. 
Dá se očekávat, že média budou muset posilovat svoje brandy. Budou muset být značkou, která svojí existencí zaručuje to, že to je pravé. To pro ně mimochodem znamená, že by asi neměla moc sahat po AI generovaném obsahu. Myslím, že pro média bude daleko složitější vyrovnávat se s nástupem umělé inteligence jinde, zejména ve vyhledávání. Když Google uvedl AI Overview... 

Co je AI Overview? 
To je AI vygenerované shrnutí odpovědi na vyhledávací dotaz, který člověk hledal.

To je to, jak se mi zobrazí hned pod vyhledávaným heslem vysvětlení vytvořené umělou inteligencí, co jsem asi měl na mysli, ještě než tam jsou odkazy.
Přesně tak. To vede k dramatickým propadům návštěvnosti, což samozřejmě vede k dramatickým propadům tržeb. Proto si myslím, že daleko víc je ohrožen ekonomický model. Přiznejme si, že média ekonomicky nezvládla nástup internetu, nezvládla najít dobrý model, sáhla hlavně po tom, aby vygenerovala ještě víc obsahu. V Česku je to úplně zřejmé, protože vidíme, jak i velmi seriózní weby jsou zaplavovány takzvanými klikačkami. To všechno půjde do háje a s tím média přijdou o příjmy. Myslím, že tam bude velké finanční ohrožení. Na druhou stranu AI může novinařině velmi pomoct, ale musí se s ní zacházet jako s nástrojem, ne jako s někým, kdo to všechno udělá za mě.

Dokáže zefektivnit práci, pomoct, zrychlit, ulehčit v bodech, které jsou jenom vyčerpávající a rutinní, ne úplně na přemýšlení. Ale umí pomoct i s přemýšlením, brainstormingem nebo něčím takovým?
Možností je celá řada. 

To může i u studentů a studentek. Jsi taky učitel, kromě toho, že jsi mediální analytik. Poznáš, když ti studenti nebo studentky odevzdají práci, kterou nesepsali sami vlastní rukou?
Musím se smát, protože když řeknu, že to poznám, tak jsem si stoprocentně jistý, že jsem to občas nepoznal. Dá se říct, že zatím to člověk ještě odhadne, protože ty texty jsou takové trochu generičtější. Chtěl jsem na to ale namítnout, že přednáším na studiích nových médií, takže to je trochu jiný příběh. Pravidla pro používání AI jsme totiž zaváděli už v lednu loňského roku. Už tehdy jsme aktivně pracovali s tím, že studenti mají k dispozici AI. Dnes směřujeme k tomu, že chceme, aby užití AI bylo deklarované v, dejme tomu, diplomové práci. A obráceně když pedagog říká, co bude po studentech chtít, tak aby dopředu deklaroval, jestli můžou, nemůžou nebo jak AI budou používat. Na úrovni psaní s tím nejde udělat nic rozumnějšího v tuto chvíli. Netroufnu si říct, že poznám, že to napsala AI, ale občas jsou tam místa, kdy si člověk říká OK, a je otázka, co s tím dál.

Používá umělá inteligence obdobná slova, vazby a podobně?
Typické rysy jsou zapomenuté emotikony v textu, to nikdo normálně nepíše, pak generické obraty, taková slovní vata, všechno je skvělé, úžasné, dechberoucí. Když jsou tam tyto věci, tak člověk asi rychle zpozorní. Ale ve své praxi se s tím setkám minimálně. Loňský rok jsem učil na Gymnáziu Paměti národa s Michalem Kaderkou, předmět se jmenoval Nová média a data, takže jsem trochu nasál i prostředí střední školy. Tam je to mnohem častější, protože tam je spousta úloh, které studenti dělají neradi. Věčný příklad jsou čtenářské deníky. Ale, když s nimi potom člověk vede debatu nad takovým textem, tak velmi dobře sami vědí, že ten text není dobrý. Jsou prostě jenom líní.

Ptal jsem se, jestli to dokážeš poznat, z toho důvodu, že jsem si všiml loňské studie v časopise Computers and Education, podle které se učitelům nepodaří rozpoznat AI ani v polovině případů.
Myslím si, že to je realistický odhad.

To je ale varující číslo, ne?
Když říkáš, že je to varující, tak to znamená, že si někde v hlavě představuješ, co je správná situace. Položím protiotázku. Je správná situace, že chceme mít od studentů blbě napsané texty? Je pro nás důležité, že to napsali studenti? Rovnou si odpovím. Myslím, že na středních školách ano. Tam chceme, aby studenti psali sami, protože učíme tuto dovednost. Na bakaláři už si umím představit, že spíš chceme, aby byli schopní kriticky pracovat s masovou informací. AI tam může mít mnohem širší využití. Na magisterském studiu už většinou úlohy, které studenti řeší, jsou spojené například s nějakým výzkumem, s hlubšími věcmi, které AI v tuto chvíli nezvládá. Dalo by se skoro říct, že se stoupající mírou vzdělání může stoupat podíl využití AI pro psaní textů. Nejhorší je, když se AI zapojuje do bezmyšlenkovitého psaní na základní nebo střední škole. Existuje spousta věcí, jak to jde udělat líp. I tam s tím ale jde pracovat. To neznamená, že jsem zásadně proti, jenom se s tím musí pracovat jinak.

Protiargumentem ale může být, kolik toho uvízne ve tvé hlavě, když umělou inteligenci použiješ, aby sis s ní pomohl. Protože vědci z MIT přišli na to, že čtyři z pěti lidí využívající ChatGPT, což je jeden z jazykových modelů, si po chvíli nepamatují, k čemu ho vůbec použili.
Studie MIT je extrémně zajímavá. Exaktně dokazuje, že pokud používáme nástroje, tak nenamáháme sami sebe. To tady bylo s Googlem. Pavel Kasík, který o tom psal, na to měl krásný příklad. Říkal, že když dojdete pět kilometrů pěšky, tak vynaložíte na svaly úplně jinou zátěž, než když tam dojedete na kole, nebo autem. To je úplně stejné. O to opírám i to, že si myslím, že na základních a středních školách s tím musíme zacházet velmi opatrně, protože potřebujeme studenty naučit nějaké dovednosti, kterou když se nenaučí, zvlášť v době, kdy se ještě hlava vyvíjí, tak to bude způsobovat, že nebudou zvyklí na mentální zátěž vyšších myšlenkových operací.

Vědci z MIT upozorňují, že AI může tak narušovat schopnost učení u mladých lidí, že se mozek nemusí naučit učit se.
Je to úplně banální, a proto to nechceme slyšet. Když sval nezatěžujeme, tak ochabuje. Když hlavu nezatěžujeme, tak ochabuje. Miloš Čermák kdysi říkal, že možná za 20 nebo 30 let budou náměstí plná gymů pro mozek. Jak jsou dnes gymy, aby si tam člověk šel udělat tu svalovinu, tak možná úplně stejně tam budou podniky, kam člověk přijde a každý den si dá 45 minut mentálních shybů.

Až to nepoznáme

Pojďme dál s výhledem do budoucnosti, která může nastat za pár týdnů, za měsíc, za půl roku anebo za pět let. Kdy už to nepoznáme, že text nebo píseň nevytvořil člověk?
Mluví se o tom, že generativní AI, respektive ChatyGPT, ať nemluvíme pořád obecně, je v místě, kde všechny ty věci už strašně připomínají to, co je lidské, ale pořád zbývá něco, co je trošku znepokojivé. Ten pojem se často používá zpětně k robotice. Když máš humanoidy, kteří už vypadají jako lidé, hýbou se jako lidé, tak tam zůstává něco strašidelného, nelidského v jejich pohybech. V robotice se to velmi nedaří překonat, zbývá tam ta poslední míle. Zhruba v tom bodě jsme u AI textů. Při pozorném opakovaném čtení, porovnávání, když se na to podíváme skutečně podrobně, tak tam je všechno awesome. 

Úžasné, neskutečné. 
Neskutečné, dechberoucí.

Taky můžeš jazykovému modelu říct, aby to nepoužíval. 
Ano, ale zase se to projeví někde jinde. Zůstává tam pořád něco drobného a nevíme v tuto chvíli, a podle mě to neví nikdo, jak dlouho bude trvat to odstranit a jestli se to vůbec někdy podaří. Na krátkých textech už je to v podstatě hotové, tam už to člověk nepozná. Ale například u článku nebo eseje je to jiné. Čím víc roste komplexnost textu, problém jeho jednoty, například jak věty navazují mezi sebou – to jsou věci, které známe dobře z lingvisty jako takzvanou koherenci textu – jak navazují věty tematicky na sebe, čeho si věty navzájem všímají, čím je text delší, tím je pozornost modelu horší a tím víc se tam odhalují nesrovnalosti. 

To ale přece není nepřekonatelný problém, ne?
Nevíme, jestli je to nepřekonatelný problém. Víme, že jsme schopni zvětšovat okno pozornosti, ale taky víme, že když ho uděláme větší, nezbavujeme se tím nekonzistencí. Naopak. Čím větší je okno, tím je to nekonzistentnější. Myslím si, že v tuto chvíli to v podstatě nikdo neví. Ale taky nikdo neví, jestli nepřijde nějaká nová technologie.

Kdybych měl uvést analogii se softrockovou kapelou Velvet Sundown, tak u písní dobře, ale kdybychom nechali umělou inteligenci složit symfonii, tak tam už to poznáme?
Přesně tak. Myslím si, že kdybychom ji nechali složit symfonii, tak tam to poznáme. Byť bych rád připomněl, že je už jedna dokončená symfonie pomocí AI, kterou autor nedokončil a nechali ji dokončit AI, takže byl bych opatrný.

Jak z toho těžit, abychom neměli pocit, že v tom je něco riskantního, narušujícího naši bezpečnost nebo jistotu, že nám umělá inteligence nesebere práci, ale že nám pomáhá, že ji můžeme využít k tomu, co děláme jako lidé, abychom byli partneři, nikoliv nepřátelé?
Záleží na tom, v jaké profesi se člověk pohybuje. 

Když jsem například skladatel.
Myslím, že AI bude lidem brát práci. Nemyslím, že člověk přijde na to, jak dál dělat s pomocí AI líp to, co dělal doteď. Pozice se proměňují, práce překladatelů se proměňuje, práce editorů taky. Ne, že by tyto pozice zanikaly, ale dělají něco jiného. Myslím si, že jedinou obranou je připravit se na to, že dojde k proměně zaměstnání, že nejenže bude zapotřebí na některé úkoly méně lidí, to je už dnes v celku evidentní, ale že se promění samotná náplň. Je otázka, jestli to povede k tomu, že se člověk stane kreativnějším, to znamená, že AI přebere nekreativní práci, a tím pádem člověk bude moct být úžasně kreativní. Nebo jestli se stane to, že člověk bude jenom prodlouženou rukou AI, jestli tam, kam AI nedosáhne, použije člověka. Ale ten pohyb už ve společnosti je. 

Pro mě je asi nejvíc varující v tuto chvíli, že u nás nevedeme velkou celospolečenskou debatu o tom, co vlastně od generativní AI chceme. Nevedeme debatu o tom, jak chceme proměnit české školství, jak s AI ve státní správě. Přičemž víme... Troufnu si odhadnout, že polovina úředníků používá AI ve své každodenní práci. Používá americkou AI, často na černo. Ale AI už reálně ovlivňuje chod země. Slyšel jsem na jedné konferenci zlomyslnou poznámku, že od té doby, co je AI v provozu, se zlepšila kvalita poslaneckých projevů. Docela rád bych si na to udělal nějaký výzkum. Ale my se pořád tváříme, že to tak trochu není. Ale měli bychom vést zásadní debatu o tom, co AI udělá v celém kontextu společnosti. Protože tu máme stárnutí populace, investice do míst, kde se dřív řeklo, abys vystudoval programátora nebo právníka a budeš mít velké peníze. Možná, že když dnes vystuduju sociální práci, tak budu mít za deset let větší peníze než programátor.

Možná, že právě tyto momenty, jako to, že jsme zjistili, že Velvet Sundown nejsou lidé, ale umělá inteligence, nás k tomuto probuzení a debatě můžou vést. Tak to i autoři Velvet Sundown říkají - je to umělecká provokace.
Když čtu komunikaci kolem, tak si nejsem úplně jistý, jestli to nebylo z jejich strany spíš pokrytí průšvihu než skutečný záměr. 

V podcastu byly kromě zvuků z Českého rozhlasu využity tyto zdroje: Velvet Sundown - Dust on the Wind z aplikace Spotify.