Umělá inteligence změní společnost. Firmy vyvíjejí černé skříňky, do kterých samy nevidí, říká odborník
Signatáři jako Elon Musk nebo Steve Wozniak vyzývají v petici vývojáře, aby dočasně pozastavili práci na systémech umělé inteligence. Proč půlroční pauzu požadují a bude stačit k tomu, aby zastavila překotný technologický vývoj? Jaká rizika umělá inteligence představuje například na trhu práce? Hostem Dvaceti minut Radiožurnálu byl Vít Janiš z Mendelovy univerzity, jeden z českých signatářů výzvy.
Výzva, kterou jste podepsal i vy, žádá, aby velké laboratoře dobrovolně pozastavily práce i na stále silnějších modelech umělé inteligence. Proč?
Laboratoře po celém světě vyvíjející umělou inteligenci rozjely překotný závod o to, kdo přijde s větším a robustnějším modelem umělé inteligence. Tyto laboratoře vyvíjejí jakýsi black box, černou skříňku, do které nikdo zvenčí nevidí. A co je horší, konkrétně v případě firmy OpenAI a jejího produktu ChatGPT, který poslední měsíce výrazně hýbe scénou umělé inteligence a celým světem; sami přiznávají, že úplně přesně nevědí, jakým způsobem ten jejich produkt, ChatGPT, dojde k závěrům, ke kterým dojde. To je něco, z čeho mě mrazí v zádech.
Stejně jako s nástupem internetu se obáváme, že přijdeme o práci. Teprve teď ty obavy začínají mít reálný základ, říká Vít Janiš z Mendelovy univerzity v Brně
Můžete krátce objasnit, jak to vlastně funguje?
ChatGPT je umělá inteligence, která se objevila koncem listopadu a je to v podstatě chat, ve kterém si s tímto systémem můžete nějakým způsobem dopisovat, on na ten váš písemný vstup reaguje. Mimochodem, tento systém prošel Turingovým testem, tedy není možné rozeznat, jestli diskutujete s umělou inteligencí nebo se skutečným člověkem. Ten systém funguje na tomto principu, tedy že vložíte textový vstup a on ho vyhodnotí, analyzuje a předloží vám textový výstup.
Podle signatářů by měly laboratoře přestat alespoň dočasně vyvíjet modely silnější než GPT-4 a dát prostor k tomu, aby došlo k ustanovení jasných pravidel pro vývoj. Co je GPT-4?
To je nová verze tohoto systému, protože doteď jsme měli možnost veřejně testovat systém GPT-3.5, který uměl interagovat jenom v rámci písemného vstupu. Systém GPT-4 umí ještě navíc audiovizuální vstup, to znamená, umí pracovat se zvukovým vstupem, s video vstupem a s obrázky.
Je v některých ohledech až 600x výkonnější než původní model GPT-3.5, přičemž my jsme doteď ještě nebyli schopni pobrat, co všechno ten systém GPT-3.5 vlastně umí, a už je tady jeho nová verze. GPT-4 byl představen minulý týden v úterý, takže je to úplná novinka.
Jaká „hluboká rizika pro společnost a lidstvo“ mají na mysli iniciátoři výzvy, kteří před nimi varují?
Můžeme se na to dívat z krátkodobého nebo dlouhodobého pohledu. Z pohledu krátkodobého, který nás teď asi zajímá nejvíc, tyto systémy přinášejí poměrně dramatickou změnu pracovního trhu a fungování celé společnosti. Některá povolání zaniknou a jiná se budou muset transformovat. Na druhou stranu, abych nebyl úplně pesimista, některá povolání na základě těchto technologií úplně nově vzniknou.
Robot ChatGPT má problém, Itálie omezila jeho užívání. Provozovateli hrozí pokuta
Číst článek
Změní se i fungování společnosti, protože umělá inteligence ovlivňuje dění ve společnosti na všech úrovních, v každodenním životě. Vše, co děláme, je ovlivňováno umělou inteligencí.
Pak je tu pohled bezpečnostní, protože existuje možnost zneužití těchto systémů. To se týká například hackingu, kdy si hacker může nechat tímto systémem napsat nějaký kód, který potom využije k tomu, aby napadl jiné systémy. To může být využito v hybridní válce, to znamená na dezinformační scéně. Tento systém umí velmi efektivně generovat texty na přání. Můžeme se bavit klidně i o deepfake, to jsou výstupy, které lze velmi těžko odhalit. Z dlouhodobého pohledu bych se obával něčeho, čemu se říká technologická singularita.
Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí. Vy si to nemyslíte?
Je zapotřebí říct, že pokud jde o bezpečnost a možnost zneužití, tak se nebavíme o tom, že by tyto systémy mohly autonomně začít škodit lidstvu. To v žádném případě ne. Mohou být zneužité, ale opět jen člověkem.
V současnosti není nějaké přehánění na místě. Ty systémy nevykazují inteligenci tak, jak ji chápeme. Jsou to jenom nástroje, které ale může být zneužitelné. V dlouhodobém horizontu, s tím, jak se budou vyvíjet, by nicméně k něčemu, co by se dalo přirovnat ke svévolnému rozhodnutí robotického vysavače, opravdu dojít mohlo.
Co představuje fáze technologické singularity a nacházíme se už teď na její hraně? Bude ke zpomalení vývoje stačit půlroční pauza, po které signatáři výzvy volají? Které profese jsou rozvojem umělé inteligence ohroženy? Poslechněte si celý rozhovor výše.
