O umělé inteligenci je užitečné přemýšlet jako o mimozemšťanovi, tvrdí novinář Koubský
Chatovat s umělou inteligencí si v aplikaci ChatGPT vyzkoušelo už přes 100 milionů uživatelů. „Je to první zkušenost lidstva s inteligentní bytostí, která není člověk. Může nám ledacos říct o nás samých, ale bude chvíli trvat, než si to zpracujeme,“ říká Petr Koubský, redaktor Deníku N pro vědu a technologie.
Jak dobře v sobě mají tito roboti zakódovanou etiku? Můžeme jim sdělit, že nesmí ublížit člověku, a oni se tím budou řídit?
Bohužel to tak není. Ne proto, že ti, co stroje vytvářejí, by byli šílení, zlovolní vědci, kteří by to udělat nechtěli. Ale protože se to udělat nedá.
Nikdo na světě neumí sáhnout dovnitř a ukázat, proč ta věc dělá právě to, co dělá, popisuje Koubský
Když řekneme „neublížit“, řídíme se tím, že jsme lidé, že máme spoustu zabudovaných instinktů, které vyplývají z toho, že jsme živé bytosti. Stroji něco takového nesdělíte.
Když mu uložíte příkaz minimalizovat riziko pro lidstvo, narazí na člověka, který trpí nějakou vážnou nakažlivou nemocí, a vyhodnotí, že optimální způsob je zlikvidovat ho, aby nemohl nikoho nakazit. My lidé takto neuvažujeme.
Máme v sobě zakódováno, že toto není přípustné řešení. Takže jednoduchá odpověď na etiku? Žádná tam není.
„Budeme si tu věc antropomorfizovat, budeme o ní uvažovat jako o člověku, ale nemá s námi nic společného.“
Co je podle vás důležité zmínit v souvislosti s tím, co se aktuálně děje?
Myslím si, že si pořád musíme připomínat tu ne-lidskost. Ono to vypadá jako hodně obecná odpověď, ale týká se úplně všeho, na co v této oblasti narazíme. Budeme si tu věc antropomorfizovat, budeme o ní uvažovat jako o člověku. Ale její logika, její způsob uvažování, její motivace je úplně jiná, nemá s námi nic společného.
Je podle mě velice užitečné o té věci přemýšlet jako o mimozemšťanovi, který přiletěl na Zemi a naučil se mluvit naším jazykem, ale vůbec nechápe, co ty pojmy znamenají.
A my robotovi rozumíme?
V tom je ta potíž. My moc dobře nerozumíme tomu, jak ta věc uvnitř funguje. Vím, že to zní divně, že je to špatně přijatelné tvrzení a že má člověk chuť okamžitě vyskočit, běžet do centrály Microsoftu nebo Googlu a říct jim – prosím vás, honem to vypněte, a jestli to neuděláte, tak já tady mám železnou tyč a rozbiju vám to v zájmu záchrany lidstva.
Ale opravdu to tak je. Jsou velice dobře známy principy, na kterých to funguje, ale dneska už nikdo na světě neumí sáhnout dovnitř a ukázat, proč ta věc dělá právě to, co dělá.
Přinese to nějaké nové zjištění o tom, kým jsme my?
Možná se o sobě teď dozvíme něco víc, než jsme dosud věděli. Právě pro to, že nebylo srovnání. Teď najednou srovnání máme. Jde o první zkušenost lidstva s inteligentní bytostí, která není člověk. To by nám mohlo ledacos říct o nás samých, ale bude chviličku trvat, než si to zpracujeme.
Zaniknou kvůli umělé inteligence některé pracovní pozice? A budou za nás roboti psát diplomové práce? Celý rozhovor si poslechněte výše.