Uživatelé na problém s chatbotem Grok přišli poté, co přestal dávat odpověď na to, kdo je největším šiřitelem dezinformací na síti X. Jeho dřívější odpovědí bylo, že je to Elon Musk. Po odmlce se k této odpovědi nyní chatbot zase vrátil.

Podle šéfa vývojářů xAI příslušnou systémovou instrukci, že má Muska z odpovědi na tuto otázku vynechat, zadali do chatbotu nejmenovaní zaměstnanci firmy, aniž by to s někým konzultovali.

„Majitelé a provozovatelé chatbotům stanovují, jakým žebříčkem hodnot se mají řídit,“ připomíná Koubský. „To není jenom věc Muskova systému Grok. Totéž jsme viděli nedávno u čínského systému DeepSeek, který odpovídal na politicky citlivé otázky v souladu s oficiální čínskou ideologií. A toto bychom našli, byť méně nápadně, v jakémkoliv jiném jazykovém modelu.“

Vědecký redaktor míní, že samotné poměřování síly dezinformátorů je z podstaty nesmysl. „Co to znamená největší dezinformátor? Kdo lže nejvíc, nebo kdo lže sice trochu, ale má největší počet lidí, kteří ho sledují?“

„Nicméně asi bych tedy Elona Muska zařadil mezi minimálně jednoho z největších šiřitelů dezinformací, protože vzhledem k jeho dosahu a tomu, co zveřejňuje, si myslím, že minimálně jedna z čelných příček by mu asi patřila,“ uznává Koubský.

‚Transparentní chatbot‘

Podle šéfvývojáře xAI Igora Babuškina je vlastně celá věc důkazem transparentnosti chatbota Grok, protože umožňuje přečíst systémové instrukce, které v něm jsou zadány.

„Četl jsem hodně systémových promptů, ale nikdy jsem příliš nepřemýšlel o tom, jestli je to nějaký únik proti pravidlům toho provozovatele, anebo jestli je prompt veřejně dostupný,“ říká vědecký redaktor Koubský a pokračuje:

„Obecně ta politika bývá taková, že část promptu je viditelná a k dispozici. A část nikoli. Anebo je třeba k dispozici stará verze veřejně a ta novější aktualizovaná už ne. Většinou si aspoň část toho, čím se chatbot řídí, schovávají někde pod rukou.“

Uznává, že k tomu mohou být i ryze praktické důvody – aby se generativní umělá inteligence nedala snadno ošidit a obcházet, nebo aby se snížilo riziko hackování chatbota.

Jistotu, zda Babuškin říká pravdu a opravdu je celý systémový prompt chatbota Grok veřejně dostupný, ale nemáme. „I kdyby byl, tak systémový prompt stejně není všechno, čím se chatbot řídí. Jsou i jiné úrovně pokynů, které dostává od svých lidských tvůrců,“ uzavírá Koubský.

Zvýší AI chatbot zapojení čtenářů zpravodajských serverů? Proč přišli britští uživatelé o možnost koncového šifrování svých dat na úložišti iCloud? Poslechněte si celý pořad Online Plus výše.

David Slížek, jkd Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít