OpenAI stahuje ‚příliš podlézavého chatbota‘. ‚Jako jednu z verzí bych ho nechal,‘ navrhuje Koubský
Americká firma OpenAI oznámila, že udělala chybu a vrací se ke starší verzi AI modelu GPT-4.0. Reagovala na stížnosti, že se nový model chová příliš podlézavě a snaží se souhlasit s postoji uživatelů i ve chvíli, kdy je to nevhodné nebo absurdní. „Asi je to poměrně banální chyba způsobená nešťastnou formulací v systémovém promptu,“ odhaduje v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
„Je to chyba, která se dá asi poměrně snadno odstranit tím, že ten prompt se zase trošku přepíše a najdou se tam formulace, které tu chybu způsobily: ‚Buď hodně vstřícný, laskavý, potvrzuj uživateli jeho názory‘. Trochu se to zmírní a bude dobře,“ předpokládá Koubský.
Firma OpenAI stáhla ‚příliš podlézavého‘ chatbota. Poslechněte si celý pořad Online Plus z audia v úvodu článku
Chyba se podle OpenAI stala při nastavování toho, jak model reaguje na hodnocení uživatelů. Do budoucna mají lidé dostat možnost vybrat si dokonce z několika výchozích „osobností“, které se budou chovat různým způsobem, přislíbila firma.
„Jestli chtějí nechat chatbotovi více osobností, já bych se docela přimlouval za to, aby jedna z nich byla tahle lichotivá. Každý z nás by možná občas potřeboval si to zapnout a nechat si chvilku vysvětlovat, že je nejlepší na světě a že všechno, co říká, říká dobře a moudře,“ vtipkuje Koubský.
Chatbot by ovšem byl nucen souhlasit se vším, co uživatel řekne, a mohl by ho podporovat třeba i v nápadech, jimiž by mohl ohrozit sebe nebo své okolí.
Bude umělá inteligence psát zákony ve Spojených arabských emirátech? Za co udělila Evropská komise velké pokuty firmám Apple a Meta? Poslechněte si celý pořad Online Plus z audia v úvodu článku.
