‚Bojím se.‘ Zaměstnanci OpenAI varují, že firma s umělou inteligenci nebude zacházet odpovědně
Zaměstnanci firmy Open AI, světového lídra v umělé inteligenci, požadují „právo varovat před pokročilou umělou inteligencí“ veřejnost. Informuje o tom americký server VOX s odkazem na otevřený dopis bývalých a současných zaměstnanců z OpenAI a Googlu.
Pracovníci jsou přesvědčeni, že umělá inteligence má obrovský potenciál pro konání dobra, ale obávají se, že bez náležitých bezpečnostních opatření může tato technologie umožnit vznik celé řady škod. Píší o tom v otevřeném dopise, na který upozornil server Radia Wave.
„Bojím se. Byl bych blázen, kdybych se nebál,“ řekl Daniel Kokotajlo, signatář, který v dubnu odešel z OpenAI poté, co ztratil víru, že vedení společnosti bude s její technologií zacházet zodpovědně.
Nová funkce Googlu doporučuje požívat kameny a těhotným kouřit. Uživatelé se bouří
Číst článek
VOX připomíná, že v poslední době odešlo z podobných důvodů několik dalších zaměstnanců, kteří dbali na bezpečnost, což posílilo obavy, že OpenAI nebere rizika této technologie dostatečně vážně.
Šest signatářů je anonymních, včetně čtyř současných a dvou bývalých zaměstnanců OpenAI, právě proto, že se obávají odvety ze strany společnosti.
Mluvčí společnosti OpenAI sdělil serveru Vox, že současní i bývalí zaměstnanci již mají k dispozici fóra, kde mohou vyjádřit své názory prostřednictvím úředních hodin vedení, schůzek s představenstvem a anonymní horké linky pro bezúhonnost.
Členské státy EU potvrdily nová pravidla umělé inteligence. Má být důvěryhodná a bezpečná
Číst článek
Zaměstnanci OpenAi si podle VOXu stále častěji všímají, že „kultura bezpečnosti ustoupila do pozadí před nablýskanými produkty a výdělkem,“ jak doslova píše Jan Leike, který do nedávna vedl tým pro sladění společnosti.
S problémy AI by mohla pomoci regulace. Podle serveru VOX ale sama o sobě nemusí stačit. Zákonodárci často nerozumí rychle se vyvíjejícím technologiím natolik dobře, aby je mohli dostatečně regulovat.
Proto chtějí zasvěcení pracovníci společnosti získat právo varovat veřejnost. Mají přístup k vyvíjející se technologii z první řady a rozumí jí lépe než kdokoli jiný. Pokud budou mít právo mluvit o rizicích, která vidí, mohou být společnosti více motivovány brát tato rizika vážně.
