Bezpečná umělá inteligence. Sedm amerických firem přislíbilo označovat digitální obsah i hlásit rizika
Skupina sedmi předních amerických podniků v oblasti umělé inteligence (AI) se zavázala dodržovat soubor pravidel k zajištění bezpečnosti této technologie. Informoval o tom v pátek Bílý dům. Opatření zahrnují například důkladné testování bezpečnosti systémů založených na umělé inteligenci nebo označování obsahu vytvořeného umělou inteligencí digitálním vodoznakem.
K dodržování pravidel se dobrovolně zavázaly firmy Amazon, Anthropic, Google, Inflection, Meta, Microsoft a OpenAI.
23:00
Koubský: Vývojářům došla data z internetu, musí použít umělá. Al se poprvé dozví i o vlastní existenci
Číst článek
Součástí pravidel je rovněž pravidelné zveřejňování informací o schopnostech a omezeních umělé inteligence a zkoumání rizik spojených s umělou inteligencí, například v oblasti diskriminace či narušování soukromí, píše server BBC.
Dohoda je podle agentury Reuters vnímána jako úspěch snahy administrativy amerického prezidenta Joea Bidena o regulaci odvětví umělé inteligence, které se v poslední době dostalo do popředí zájmu investorů i veřejnosti.
Biden se v pátek se zástupci zmíněných firem setkal v Bílém domě a zdůraznil, že je třeba bedlivě sledovat možná rizika, která jsou s AI spojená.
„Sociální média nám ukázala, jaké škody dokáže napáchat mocná technologie, když nefunguje náležité zabezpečení,“ řekl prezident.
„Vítáme, že prezident stojí v čele snahy zajistit spolupráci technologického průmyslu při vytváření konkrétních kroků, které přispějí k větší bezpečnosti AI a k posílení jejího přínosu pro veřejnost,“ uvedla společnost Microsoft.
První regulace?
Umělá inteligence se v poslední době dostala do centra pozornosti zejména díky chatovacímu systému ChatGPT, který vyvinula společnost OpenAI podporovaná Microsoftem.
26:06
Rozvoj umělé inteligence se musí přibrzdit, možná dojde na on-line certifikáty pravosti, míní Holý
Číst článek
Firma koncem loňského listopadu ChatGPT zdarma zpřístupnila veřejnosti a systém si rychle získal popularitu. Zároveň však začaly narůstat obavy z negativních společenských dopadů takovýchto systémů, například z jejich využívání k šíření dezinformací.
Spojené státy v regulaci odvětví umělé inteligence podle agentury Reuters zaostávají za Evropskou unií. Poslanci Evropského parlamentu minulý měsíc schválili návrh pravidel pro fungování umělé inteligence, která by se mohla stát první regulací tohoto odvětví na světě.
Například generativní systémy AI, jako je třeba ChatGPT, budou muset být podle nových pravidel označeny tak, aby bylo jasné, že obsah byl vytvořen umělou inteligencí. Vzniknout má rovněž úřad Evropské unie pro AI, který má vedle národních kontrolních úřadů na dodržování nových pravidel dohlížet.
