Signatáři uveřejnili dokument s několika požadavky určený vládám států a šéfům společností zabývajících se vývojem systémů AI, aby se zasloužili o regulace programů umělé inteligence v několika oblastech, píše deník.

Autoři například požadují vyčlenění třetiny vládních rozpočtů určených na výzkum a vývoj umělé inteligence na podporu bezpečného a etického používání systémů umělé inteligence.

Žádají také zavedení licenčního systému pro vytváření nových modelů a přijetí konkrétních bezpečnostních opatření, pokud se v jejich modelech objeví nebezpečné schopnosti.

„Je čas začít se vážně zabývat pokročilými systémy umělé inteligence. Pro obchody se sendviči existuje více předpisů než pro společnosti zabývající se AI,“ řekl Stuart Russell, profesor počítačové vědy na Kalifornské univerzitě v Berkeley.

„Nejsou to hračky. Navyšovat jejich schopnosti dříve, než pochopíme, jak je učinit bezpečnými, je naprosto bezohledné,“ dodal Russell.

Existenční riziko

Bengio a Hinton, dva ze tří „kmotrů“ vývoje umělé inteligence, získali za svůj přínos vědě v roce 2018 ACM Turingovu cenu – ekvivalent Nobelovy ceny v počítačových vědách.

Hinton letos odešel ze společnosti Google, aby varoval před tím, co nazval „existenčním rizikem“, které představují umělé inteligence.

Bengio, profesor počítačových věd na univerzitě v Montrealu, se v březnu připojil k Hintonovi a tisícům dalších odborníků, kteří podepsali dopis vyzývající k regulaci obřích experimentů s umělou inteligencí.

Oba patří mezi 100 hostů pozvaných na summit v Bletchley Parku, který se bude zabývat právě bezpečností v oblasti umělé inteligence.

Dokument dále podepsali například spisovatel a držitel Nobelovy ceny za ekonomii Daniel Kahneman či profesorka umělé inteligence Sheila McIlraithová.

til Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít