Kolumbijský soudce přiznal, že pro vynesení rozsudku použil aplikaci umělé inteligence ChatGPT
Značný rozruch vyvolal rozsudek kolumbijského soudce, který se zabýval případem způsobu hrazení zdravotní péče pro autistické dítě. Soudce pro vynesení rozsudku používal chatbot ChatGPT, který pomocí umělé inteligence dokáže automaticky generovat odpovědi na různá témata. O případu píše server The Guardian.
Soudce Juan Manuel Padilla, který působí v karibském městě Cartagena, umělou inteligenci využíval pro vynesení rozsudku, jenž se týkal toho, zda má být léčba autistického chlapce hrazena ze zdravotního pojištění, či nikoliv.
Z právních spisů vyplývá, že soudce chatbotu položil otázku: „Je nezletilý autista osvobozen od placení poplatků za své terapie?“ ChatGPT soudci odpověděl: „Ano, je to tak. Podle kolumbijských předpisů jsou nezletilí s diagnózou autismu osvobozeni od placení poplatků za terapie.“
Padillův konečný rozsudek pak odpovídal rozhodnutí chatbotu. Své rozhodnutí podpořil ještě precedentem z dříve vynesených rozsudků. Soudce použití technologie obhajoval, argumentoval hlavně zefektivněním kolumbijského právního systému.
A co na to chatbot?
Případ vyvolal pobouření zejména mezi dalšími soudci, kteří se proti používání podobných aplikací pro vynášení rozsudků vymezují. Upozorňují také na to, že používání umělé inteligence v právu obecně mezi lidmi vyvolává morální paniku, i když pravděpodobně se této technologii nedá do budoucna vyhnout.
Nová aplikace pozná texty od umělé inteligence. Vytvořil ji student a má bojovat s plagiátorstvím
Číst článek
„Justiční systém by měl co nejvíce využívat technologie jako nástroj, ale vždy při dodržování etiky a s ohledem na to, že vykonavatelem spravedlnosti je v konečném důsledku člověk,“ uvedl soudce nejvyššího kolumbijského soudu Octavio Tejeiro.
Samotný chatbot se k případu vynesení rozsudku na základě odpovědi od umělé inteligence ale vyjádřil striktněji. „Soudci by neměli ChatGPT používat při rozhodování právních případů. Není náhradou za znalosti, odbornost a úsudek lidského soudce,“ odpověděl ChatGPT na dotaz, který mu položil The Guardian.
Užívání generátorů textu je problematické pro řadu oborů, například pro školství. Aplikace ChatGPT funguje na bázi generování informovaných odpovědí, které vytváří na základě rešerše internetových textů.
Avšak na stejné otázky může odpovídat různým způsobem, navíc si může některé informace dokonce vymýšlet nebo může vytvářet i přesvědčivé lži.