Umělá inteligence? Dotkne se základních lidských práv, od důstojnosti po soukromí, vysvětluje expertka
Umělá inteligence se rozšiřuje do mnoha odvětví. Od automobilů, bank, zdravotnictví, veřejné správy až po média. Vystává proto mnoho otázek: kdo bude zodpovídat za chyby robota nebo jak se pojistíme proti zneužití? Umělá inteligence těží i z dotazů ve vyhledávačích. „Lidé hledají odpovědi na intimní otázky přes Google a myslí si, že o tom nikdo neví,“ říká pro iROZHLAS.cz právnička Alžběta Solarczyk Krausová.
Automobil řízený umělou inteligencí nabourá a zraní chodce. Kdo nese zodpovědnost: řidič, nebo výrobce?
České právo zatím neumožňuje provozovat plně autonomní vozidla, ale jakmile to půjde, tak podle občanského zákoníku ponese odpovědnost provozovatel vozidla, což je typicky jeho majitel a zároveň ve většině případů i řidič. Zraněný chodec tedy bude žádat o odškodnění provozovatele – řidiče, i když ten auto sám v danou chvíli neřídil.
Napíše referát i kuchařku na drogy. Dopad AI bude srovnatelný s industriální revolucí, říká analytik
Číst článek
Ten může následně říct, že nehodu způsobil automobil a jde o vadu výrobku. Po výrobci bude vyžadovat kompenzaci, kterou zaplatil zraněnému chodci, jelikož výrobce nese odpovědnost za své výrobky a musí garantovat jejich bezpečnost.
Problém ale může být v tom, že výrobce má možnost se této odpovědnosti za určitých podmínek zprostit. Jde zejména o situaci, kdy stav vědeckých a technických znalostí v době, kdy výrobce automobil uvedl na trh, neumožnil jeho vadu zjistit.
Alžběta Solarczyk Krausová
Mgr. Alžběta Solarczyk Krausová PhD., LLM. je vedoucí Centra pro inovace a výzkum kybernetického práva Ústavu státu a práva Akademie věd, vedoucí regulační jednotky Středoevropské observatoře digitálních médií (CEDMO), předsedkyně České Republic's AI Observatory & Forum, zakladatelka a předsedkyně Konference SOLAIR (společnost, právo, umělá inteligence a robotika).
Působila jako členka Expertní skupiny pro odpovědnost a nové technologie při Evropské komisi, je členkou sítě expertů OECD ONE AI a českou expertkou na vyjednávání Návrhu doporučení UNESCO o etice umělé inteligence.
Její výzkum se zaměřuje na právní aspekty umělé inteligence, robotiky, rozhraní mozek-počítač a slučování technologií s organickým životem.
Budou se normy měnit?
Právo už se mění, a to zejména na úrovni Evropské unie. Celá řada norem hovoří o systémech založených na umělé inteligenci. Co se týče autonomních vozidel, tak bylo přijato nařízení Evropského parlamentu a Rady, které výslovně mluví o takzvaných vyspělých systémech, které upozorňují na nedostatek pozornosti řidiče a udržují vozidlo v jízdním pruhu.
Systémy umělé inteligence, které pracují s osobními údaji, podléhají obecnému nařízení o ochraně osobních údajů, tedy GDPR. Evropská unie také předložila návrh Aktu o umělé inteligenci a návrh směrnice o odpovědnosti za umělou inteligenci.
Mnoho technologických firem, které autonomní systémy vyvíjí, sídlí v Kalifornii ve Spojených státech amerických. Můžou být rozhodnutí tamních soudů pro české právo o umělé inteligenci směrodatné?
Řekla bych, že se to děje. Když se připravují nová nařízení nebo směrnice, tak vznikají expertní skupiny, které analyzují to, co se děje ve světě a hledají inspiraci. Snaží se identifikovat, jaké problémy by mohly vzniknout, čemu musíme předcházet a jak se daný problém případně řešil. Poučíme se, zasadíme si to do svého kontextu a často rozšíříme. Bohužel je ale někdy evropská legislativa až přehnaně rozsáhlá.
Znamená to, že se v tomto směru bude právo upravovat jednotně?
Ano, do vysoké míry. Evropská unie usiluje o jednotný digitální trh. Regulace digitální ekonomiky je v současné době spíše postavená na nařízení, než na směrnicích. To znamená, že směřuje k mnohem větší jednotě práva, byť i v nařízeních dovoluje určité národní odchylky.
Rizika internetové historie
Jakou mají Češi moc proti technologickým gigantům, jako je Google nebo Meta, které umělou inteligenci programují a už i využívají?
Na obecné úrovni je velkou výhodou, že jsme součástí Evropské unie, protože ta má mnohem větší vyjednávací sílu, než by měl například samotný malý stát. Pomocí regulace může unie zajistit vyšší ochranu svým občanům a respekt k jejich právům.
„Lidé hledají odpovědi na intimní otázky přes Google a myslí si, že když si to hledají na svém počítači, tak o tom nikdo neví.“
Na individuální úrovni už to pak záleží na každém z nás. Virtuální svět nás ovlivňuje a například to, co si hledáme, mění náš profil a určuje, co se nám bude ukazovat v reklamách, co si o nás daný systém bude myslet. Spousta lidí to bere tak, že „nějaký algoritmus si o mně nic nemyslí.“
Lidé nad tím nepřemýšlejí, hledají odpovědi na intimní otázky přes Google a mají za to, že když si to hledají na svém počítači, tak o tom nikdo neví. Nemají ani tušení o tom, jak je to může ovlivnit do budoucna, co a kde je o nich za informace a jak je půjde dát využít.
Například analýzou historie hledání v Googlu můžeme vytvořit profil člověka a zjistit, kde jsou jeho slabá místa. Každý člověk se tak za správných okolností může stát cílem manipulace, v horším případě vydírání.
Český projekt by mohl pomáhat pacientům po celém světě. Diagnózu bude určovat umělá inteligence
Číst článek
Máme možnosti to ovlivnit?
Máme, ale lidé to často nedokáží využívat. Existují různé plug-iny, které chrání naše soukromí, u webových prohlížečů můžeme zastavit monitorování, je třeba mazat a nastavovat preference cookies či používat pro přihlašování virtuální stroj.
Když to zkombinujete, tak do určité míry přerušíte síť sdílení údajů, váš profil se minimalizuje a společnosti o vás budou mít mnohem méně údajů. Nedáte jim až tolik příležitostí vás analyzovat. Problémem je, že tomu lidé většinou ani nevěnují pozornost. Říkají si: „Kdo já jsem? Je přece úplně jedno, co si o mně kdo najde.“
V dnešní době ale není nikdo nedůležitý a každý člověk se počítá. Má totiž potenciál, že za jeho pozornost někdo zaplatí ve smyslu: „Máme tady počet uživatelů, kterým můžeme dát vaši reklamu. Kolik nám za ně zaplatíte?“.
Online svět je do velké míry založen na příjmu z reklam, a proto je důležité umět sledovat uživatele a dostat se k tomu člověku, který si opravdu něco koupí.
Z druhého pohledu: budou muset vývojáři chránit umělou inteligenci před uživateli?
Uživatelé skutečně mohou za určitých podmínek umělou inteligenci poškodit, mohou autonomní systém například učit špatné věci.
„Autonomní systémy se dotknou jakéhokoliv základního lidského práva, ať už je to právo na soukromí, právo na lidskou důstojnost nebo zejména právo na rovné zacházení a nediskriminaci.“
V roce 2017 vyšlo usnesení Evropského parlamentu, v jehož závěru je několik etických kodexů. Jeden z nich mimo jiné apeluje i na uživatele a zakazuje užívat inteligentní roboty v rozporu s etickými a právními standardy nebo pozměnit robota tak, aby mohl fungovat jako zbraň.
Autonomní systémy by ale měly být odolné proti takovým útokům, jako je například to, když se je uživatelé pokouší učit používat diskriminační nebo rasově nenávistné výroky.
V tomto směru existuje celá řada etických doporučení. Nejdůležitějším dokumentem na úrovni unie jsou Pokyny pro důvěryhodnou umělou inteligenci.
Podle nich musí být umělá inteligence etická, měla by být v souladu s právem a měla by být robustní, tedy odolná proti útokům a zneužití. Hlavním principem je, aby systém respektoval člověk a aby nad systémem měl člověk kontrolu.
Do jakých oblastí umělá inteligence zasáhne?
Umělá inteligence proniká do všech odvětví a oblastí lidské činnosti. Autonomní systémy se dotknou jakéhokoliv základního lidského práva, ať už je to právo na soukromí, právo na lidskou důstojnost nebo zejména právo na rovné zacházení a nediskriminaci.
Budou se řešit témata společná pro všechny oblasti jako je odpovědnost, kybernetická bezpečnost nebo ochrana soukromí. Pro specifická odvětví se pak bude řešit aplikace sektorové regulace. Společně s rozvojem technologií se pak budou objevovat i další nové otázky.
Počítač versus buňka
Kam bude vývoj umělé inteligence pokračovat?
Další úrovní, na níž se už dlouho pracuje, je propojování umělé inteligence a informačních technologií s živými biologickými systémy. Příkladem je společnost Elona Muska s názvem Neuralink, která vyvinula čip implantovatelný do mozku.
Umělá inteligence už pomáhá i pojišťovnám. Dokáže sama označit škodu i odhalit pokus o podvod
Číst článek
Jde o zvláštní rozhraní pro komunikaci mezi počítačem a biologickými neurony. Tento čip vybavený elektrodami se voperuje do lebky a propojí se s mozkem. Čip už byl vyzkoušen na praseti jménem Gertruda.
Vývoj tohoto zařízení Musk odůvodňoval zejména možnou léčbou Parkinsonovy a Alzheimerovi nemoci. Do budoucna ale předpokládá využití i pro jiné než léčebné účely. Konkrétně se vyjádřil v tom smyslu, že by daný přístroj pomáhal zvyšovat kompetence a umožnil by lidem soutěžit s umělou inteligencí.
Takže se bude propojovat člověk s technologií?
Vypadá to, že do budoucna ano. Některé vědecké experimenty v posledních letech ukázaly potenciál této technologie, která se anglicky nazývá brain-computer interface. Pomocí těchto rozhraní mezi počítačem a mozkem lze například myšlenkami ovládat vnější připojená zařízení.
Tato technologie s sebou ale nese řadu právních a etických otázek. Mimo jiné jde například o otázku odstranění prodlevy mezi myšlenkou a její realizací. Zde bude hrát důležitou roli i umělá inteligence, protože to je ona, která bude do pokynů pro přístroj překládat to, co si myslíte.
Dalším zajímavým trendem je pak vývoj čipů založených na biologických buňkách. Tato technologie má zatím velké limity, ale myslím si, že se prolomí. Hardware a ukládání informací je velmi náročné na spotřebu elektřiny. Zatímco člověku stačí „pár sacharidů“, počítač spotřebuje obrovské množství energie. To by biologické počítače mohly vyřešit.
S ohledem na ekologii a udržitelnost bychom měli vývoji této technologie věnovat pozornost.
