Právní odpovědnost za provoz plně automatizovaných autonomních kybernetických systémů

V posledních několika letech postupně dochází k výraznému pokroku na poli plně automatizovaných a autonomních kybernetických systémů, které v řadě situací dokáží z podstatné části nahradit lidskou činnost a jsou schopny aktivně reagovat na měnící se vnější podmínky. Tyto systémy dokáží dnes již de facto samostatně pilotovat letadlo, řídit auto či zcela  precizně realizovat komplikovaný chirurgický zákrok. Na tyto nové situace musí reagovat i právní řád a právo jako obecný normativní systém, který vždy z principu s určitým zpožděním přináší vynutitelná pravidla pro řešení nejrůznějších konfliktních situací, které v novém paradigmatu mohou nastat. Často jde o pouhou adaptaci dřívějších norem, příp. jejich novou interpretaci, ovšem v některých situacích je nutné zavádět pravidla skutečně zcela nová. Vztah stávajícího právního řádu a nových autonomních kybernetických systémů je právními odborníky již nějakou dobu analyzován, ovšem zůstává řada nejasných otázek, které dosud vyřešeny nejsou.

V souvislosti s autonomními kybernetickými systémy bývá hojně používán termín umělá inteligence. Tento pojem však nemá žádnou pevnou technickou definici, ani definici právní, neboť se jedná jen o velmi obtížně uchopitelný fenomén, který má univerzální aplikaci prakticky ve všech sférách života. Obecně se lze ale shodnout na tom, že se jedná o kybernetické systémy, které vykazují inteligentní chování, tj. dokáží analyzovat okolní prostředí a kontext a přizpůsobovat své jednání tomu, aby i v měnících se podmínkách dosáhly svého určeného cíle. Prvky umělé inteligence mohou nabývat velmi různorodých forem, jako např. čistě softwarová forma systémů na rozpoznávání hlasu či obličeje, nebo formu softwaru integrovaného do fyzických zařízení jako např. autonomní vozidla nebo také funkční příklady tzv. „internetu věcí“. S tím potom souvisí i relevantní právní regulace takových systémů, která zahrnuje řadu tradičních právních odvětví a vyžaduje různý přístup podle charakteru dané formy umělé inteligence. V individuálních situacích tak může být konkrétní projev umělé inteligence považován v právní významu za věc, službu, nebo počítačový program.[1]

Systémy umělé inteligence se vyznačují tím, že dokáží fungovat do značné míry autonomně a upravovat své chování bez kontroly a zásahu ze strany člověka. Jelikož dokáží neustále reagovat na okolní proměnné, je v mnoha případech nemožné ex post identifikovat konkrétní důvod, proč daný inteligentní systém postupoval způsobem, jaký zvolil a výsledkem je tedy určitá nepředvídatelnost chování takových systémů. Někteří autoři v této souvislosti hovoří o problému tzv. černé skříňky (black-box), která neumožňuje zpětně analyzovat přesné příčiny konkrétního „rozhodování“ umělé inteligence.[2] Tyto systémy tak nelze již dále považovat za pasivní nástroje člověka, který je také odpovědný za důsledky jejich chování, ale naopak je na místě je vnímat spíše jako samostatné aktivní činitele. Platí tedy, že systémy umělé inteligence analyzují díky strojovému učení takové množství vstupních informací, že není možné předem odhadnout jejich konečné rozhodnutí, a není možné ani zpětně identifikovat postup, jakým k rozhodnutí došly. To ovšem z pohledu práva naráží na tradiční koncepty právní odpovědnosti, příčinné souvislosti či přičitatelnosti jednání, neboť není možné právní odpovědnost klást ani na programátora, ale právní řád neumožňuje ani klást právní odpovědnost za konečné rozhodnutí umělé inteligence na samotný kybernetický systém.

V rámci existujících odborných studií se dochází k možnosti aplikovat buď koncept tzv. absolutní odpovědnosti, kdy se nedokazuje zavinění, ale postačuje prokázání porušení povinnosti, vzniku škody a příčinné souvislosti mezi těmito dvěma skutečnostmi anebo koncept založený na maximálním řízení možných rizik, kdy existuje kontrolní osoba, která dohlíží nad chováním takových systémů umělé inteligence a je schopna negativní dopady jejich „rozhodování“ minimalizovat.[3] Tyto přístupy jsou založeny na nadřazeném postavením člověka, který si má vždy ponechat určitou kontrolu nad systémy umělé inteligence a tím pádem také nést odpovědnost za případné škodní jednání. Někteří autoři naopak doporučují vytvoření samostatné kategorie tzv. elektronické osoby, jejíž status by byl přiznán těm nejsložitějším autonomním systémům umělé inteligence.[4] To je ovšem jinými zase kritizováno jako morální hazard, který ohrožuje zásadní preventivní vliv konceptu tradiční občanskoprávní odpovědnosti.[5]

Klasickým příkladem autonomního kybernetického systému jsou tzv. autonomní vozidla, která jsou vybavena velkým množstvím čidel, jež umožňuji sledovat okolí a základními postupy jak řešit určité typické situace. Díky provozu na pozemních komunikacích však postupně získávají obrovské množství dat, z nichž se dále lépe a lépe učí reagovat ne nové situace a posléze postupovat na základě předchozí zkušenosti optimálním způsobem. V této oblasti přitom je rozlišování šest stupňů autonomie, která rozlišují do jaké míry je vozidlo schopno se skutečně zcela samostatně pohybovat bez potřeby jakéhokoli zásahu řidiče. Prvotní úroveň 0 označuje vozidla bez jakékoli automatizace, které je zcela ovládáno lidským řidičem, nemá žádné automatické asistenční systémy a veškeré kroky proto musí činit sám řidič. Vyšší úroveň 1 stále poskytuje neomezenou kontrolu na vozidlem řidiči, nicméně ten již  má k dispozici některé asistenční systémy, které mohou v případě jeho zájmu usnadnit ovládání vozidla (např. parkovací čidla). Na další úrovni 2 již dochází k částečné automatizaci ve formě dočasného a výjimečného převzetí kontroly nad automobilem ze strany asistenčního systému, nicméně od řidiče je stále vyžadována kontrola fungování celého vozidla (např. systém sledující přejetí silniční čáry nebo aktivní tempomat, který dokáže přizpůsobit rychlost vpředu jedoucímu vozidlu). Úroveň 3 je nazývaná podmíněná automatizace, což znamená, že takový automobil je již schopen do značné míry fungovat nezávisle, reagovat na dopravní značky, řídit vozidlo v běžném provozu, apod., nicméně řidič je povinen stále věnovat pozornost průběhu celé jízdy a být připraven zasáhnout do ovládání vozidla v případě nutnosti (např. autonomní systémy řízení automobilky Tesla). Z toho  přehledu je zjevné, že nová vozidla jsou standardně dnes již vybavována asistenčními systémy na úrovni 2, a pouze některé automobily již disponují natolik pokročilým softwarem, že spadají do kategorie 3 autonomního řízení. Další stupně autonomie na úrovni 4 a 5 již představují plně automatické systémy řízení, kdy se s lidským řidičem prakticky již nepočítá a je z něj pouze pasivní pasažér jako jsou dnes ostatní cestující v automobilu. Rozdíl mezi těmito dvěma stupni vysoké a plné automatizace spočívá zejména v tom, zda pro určité kritické situace je počítáno s tím, že řidič může být výjimečně požádán o převzetí řízení automobilu (úroveň 4), nebo zda i v rámci nestandardních kritických situacích je počítáno s plně autonomním zvládnutím krize automatickým systémem (úroveň 5).

Na jednu stranu platí, že autonomní systémy řízení vozidel jsou obecně bezpečnější, než lidský řidič, který podléhá mnoha neracionálním vlivům a jednou z nejčastějších příčino dopravních nehod je právě selhání lidského faktoru. Na druhou stranu ovšem ani autonomní systémy nejsou zcela bezchybné, resp. mohou se dostávat do eticky velmi sporných situací, které není možné řešit ideálním způsobem, ale pouze si vybrat tu nejméně špatnou variantu. Kupříkladu v situaci, kdy si má autonomní systém zvolit, zda raději ochrání posádku vozidla a zraní či usmrtí okolní chodce, nebo v případě, kdy si má zvolit, zda raději bude při úhybném manévru riskovat smrt malého dítěte na jedné straně ulice nebo většího počtu dospělých osob na druhé straně ulice.

Zde se používají dva základní přístupy: tzv. sobecký princip, který vždy sleduje prioritně zájem posádky a tedy vždy raději ochrání posádku vozidla i za cenu ohrožení zdraví třetích osob a tzv. princip utilitaristický, který se snaží minimalizovat negativní společenské dopady, tj. např. zranit co nejmenší počet osob. Oba přístupy mají své výhody a nevýhody, nicméně z praktického obchodní hlediska se jeví jako komerčně atraktivnější aplikace sobeckého principu, neboť zákazník nebude ochoten kupovat autonomní vozidlo, které potenciálně může vyhodnotit určitou krizovou situaci tak, že je společensky nejpřínosnější riskovat jeho vlastní zranění či smrt. Proto lze předpokládat, že tato varianta bude ze strany zákazníků výrazně přijatelnější a pravděpodobně s určitými limity nakonec zvítězí. Pokud však ve shora popsaném případu půjde o použití pravidla nastaveného přímo výrobcem, pak v případě vzniku újmy na zdraví bude odpovědným právě výrobce autonomního vozidla, který takové pravidlo do vozidla naprogramoval.

V českém právním řádu je vhodné poukázat na obecnou právní úpravu odpovědnosti za škodu, která vyžaduje existenci porušen právní povinnosti ze strany škůdce, vznik škody na straně poškozeného a tzv. kauzální nexus, tj. mezi porušením povinnosti a vznikem škody musí existovat příčinná souvislost. Právě kauzální nexus činí největší potíže při eventuálním posuzování odpovědnosti za škodu způsobenou v případě provozu autonomního vozidla.[6] Český občanský zákoník však obsahuje i zvláštní úpravu odpovědnosti za škodu způsobenou provozem dopravního prostředku,[7] která činím odpovědným provozovatele vozidla a určuje, že se jedná o tzv. objektivní odpovědnost, tj. bez zkoumání zavinění.[8] Jiní však argumentují, že by správně v případě autonomního vozidla mělo být postupováno podle ustanovení o odpovědnosti za škodu způsobené věcí,[9] podle kterého je povinen nahradit škodu, způsobenou určitou věcí samou od sebe ten, kdo měl mít nad takovou věcí dohled, pokud takovou osobu nelze identifikovat, pak je povinen nahradit škodu vlastník této věci.[10] Sporným momentem pak ovšem zůstává rozlišení situace, kdy viníkem škody je zásah řidiče do autonomního systému a kdy je příčina skutečně v autonomním systému samotném. Pokud jde o možnou odpovědnost samotného výrobce autonomního systému, v situaci, kdy by šlo o skutečně autonomní rozhodnutí, které nebylo výrobcem přímo naprogramováno, ale jednalo by se o samostatné vyhodnocení situace a autonomní reakci daného systému na základě předchozích zkušeností a strojového učení, pak odpovědnost výrobce je vyloučena.

Závěrem je možné konstatovat, že současná česká právní úprava obsahuje dostatek pravidel pro určení nositele odpovědnosti za škodu způsobenou autonomním vozidlem, nicméně neexistuje jednoznačné pravidlo, které z popisovaných ustanovení zákona je nejsprávnější aplikovat. Proto by bylo vhodné buď jednoznačně určit objektivní odpovědnost provozovatele za takové škody, příp. vytvořit vedle stávajících osob fyzických a právnických nový typ tzv. elektronické osoby, která by měla vlastní právní osobnost (subjektivitu).[11]