Paúlopes: Soudní moc se nebezpečně vzdaluje svým kořenům používáním umělé inteligence
Bývalý prezident Prokopis Pavlopoulos hovořil o hranicích umělé inteligence ve vztahu k právní vědě na mezinárodní konferenci Institutu evropského a mezinárodního trestního práva na téma „Nový obraz trestního práva“. V rámci svého projevu zdůraznil, že „nový obraz“ trestního práva na území Řecka i v mezinárodním měřítku, zejména v oblasti právního pořádku Evropské unie, je do značné míry ovlivněn prostředky umělé inteligence, zejména velkými neuronovými sítěmi (VNS) a velkými jazykovými modely (VJM).
Podle Pavlopoulosa je ale mylné mít za to, že by právní věda mohla být v některých případech nahrazena moderními VNS a VJM, a že by takové technologie mohly nahradit institucionální orgány legislativní, výkonné a soudní moci v procesu tvorby právních předpisů a jejich interpretaci.
Poukazuje na to, že dávají spíše nástroje, které pomáhají při interpretaci a aplikaci právních pravidel, přičemž je zapotřebí zásadně lidského faktoru, emoční inteligence a vědomí. Pouze lidé, kteří mají vědomí a inteligenci, jsou schopni vytvářet právo v souladu s demokratickými principy a poskytovat spravedlnost.
Rizika umělé inteligence v právní vědě
Pavlopoulos rovněž kritizoval „automatickou“ produkci právních pravidel a využívání „automatických“ právních služeb a soudních rozhodnutí jako neudržitelný a nebezpečný vývoj, který hrozí, že rozvrátí podstatu práva a spravedlnosti. Podepírá to tvrzením, že právní pravidla mají za cíl regulovat neustále se vyvíjející lidské chování v rámci společnosti a že jejich tvorba, výklad a aplikace vyžadují komplexní právní a faktické hodnocení.
Umělá inteligence jako pomocník, nikoli náhrada
Podle bývalého prezidenta může umělá inteligence sloužit pouze jako doplňkový nástroj v odsouzení složitých technických problémů, jako jsou finance nebo matematika, kde se její použití stává užitečným, ale stále s nutností lidského zásahu. Neexistuje žádná možnost, aby umělá inteligence nahradila rozhodování soudů, kde je třeba zohlednit hodnoty, které vyžadují vědomí a etiku.
Pavlopoulos varoval, že jakákoliv snaha o minimalizaci lidského faktoru v soudních rozhodnutích skrze umělou inteligenci by mohla vést k nebezpečným předsudkům a nespravedlnostem, zejména v oblasti trestního práva. Zmiňoval příklady z USA, kde už došlo k riziku rasové diskriminace při využívání automatizovaných systémů rozhodování.
Závěr
Na základě zmíněného Pavlopulos vyjádřil obavy, že soudní moc se nebezpečně vzdaluje svým kořenům, a to nejen ve vztahu k technologickému vývoji, ale i k základním principům demokracie a právní ochrany. Varoval před tendencemi automatizovat rozhodovací procesy a upozornil na nutnost zachování lidského prvku v právní vědě a systému spravedlnosti jako klíčového pro zajištění sociální soudržnosti a ochrany demokratických institucí.
