Debata o regulaci a budoucnosti práva
Debaty o „lepší regulaci“ jsou tak staré jako sama byrokracie. Dnes se však nachází na rozcestí, obklopena dvěma radikálně odlišnými vizemi: Ve Spojených arabských emirátech a v Albánii (!) sedí systémy umělé inteligence jako poradní členové u stolu kabinetu. Zároveň se EU snaží svými omnibusovými balíčky uvolnit vlastní pouta nadměrného hlášení a státní sekretář pro deregulaci založil platformu pro spolupráci.
Na jedné straně je futuristická víra v algoritmického zákonodárce, na druhé straně pragmatická naděje, že zjednodušením se opět stane možné jednat. Je třeba říct, že sen o zákonodárném stroji je starší, než bychom si mysleli: Už v roce 1651 si Thomas Hobbes vymyslel umělého člověka, „Leviathana“; od „soudit stroje“ Rudolfa von Jheringa přes „subsumční automat“ Montesquieu v 19. století až po Maxe Webera a jeho „paragrafový automat“, podle nějž jsou práva kalkulovatelná a garantována byrokratickým státem jako záruka racionální aplikace práva – základy jsou položeny.
Anatomie nadměrné regulace
Obě přístupy se snaží vyřešit hluboce zakořeněný problém: pocit nadměrné regulace, který potlačuje inovace a – sám o sobě – pohlcuje zdroje. Ale co je vlastně „dobrá“ regulace? V jádru by mělo jít o nutnost, přiměřenost a srozumitelnost. Pravidla by měla řešit jasný a především řešitelný problém, jejich užitek musí převažovat nad náklady, a měla by být pro všechny zúčastněné přístupná a srozumitelná; to znamená, že všichni členové naší demokratické, digitální společnosti by měli být schopni rozumět zákonům a předpisům.
Proč se ale tak často nedaří těmto principům vyhovět? Všeobecná stížnost na nadměrnou byrokracii má vědecký základ. Fenomén „over-“ nebo dokonce „hyper-compliance“ je symptomatický, to jest nadměrné, předčasné a bázlivé dodržování pravidel organizacemi, které se snaží ze strachu z trestů nebo nejistoty regulovat až do nejmenších detailů, často mnohem více, než to původně vyžaduje zákon. Je to projev kultury vyhýbající se riziku, kterou navíc podněcují nejednoznačné nebo příliš zatížené předpisy.
Tím se potvrzuje provokativní teze, moderní aplikace „Parkinsonova zákona“: Regulační systémy jsou sebestředné aparáty. Ministerstva a úřady mají na všech úrovních tendenci ospravedlňovat svou existenci vytvářením nové práce. „Práce se rozšiřuje do té míry, do jaké je čas na její provedení k dispozici,“ napsal C. Northcote Parkinson jednou satiricky a odkazoval na příliš velké organizace. V současné správě úředníci příliš často vytvářejí práci pro jiné úředníky tím, že „vytvářejí“ stále nové předpisy, hlášení a schvalovací řízení, nebo je zavádějí pod tlakem jednotlivých zájmů nebo ideologií. Kromě toho hlášení manifestují hierarchie – místo distribuovaných informací vedou takto soustředěné informace k mocenskému vědění: (Zdánlivá) moc mají ti, kdož dostávají hlášení.
Dva radikální přístupy
Před EU omnibusovým balíčkem, jehož cílem je zredukovat hlášení pro firmy, se skrývá přímé přiznání tohoto problému – pokus zkrotit vlastní byrokratickou příšeru.
Vzhledem k této diagnóze diskutujeme o dvou radikálních řešeních: První je technologický spasitel, umělá inteligence. Potenciál se zdá být nesporný: AI může analyzovat obrovské množství dat za účelem rozpoznání nutnosti regulace, odhalovat rozpory v existujících zákonech a překládat složité texty do srozumitelného jazyka. Ale rizika jsou stejně obrovská. AI, která je trénována na předpojatých datech, bude navrhovat předpojaté zákony. „Blackbox“ jejích rozhodnutí podkopává zásadu transparentnosti právního státu a otázka odpovědnosti za chybné zákony AI není jasná. Kdo nese odpovědnost, když algoritmus chybí?
Druhé, radikálnější řešení je metafora „motorové pily“ argentinského prezidenta Javiera Milei. Jeho teze: Efektivní regulace vzniká radikálním zmenšením státní výkonnosti a byrokracie. Desítky tisíc propuštění ve veřejné službě by měly nejen ušetřit peníze, ale také vysušit živnou půdu pro sebererefenci byrokracie. Méně úředníků znamená méně kapacity na vytváření nových pravidel. Tento přístup však vzbuzuje zásadní otázku: Přináší redukce personálu skutečně lepší regulaci nebo jen méně a tedy nejistější regulaci? Potenciální ztráta státní kontrolní schopnosti v nadnárodních otázkách, jako je ochrana životního prostředí, spotřebitele nebo zdraví, je vskutku vysokou cenou za zdánlivou efektivitu.
Oběma přístupům chybí čisté etické vymezení a rozlišení. Demokracie se podstatně liší od autoritářských systémů tím, že se musí postavit před etické ověřování svých rozhodnutí a nemůže, ba ani smí, se této debatě vyhýbat. Stát nemá monopol na stanovení etických norem: Rozhoduje o právu, nikoli o morálce. A „stát“ jsme nakonec všichni – a žádný algoritmus.
Máme se na co učit?
Užitečné odpovědi nenabízí ani sebevědomé zjednodušení à la EU, ani deregulace motorovou pilou podle Mileie, a víra v AI jako regulátora zůstává rizikovým sázkou. Kdo by chtěl být pokusným králíkem, když umělá inteligence činí jedinečná, dalekosáhlá rozhodnutí v oblastech určování, které zásadně ovlivňují náš nejosobnější život? Místo toho by neměla být AI nasazena spíše tam, kde pomáhá lidem v repetitivních úkolech, než aby je nahrazovala v legislativních, a tedy eticky složitých vyvažováních?
Snížení povinností hlášení poskytne krátkodobou úlevu, ale to je nedostatečné: Než svěříme AI opratě legislativy, musíme ovládnout etické a demokratické základy: škálovatelnost, spolehlivost, kontrolu tréninkových dat a lidský dohled – a právě tam se skrývá čert v detailu, od základního vědění přes vzdělávání a předávání až po aplikaci. Jinak jen nahradíme jednu formu nekontrolované byrokracie jinou – takovou, jejíž vnitřní logiku možná nikdy zcela nepochopíme.
Žijeme ve stále více digitalizované společnosti, kde se princip „kód je zákon“ – programový kód určuje pravidla – stává stále reálnějším. Skutečná výzva leží hlouběji: Přeprogramováváme operační systém našich společností, ať už prostřednictvím lidských zákonů nebo algoritmů. Ale skutečně jsme se někdy naučili kódovat?
Reakce na autora: Clemens Maria Schuster (*1977) je podnikatel se sídlem v Curychu a Bruselu. Vytváří datové platformy pro analýzu a monitorování politických procesů s pomocí savoirr.com a politik.ch.
