Politika umělé inteligence městské rady Middlesbrough: Zajištění odpovědnosti a transparentnosti
Starosta Middlesbrough je požádán o schválení politiky umělé inteligence (AI), která bude platit až do roku 2028. Schválení od Chrise Cooka umožní vedoucímu ICT a digitálního oddělení rady provádět úpravy této politiky v souladu s legislativou a nově vznikajícími technologiemi AI.
Cíl politiky je zajistit “zákonné, etické a zodpovědné” používání technologií AI v rámci organizace. Dokumenty rady vyzdvihují rostoucí význam AI při podpoře poskytování veřejných služeb a zdůrazňují, že politika “vymezuje jasný rámec”, který má usnadnit její používání tak, aby zvyšovalo produktivitu, chránilo data, udržovalo transparentnost a zajišťovalo lidskou odpovědnost.
Nová politika, která by měla být schválena starostou Cookem, zdůrazňuje, že všechny rozhodnutí zůstávají v odpovědnosti úředníků rady nebo zastupitelů, přičemž AI může pouze podporovat rozhodovací procesy, ale nemůže je nahradit.
Všichni zaměstnanci, kteří používají nástroje AI, budou muset absolvovat školení. AI bude využívána na podporu strategických priorit rady. Klíčovými principy zahrnují zabezpečený přístup a “jasné hranice” pro použití, které jsou povoleny nebo zakázány. Další informace zdůrazňují důležitost udržení důvěry veřejnosti v používání AI.
Kromě zdůraznění výhod doporučení také upozorňuje, že bez adekvátní správy AI vznikají rizika týkající se ochrany dat, etiky a odpovědnosti. Je dále objasněno, že “nové technologie” budou přijímány způsobem, který je “bezpečný”.
Dokumenty rovněž uvádějí, že absence jasné politiky by představovala významná rizika, včetně nekonzistentního používání nástrojů AI, možné nekomplikace s normami ochrany dat a etiky, a nedostatku transparentnosti či odpovědnosti v rozhodování.
Dodavatelé softwaru budou muset vyhovět nové politice. Ta se bude vztahovat nejen na zaměstnance a zastupitele, ale také na zaměstnance agentur a dokonce i dobrovolníky. Třetí strany budou muset zveřejnit, jak jejich systémy AI fungují, a to včetně zajištění proti zaujatosti a také limitů přesnosti, které jsou zdůrazněny.
Některé povolené použití AI v rámci rady zahrnují: “Shrnutí informací, generování návrhů zpráv nebo textů a asistenci při komunikaci,” stejně jako “analýzu nebo zpracování datových sad, dokumentů nebo veřejně dostupných informací za účelem generování shrnutí, poznatků nebo porovnání”. To však musí být v souladu s legislativou a politikami rady.
Na druhou stranu zakázaná použití zahrnují: “Zpracování nebo sdílení osobních, důvěrných nebo citlivých údajů v jakémkoliv veřejném nebo neověřeném nástroji AI,” a “považování výstupů AI za autoritativní nebo faktické bez ověření školeným úředníkem.”
Dokumenty vysvětlují, že politika bude přezkoumávána alespoň jednou ročně, aby odrážela nové technologie, rizika a osvědčené postupy, přičemž významné změny budou předloženy zvoleným členům k schválení.
