Umělá inteligence a automatizace

Stát může delegovat práci stroji, ne vlastní odpovědnost

Umělá inteligence mění jednu z nejstarších otázek organizace práce. Co musí udělat člověk sám a co může svěřit nástroji? Parní stroj nahrazoval část fyzické síly. Počítač převzal výpočty a evidenci. Klasický software automatizoval přesně popsané administrativní postupy.

Současná umělá inteligence zasahuje do činností, které jsme ještě nedávno považovali především za doménu člověka. Dokáže shrnovat texty, překládat, hledat vzorce v datech, připravovat návrhy dokumentů, pracovat s obrazem, pomáhat programovat nebo odpovídat na otázky přirozeným jazykem. To vytváří velkou příležitost pro ekonomiku i veřejnou správu. Současně ale vzniká nový problém. Klasický informační systém zpravidla vykonává předem definovaný postup. U některých moderních systémů umělé inteligence může být výstup méně předvídatelný, složitěji vysvětlitelný a závislý na datech, která mohou obsahovat chyby nebo zkreslení.

Stát proto potřebuje rozlišovat mezi dvěma otázkami.

Co může automatizovat?

A co může automatizaci skutečně svěřit k rozhodnutí?

Tyto otázky nejsou stejné.

Česko už má vlastní strategii umělé inteligence

Česká republika přijala aktualizovanou Národní strategii umělé inteligence ČR 2030 v červenci 2024.

Strategie chápe AI jako technologii významnou pro konkurenceschopnost ekonomiky, veřejné služby i fungování státu. Rozděluje politiku do sedmi oblastí zahrnujících výzkum a inovace, vzdělávání, pracovní trh, právní a etické otázky, bezpečnost, podnikání a využití umělé inteligence ve veřejné správě. Akční plán má být průběžně vyhodnocován a aktualizován podle dalšího technologického vývoje.

To je důležitý princip.

U technologie, která se mění tak rychle jako současná AI, by pětiletý plán bez průběžné aktualizace rychle zastarával.

Stejnou logiku by ale stát měl používat také při konkrétních projektech.

Není dostatečné říci, že veřejná správa bude „využívat AI“.

Musí být jasné, který problém tím řeší.

Kolik času nebo peněz má použití nástroje ušetřit.

Jak se změří kvalita výsledku.

Kdo bude systém kontrolovat.

A co se stane, pokud začne vytvářet chyby.

Největší příležitostí může být obyčejná administrativní práce

Při debatě o AI se často mluví o velmi pokročilých systémech.

Veřejná správa však může získat značnou část přínosu mnohem méně dramaticky.

Tříděním dokumentů.

Vyhledáváním v rozsáhlých spisech.

Přípravou prvního návrhu textu.

Shrnováním podkladů.

Kontrolou formálních nesrovnalostí.

Přepisem nebo překladem.

Vyhledáváním relevantních informací pro úředníka.

Pomocí občanovi při orientaci ve veřejné službě.

OECD ve studii z roku 2025 analyzovala přibližně dvě stovky případů využívání AI ve veřejné správě. Mezi praktické příklady řadí automatizaci rutinních úkolů, pomoc občanům s formuláři, podporu rozhodování, vyhledávání podvodů nebo analýzu rozsáhlých dat. Současně upozorňuje, že větší využití brzdí nekvalitní data, starší informační systémy, nedostatek dovedností a vyšší požadavky veřejného sektoru na transparentnost a odpovědnost.

Právě rutinní administrativní činnost může být pro stát dobrým začátkem.

Ne proto, že je nevýznamná.

Protože lze poměrně dobře porovnat výsledek člověka a stroje.

Automatizovat úkon je něco jiného než automatizovat odpovědnost

Představme si úředníka, který musí přečíst několik desítek dokumentů a zjistit, zda v nich chybí povinná příloha.

AI může pomoci dokumenty projít a označit podezřelé případy.

Úředník následně výsledek ověří.

To je úplně jiný model než situace, kdy systém sám rozhodne, že občan nesplnil podmínky a žádost zamítne.

V prvním případě nástroj rozšiřuje schopnost člověka.

Ve druhém přebírá část veřejné moci.

A právě tam musí být standard výrazně přísnější.

Evropské GDPR už dnes chrání člověka před některými rozhodnutími založenými výhradně na automatizovaném zpracování, pokud mají právní nebo podobně významný účinek. Pravidlo obsahuje zákonné výjimky, ale zároveň požaduje odpovídající ochranná opatření; v určitých případech výslovně zahrnuje možnost lidského zásahu a napadení rozhodnutí.

Ne každé použití AI je samozřejmě automatizovaným rozhodnutím podle tohoto ustanovení.

Princip je ale širší.

Čím významnější dopad má rozhodnutí na konkrétního člověka, tím méně přijatelné je, aby veřejná správa nevěděla, kdo za výsledek odpovídá.

Evropská regulace už rozlišuje použití podle rizika

Evropský AI Act vstoupil v platnost v roce 2024 a jeho pravidla se zavádějí postupně. Zákazy vybraných nepřijatelných praktik a povinnosti týkající se AI gramotnosti se používají od února 2025, pravidla pro správu a modely pro obecné použití od srpna 2025 a velká část nařízení se začala obecně uplatňovat 2. srpna 2026. Specifická pravidla pro některé vysoce rizikové systémy budou podle současného harmonogramu účinná později.

Logika AI Actu je pro Model 77 důležitější než samotné jednotlivé paragrafy.

Regulace se snaží rozlišovat podle rizika použití.

AI, která pomáhá upravit stylistiku interního textu, není stejný problém jako systém používaný při výběru zaměstnanců, hodnocení některých vzdělávacích výsledků nebo rozhodování o přístupu k významným službám.

Evropský rámec proto mezi citlivé oblasti řadí například některá použití v zaměstnanosti, vzdělávání, kritické infrastruktuře, migraci, justici a přístupu k základním veřejným nebo soukromým službám.

To je vhodná obecná zásada také pro stát.

Ne všechna AI potřebuje stejnou kontrolu.

Kontrola má růst s možnými následky chyby.

Člověk ve smyčce nestačí, pokud pouze potvrzuje stroj

Často se jako řešení rizik automatizace používá pojem „human in the loop“.

Stroj připraví doporučení.

Člověk rozhodnutí potvrdí.

Na papíře je tedy zachována lidská kontrola.

Jenže takový systém může být pouze formální.

Pokud úředník během dne obdrží stovky automatických doporučení a očekává se od něj, že je rychle potvrzuje, může se z lidského rozhodování stát jen další tlačítko v systému.

Člověk musí mít reálnou možnost výsledek zpochybnit.

Musí rozumět tomu, jaký význam doporučení má.

Potřebuje přístup k původním podkladům.

A nesmí být organizačně trestán za to, že automatický návrh nepřijal.

Jinak máme automatizované rozhodování s lidským podpisem.

Ne skutečnou lidskou kontrolu.

Stroj může navrhovat, odpovědnost musí mít jméno

Pokud AI připraví chybný návrh rozhodnutí a úředník jej podepíše, občan nemůže dostat odpověď:

„To udělal algoritmus.“

Algoritmus nemá demokratickou ani právní odpovědnost.

Nemůže vysvětlit politické rozhodnutí.

Nemůže nést kázeňskou odpovědnost.

Nemůže být odvolán z funkce.

To znamená, že použití AI nemá přerušit řetězec odpovědnosti.

Model 77 používá princip:

pravomoc, odpovědnost, kontrola a náprava.

Umělá inteligence do něj vstupuje pouze jako nástroj.

Pokud úřad používá systém při rozhodování, úřad zůstává odpovědný za výsledek.

Pokud jej dodala soukromá firma, veřejná instituce se odpovědnosti nezbavuje tím, že koupila technologii zvenčí.

Dodavatel může odpovídat za vadný produkt nebo smluvní plnění.

Veřejná moc však musí stále odpovídat občanovi za výkon své kompetence.

AI potřebuje kvalitní data ještě více než klasická digitalizace

Špatná data byla problémem veřejné správy už před umělou inteligencí.

AI tento problém nezruší.

Může jej naopak znásobit.

Pokud systém dostane chybné, zastaralé nebo systematicky neúplné informace, může velmi rychle vyrábět výsledky ve velkém měřítku.

Právě proto OECD ve svých nejnovějších doporučeních pro AI ve veřejné správě zdůrazňuje interoperabilní a kvalitní data jako jeden ze základních předpokladů smysluplného zavádění těchto nástrojů. Stejně významné jsou podle organizace funkční digitální infrastruktura, dovednosti pracovníků a schopnost technologie řídit a kontrolovat.

To je další důvod nezačínat nákupem modelu.

Úřad musí nejprve vědět, jaká data používá.

Odkud pocházejí.

Jak jsou aktuální.

Kdo odpovídá za jejich kvalitu.

A zda jsou vůbec vhodná pro konkrétní účel.

AI nenahrazuje datovou správu.

Dělá její kvalitu ještě důležitější.

Přesvědčivě znějící chyba může být nebezpečnější než prázdné políčko

U klasického systému může být chyba snadno viditelná.

Položka chybí.

Výpočet se nepodaří.

Systém zobrazí technickou chybu.

Generativní AI ale může vytvořit výstup, který působí velmi přesvědčivě, přestože obsahuje nesprávné tvrzení.

To vytváří nový druh rizika.

Úředník nemusí kontrolovat jen to, zda systém odpověděl.

Musí kontrolovat, zda odpověděl správně.

To je zvlášť důležité tam, kde AI pracuje s právem, zdravotními informacemi, technickými normami nebo jinými oblastmi, v nichž drobná faktická chyba může mít výrazný důsledek.

Proto není rozumné použít jeden obecný režim kontroly.

Interní shrnutí dlouhého dokumentu může tolerovat jiné riziko než návrh správního rozhodnutí.

Čím blíže je AI výkonu veřejné moci, tím kvalitnější musí být ověření.

Vysvětlitelnost neznamená, že každý občan musí rozumět matematice modelu

Požadavek vysvětlitelnosti se někdy chápe příliš technicky.

Občan nemusí dostat několik stran matematického popisu algoritmu.

Často potřebuje něco mnohem praktičtějšího.

Byla při rozhodnutí použita automatizace?

Které údaje byly významné?

Jaký výsledek systém doporučil?

Rozhodl nakonec člověk?

Jak lze údaj opravit?

A kam se lze proti rozhodnutí obrátit?

To jsou informace, které mají praktický význam pro odpovědnost.

V některých případech bude navíc potřebná hlubší technická auditovatelnost pro odborné kontrolní orgány.

Veřejná vysvětlitelnost a technický audit tedy nemusejí být totožné.

Občan potřebuje srozumitelný důvod.

Kontrolor může potřebovat mnohem detailnější přístup.

AI může pomoci úředníkovi dělat méně administrativy a více skutečné práce

To je možná největší příležitost pro veřejnou správu.

Velká část odborného personálu tráví čas úkoly, které jsou důležité, ale rutinní.

Přepisování.

Vyhledávání.

Formální kontrola.

Třídění.

Příprava opakujících se textů.

Pokud AI část této práce skutečně převezme, nemusí být hlavním výsledkem menší počet zaměstnanců.

Může jím být více času na činnosti, ve kterých člověk přináší největší hodnotu.

Jednání s občanem.

Řešení nestandardního případu.

Odborný úsudek.

Kontrola.

Terénní práce.

Strategické plánování.

OECD v roce 2026 uvedla, že více než polovina členských zemí, které odpověděly v jejím průzkumu o konsolidaci veřejných financí, zmiňovala využívání AI k automatizaci opakovaných úkolů, urychlování procesů a přesunu času pracovníků k činnostem s vyšší přidanou hodnotou.

To je mnohem zajímavější cíl než prosté heslo „AI sníží počet úředníků“.

Úspora pracovního času se ale sama nezmění v úsporu peněz

Pokud nástroj zkrátí dvouhodinovou činnost na půl hodiny, vznikne časová úspora.

To ještě neznamená rozpočtovou úsporu.

Zaměstnanec dál dostává stejnou mzdu.

Veřejná správa musí rozhodnout, co s uvolněnou kapacitou udělá.

Zvýší počet vyřízených případů?

Zkrátí čekací dobu?

Převede člověka na jinou práci?

Nebo skutečně sníží personální potřebu?

Pokud tuto otázku nevyřeší, může stát nakoupit velmi drahou AI a současně zachovat úplně stejný provoz jako předtím.

Technologický přínos proto musí být přeložen do organizační změny.

Automatizace bez změny organizace může vytvořit technologickou efektivitu, ale žádnou veřejnou hodnotu.

Produktivita musí být měřena společně s kvalitou

Úřad může díky automatizaci vyřídit dvakrát více žádostí.

To zní jako jasný úspěch.

Pokud ale současně vzroste počet chybných rozhodnutí a odvolání, může být skutečný výsledek horší.

Proto se u AI nedá produktivita měřit pouze rychlostí.

Musíme sledovat také přesnost.

Počet oprav.

Stížností.

Odvolání.

Čas, který člověk potřebuje na kontrolu výstupu.

A celkové náklady technologie.

Někdy může AI udělat první část práce desetkrát rychleji, ale člověk následně stráví téměř stejný čas její kontrolou.

I to je legitimní výsledek experimentu.

Pak víme, že konkrétní použití nepřineslo očekávaný efekt.

Technologie nesmí dostat výjimku z běžné povinnosti prokazovat vlastní přínos.

AI může změnit pracovní místa dříve než jejich počet

Ve veřejné debatě se otázka automatizace často redukuje na jedno:

Kolik pracovních míst AI zruší?

Současné poznání tak jednoduchý závěr nepodporuje.

Mezinárodní organizace práce v roce 2025 odhadovala, že přibližně čtvrtina světové zaměstnanosti se nachází v profesích s určitou mírou expozice generativní AI. Zároveň však zdůraznila, že pravděpodobnějším výsledkem je u většiny těchto zaměstnání změna náplně práce než úplné odstranění pracovního místa.

Novější analýza OECD z roku 2026 podobně ukazuje, že vysoká expozice AI není totéž jako vysoká pravděpodobnost zániku zaměstnání. Nejblíže schopnostem současných systémů jsou především některé úkoly založené na rutinním zpracování informací a administrativní práci; mnohem větší rozdíl přetrvává u činností vyžadujících kontextový úsudek, mezilidské porozumění, složité rozhodování a odpovědnost.

To je pro Model 77 důležitější než spekulovat o přesném počtu budoucích pracovních míst.

Stát se má připravovat na změnu úkolů uvnitř profesí.

Úředník budoucnosti nemusí být programátor

Většina lidí pracujících s AI nebude vyvíjet vlastní modely.

Stejně jako člověk používající tabulkový procesor nemusí znát jeho zdrojový kód.

Potřebuje ale určitou novou gramotnost.

Vědět, kdy nástroji věřit.

Kdy výsledek ověřit.

Jaká data do něj nesmí vložit.

Jak rozpoznat zjevnou chybu.

Jak zachovat auditní stopu.

A kdy použití automatizace není vhodné vůbec.

OECD v lednu 2026 upozornila, že nedostatek schopností pracovníků je jednou z překážek používání AI ve veřejném sektoru a že vlastní odborná kapacita je nutná nejen pro používání systému, ale také pro zachování odpovědnosti a schopnosti veřejné instituce technologii řídit.

AI gramotnost tedy není jen dovednost napsat dobrý pokyn modelu.

Ve veřejné správě je to také znalost jeho hranic.

Největší riziko může být automatizační pohodlnost

Člověk má přirozenou tendenci důvěřovat systému, který se většinou nemýlí.

Právě vysoká úspěšnost může postupně oslabovat pozornost.

Pokud AI devět set devadesátkrát připraví správný výsledek, člověk může desátou stovku začít kontrolovat jen formálně.

A právě tam se může objevit kritická chyba.

Proto musí být kontrolní proces navržen podle rizika.

Někde stačí namátková kontrola.

Někde musí člověk ověřit každý případ.

U jiných použití může být vhodné automatizované křížové ověření nebo nezávislý audit.

Člověk nesmí být vložen do procesu pouze jako právní pojistka.

Jeho role musí odpovídat skutečnému riziku.

Veřejná správa potřebuje vlastní registr významných použití AI

Pokud každé ministerstvo, obec nebo veřejná organizace začne samostatně nasazovat desítky nástrojů, stát může velmi rychle ztratit přehled o tom, kde se automatizace skutečně používá.

U běžných kancelářských nástrojů by centrální evidence všeho vytvářela zbytečnou administrativu.

U významnějších systémů může být ale přehled důležitý.

Která instituce nástroj používá?

K jakému účelu?

Pracuje s osobními nebo citlivými daty?

Ovlivňuje rozhodnutí o konkrétním člověku?

Kdo je dodavatel?

Kdo systém kontroluje?

Kdy byl naposledy přezkoumán?

Takový přehled by mohl pomoci bezpečnosti, kontrole i sdílení zkušeností mezi institucemi.

Ne jako katalog každého kancelářského pomocníka.

Jako mapa systémů, jejichž chyba by mohla mít významný veřejný dopad.

Stejný nástroj nemusí vyvíjet každý úřad zvlášť

AI vytváří velmi silný argument pro sdílenou odbornou kapacitu.

Pokud několik desítek institucí potřebuje nástroj pro anonymizaci dokumentů, přepis jednání, vyhledávání v právních předpisech nebo třídění standardních podání, nemusí každá vytvářet vlastní technologické řešení.

Společná platforma může být levnější.

Lépe zabezpečená.

Pravidelněji testovaná.

A může soustředit odborníky, které by jednotlivá malá instituce nedokázala zaměstnat.

To je další příklad toho, proč politická decentralizace neznamená technickou decentralizaci všeho.

Obec může rozhodovat samostatně.

Nemusí mít vlastní jazykový model.

Zemský obvod může mít vlastní politickou odpovědnost.

Nemusí vytvářet vlastní infrastrukturu pro každou formu automatizace.

Společný systém ale může vytvořit společný problém

Centralizace technologie má i opačnou stránku.

Pokud stovky institucí používají stejnou platformu, její chyba může zasáhnout stovky institucí najednou.

Jednotné řešení snižuje náklady.

Současně může zvětšit rozsah selhání.

Proto má stát i zde rozlišovat mezi standardizací a úplnou technickou koncentrací.

Společný datový standard neznamená nutně jeden server.

Společný model nemusí znamenat jednu instanci pro všechno.

Jednotná bezpečnostní pravidla nemusí znamenat jediného dodavatele.

Odolnost vyžaduje posuzovat také koncentraci technologického rizika.

Nákup AI je zároveň nákup závislosti na infrastruktuře

Moderní AI není pouze software.

Potřebuje výpočetní kapacitu.

Datová centra.

Energii.

Specializované čipy.

Síťové připojení.

A často služby velkých technologických poskytovatelů.

To znamená, že strategie používání AI má i infrastrukturní a ekonomický rozměr.

Nemusí být realistické, aby Česká republika vlastnila každou vrstvu technologického řetězce.

Stejně jako u jiných oblastí Odolnosti ale potřebuje znát své kritické závislosti.

Co se stane, pokud konkrétní cloudová služba není dostupná?

Lze přejít k jinému poskytovateli?

Kde se nacházejí data?

Jak složitý je jejich přenos?

Jaké jsou smluvní podmínky ukončení služby?

AI tak znovu ukazuje, že digitální suverenita není synonymem úplné technologické soběstačnosti.

Je především schopností zachovat možnost volby.

Umělá inteligence nesmí být výmluvou pro horší službu

Existuje jednoduchý test.

Pokud občan dostává díky automatizaci rychlejší, přesnější a dostupnější službu, technologie přináší hodnotu.

Pokud naopak musí komunikovat pouze s chatbotem, který mu nerozumí, nemůže se dostat k člověku a nikdo není schopen převzít odpovědnost za chybnou odpověď, digitalizace službu zhoršila.

AI může být první kontaktní vrstvou.

Nemá se automaticky stát poslední možností.

U jednoduchého dotazu může být automatická odpověď efektivnější než telefonický hovor.

U složité životní situace musí existovat cesta k člověku.

Občan nemá nést náklady technologického experimentu veřejné správy.

Automatizace potřebuje odvolání a nápravu

Čím více bude AI vstupovat do rozhodovacích procesů, tím důležitější bude možnost chybu opravit.

Nestačí totiž vědět, že systém má průměrnou přesnost 99 procent.

Pokud zpracuje milion případů, i jedno procento může znamenat deset tisíc problémů.

A pro člověka, jehož případ je chybný, není průměrná úspěšnost velkou útěchou.

Právě proto musí automatizace veřejné moci respektovat stejnou logiku jako jakékoli jiné rozhodování.

Rozhodnutí.

Vysvětlení.

Možnost námitky.

Přezkum.

Náprava.

Technologie může zlevnit první rozhodnutí.

Nesmí zdražit cestu k opravě chyby.

Čím větší automatizace, tím důležitější mohou být namátkové lidské kontroly

V ručním systému každý případ vidí člověk.

V automatizovaném systému může člověk sledovat pouze výjimky.

To významně zvyšuje produktivitu.

Současně ale může vzniknout chyba, která se opakuje tisíckrát, než si jí někdo všimne.

Proto automatizované systémy potřebují průběžné kontroly nejen problémových případů, ale také náhodně vybraných případů označených systémem jako bezproblémové.

Jinak kontrolujeme pouze chyby, které dokázal rozpoznat stejný systém, jehož chyby hledáme.

To je obecný princip automatizace.

S rostoucím měřítkem může být jednotlivá chyba méně častá.

Ale chyba systému má mnohem větší rozsah.

AI ve veřejné správě musí být schopná auditu

Audit neznamená vždy zveřejnit celý model nebo jeho zdrojový kód.

Měl by ale umožnit rekonstruovat významné rozhodnutí.

Jaká verze systému byla použita?

Jaké informace obdržela?

Co vytvořila?

Co následně změnil člověk?

Kdo výsledek schválil?

Byla později zjištěna chyba modelu?

A kterých případů se mohla týkat?

Bez podobné auditní stopy může nastat velmi nepříjemná situace.

Stát zjistí, že určitá verze systému systematicky chybovala.

Nebude ale vědět, která rozhodnutí je potřeba znovu přezkoumat.

Automatizace proto neodstraňuje potřebu dokumentace.

Mění její podobu.

Model se může změnit, aniž se změní zákon

To je další rozdíl oproti klasické veřejné správě.

Změna zákona je viditelná.

Prochází legislativním procesem.

U technologického systému může aktualizace modelu významně změnit jeho chování bez jakékoli změny právní úpravy.

Proto je nutné sledovat také technologické verze.

Pokud byl určitý systém testován a následně poskytovatel významně změnil model, nemusí původní ověření stačit.

U méně významných nástrojů může být taková aktualizace běžnou součástí provozu.

U systému s významným dopadem na práva občana může být potřeba nové ověření.

Právní pravidlo totiž zůstalo stejné.

Praktický rozhodovací nástroj už stejný být nemusí.

Regulace musí chránit člověka, ale nesmí zmrazit technologii

Evropská regulace AI se snaží právě o rizikově odstupňovaný přístup.

To je vhodnější než požadovat stejný režim pro každý algoritmus.

Současně ale bude mimořádně důležité sledovat, jak pravidla fungují v praxi.

Technologie se bude měnit.

Nová použití budou vznikat.

Některá dnešní rizika mohou postupně klesnout.

Jiná se objeví.

Proto i regulace potřebuje schopnost učení.

Stejně jako samotná AI politika.

Zákon nesmí měnit základní ochranu práv podle každé nové technologické módy.

Technické standardy a prováděcí pravidla ale musejí být schopná reagovat mnohem rychleji.

Co by pracovní hypotézu vyvrátilo?

Představa, že AI výrazně zvýší produktivitu veřejné správy, by byla zpochybněna, pokud by náklady na pořízení, integraci, kontrolu a opravy převýšily skutečně ušetřenou práci.

Společná AI platforma by nebyla vhodná, pokud by vytvořila nepřijatelný společný bod selhání nebo technologickou závislost na jediném dodavateli.

Lidský dohled by byl pouze iluzí, pokud by pracovník neměl čas, znalosti nebo pravomoc automatický návrh skutečně změnit.

Automatizace rozhodování by nebyla přijatelná, pokud by občan nemohl zjistit, jak byla jeho věc posouzena, opravit chybná data nebo získat účinný přezkum.

Naopak úplný zákaz automatizace významnějších procesů by byl obtížně obhajitelný, pokud by dobře kontrolovaný systém prokazatelně snižoval chybovost, zrychloval službu a ponechával zachovanou odpovědnost i možnost nápravy.

A strategie založená na představě masového zániku pracovních míst by se musela změnit, pokud se bude dál potvrzovat, že AI především mění jednotlivé úkoly uvnitř zaměstnání namísto jednoduchého rušení celých profesí. Současná zjištění ILO a OECD právě tuto opatrnost doporučují.

Vztah k Modelu 77

Umělá inteligence je velmi dobrým testem základního principu Modelu 77:

instituce není důvodem pro kompetenci a technologie není nositelem odpovědnosti.

Pokud obec používá celostátní AI nástroj, politická odpovědnost obce nezaniká.

Pokud několik zemských obvodů sdílí společnou analytickou platformu, nemusejí kvůli tomu sdílet stejné politické rozhodnutí.

Pokud stát poskytuje technologickou infrastrukturu, nemusí rozhodovat o každé místní službě.

Model 77 by proto měl počítat se sdílenými technologickými kapacitami mnohem více než s budováním několika desítek samostatných technologických správ.

Specializovaná expertiza v oblasti AI, auditu, bezpečnosti nebo dat může sloužit více obvodům.

To může být levnější a odborně kvalitnější.

Současně však musí být naprosto jasné, která instituce odpovídá za konkrétní rozhodnutí vůči občanovi.

Technologie může být společná.

Odpovědnost se nesmí rozpustit.

Pracovní závěr

Umělá inteligence může veřejné správě umožnit dělat část práce výrazně rychleji.

Může pomoci zpracovávat velké množství informací, odstranit rutinní administrativu a dát odborným pracovníkům více času na případy, ve kterých je skutečně potřeba lidský úsudek.

To je významná příležitost zejména pro stát, který bude v dalších desetiletích čelit nedostatku pracovníků.

Ale automatizace nesmí být chápána jako postupné předávání veřejné odpovědnosti stroji.

Čím větší dopad má rozhodnutí na člověka, tím důležitější je zjistit, kdo rozhoduje, z čeho vychází, kdo výsledek kontroluje a jak lze napravit chybu.

AI má proto nejprve pomáhat člověku.

Teprve tam, kde se prokáže dostatečná přesnost, bezpečnost, transparentnost a možnost nápravy, lze uvažovat o hlubší automatizaci.

A i potom musí zůstat poslední odpovědnost lidská a institucionální.

Stát totiž může stroji svěřit čtení dokumentů, hledání souvislostí, přípravu návrhu nebo provedení rutinního úkonu.

Nemůže stroji předat odpovědnost za to, jak veřejnou moc používá vůči člověku.