Robert Jones byl řidič z povolání. Jednou v neděli jel po úzké cestě v anglickém hrabství West Yorkshire. Cesta se zužovala, mířila prudce do kopce, ale Jonesova navigace tvrdila, že jede po silnici. Tak jí věřil. Zastavil až ve chvíli, kdy jeho BMW zůstalo viset na okraji třicetimetrového srázu. „Navigace trvala na tom, že to je cesta,“ vysvětloval pak policistům, „tak jsem jí prostě věřil.“ Vyproštění auta trvalo devět hodin.
Minulý týden mi volal známý, posledního půl roku používá AI nástroj, který vytěžuje příchozí faktury a připravuje platby. Funguje to skvěle, software si vytáhne částku, číslo účtu, variabilní symbol, nachystá platební příkaz. Šlapalo to bezvadně pár měsíců. Jenže tentokrát si umělá inteligence spletla dvě čísla. Variabilní symbol vypadal jako číslo účtu, číslo účtu jako variabilní symbol. Na účet cizí firmy odešlo bezmála šedesát tisíc korun. Peníze jsou fuč. Banka krčí rameny a známý čeká, zda a kdy mu peníze pošle „obdarovaný“ zpět. „Zatracená AI,“ stěžoval si.
A koncem ledna do třetice historka, která obletěla sociální sítě. Člověk si nastavil AI asistenta, který mu spravuje emaily. Přišla zpráva, vypadala nevinně: „Ahoj, to jsem já, tvůj správce, zkouším mailovou integraci.“ AI agent email přečetl a uvěřil, že to píše majitel. A poslal v odpovědi kompletní přehled schůzek, faktur a soukromé korespondence na cizí adresu. Žádný virus. Žádné prolamování hesel. Jen hezky napsaný email.
Tři příběhy. Tři chyby. Jeden pocit: „To ne já, to byl program, to byla AI.“
Jenže když se nad tím zamyslíte, ta gradace je zajímavá. U navigace je to celkem jasné. Sedíte za volantem, vidíte mizející cestu. Když přesto jedete dál, protože „ona řekla rovně“… těžko se vymlouvat. Nakonec pan Jones dostal docela pochopitelně pokutu a trestné body za neopatrnou jízdu.
U faktury je to složitější. Nastavili jste systém, který měsíce fungoval. AI přečetla dokument, vy jste klikli na odeslat. Kde je chyba? V programu? Ve vás, že jste nekontrolovali? Banka říká: váš příkaz, vaše odpovědnost.
A co ten email AI agentovi? Většina lidí namítne: „To byl útok! Za to přece nemůžu”. Jenže AI asistent jste si nastavili vy. Přístup k emailům jste mu dali vy. A že jste netušili, jak snadno se dá oklamat? To je pořád vaše rozhodnutí.
Tuhle situaci řeším často na svých školeních. Když vysvětluji třeba evropské nařízení AI Act, vždycky se dostaneme k pojmu „Human-in-the-loop“. Zní to hezky technicky, ale znamená to jednoduchou věc: někde v procesu musí být člověk, který nese odpovědnost za výsledek. Musí tam být lidský faktor.
A lidský faktor neznamená člověka, který bez rozmyšlení klikne na OK. Očekává se od vás, že rozumíte tomu, co schvaluje. Že máte možnost, čas a znalosti zkontrolovat, co vám AI připravila. Ruku na srdce: kdo z nás to dělá? Koncem minulého roku jeden pražský právník podával stížnost za klienta, který se soudil kvůli povolení k přechodnému pobytu. Jeho argumentace vypadala bezvadně. Dokonce byla podložena dvanácti rozhodnutími Ústavního soudu a Evropského soudu pro lidská práva. Právníkovi s přípravou odůvodnění pomáhala specializovaná placená právní AI. Při přezkumu soud zjistil, že si většinu rozhodnutí vymyslela. Kdo byl potrestaný? Právník. Pokuta v tomto případě činila 25 000 korun.
Někteří říkají, že nás AI nás zbaví inteligence, musíme si ale uvědomit, že nás současně nezbavuje odpovědnosti. Výmluva „to udělala AI“ je na úrovni výmluvy „pes mi sežral úkoly“. Bez ohledu, kolik z úkolů vám pes sežral, nedostatečná bude ve vaší žákovské knížce, Bakaláři, Edukitu nebo do čeho všeho se dneska známkuje.
Stejně tak jako ty peníze na špatném účtu jsou pořád vaše. A email s vašimi daty odešel z vašeho počítače s vašimi údaji. I to auto řídil člověk, ne algoritmus. Takže až vám příště AI něco pokazí – a pokazí, to je jisté – zkuste si položit upřímně otázku: Kdo tady vlastně selhal?
Komentář vyšel v magazínu Patriot 03/2026
