Debata o umělé inteligenci se často vede v krajních scénářích, skutečný ekonomický problém je ale pro firmy podstatně bližší. S rostoucím nasazením nástrojů jako ChatGPT či Claude se zvyšuje počet drobných i významnějších rozhodnutí, která podniky přenechávají automatizovaným systémům, aniž by měly plnou kontrolu nad tím, jak modely pracují a k jakým závěrům docházejí.
K ostrým varováním v posledních týdnech přispěla i vyjádření z USA. Donald Trump na své síti Truth Social uvedl, že jedinou pojistkou, kterou umělá inteligence potřebuje, je „silný a chytrý prezident“, a snahy technologii omezovat označil za zvrácené. Taková prohlášení sice přitahují pozornost, pro podnikové prostředí jsou ale důležitější jiné otázky: kdo nese odpovědnost za chybná rozhodnutí AI, jak se kontrolují výstupy modelů a jaké škody může přinést jejich nekritické používání.
Do české debaty vstoupil také expert na AI Jan Romportl, který v rozhovoru pro iDnes uvedl, že existuje zhruba desetiprocentní pravděpodobnost „konce světa“ kvůli umělé inteligenci během příštích deseti až patnácti let. Upozornil na autonomní agenty, schopnost pronikat z kontrolovaného prostředí, hackovat infrastrukturu nebo skrytě komunikovat. Za vážnější než jednorázový kolaps přitom označuje postupnou ztrátu lidské kontroly, manipulaci a zneužití pokročilých technologií.
Právě motiv postupného oslabování lidského rozhodování má pro ekonomiku největší váhu. V podnicích se už dnes AI používá při přípravě prezentací, vyhledávání podkladů, třídění informací nebo tvorbě tabulek. Na první pohled jde o dílčí úkoly, ve velkém součtu ale mohou měnit vnitřní fungování firem. Pokud zaměstnanci přenesou na modely stále více „mikrorozhodnutí“, vzniká provozní závislost, kterou firma nemusí včas rozpoznat.
To má konkrétní dopady i na náklady a odpovědnost. Chybně vyhodnocená data, nevhodně nastavené automatizované postupy nebo přeceňování schopností AI mohou znamenat špatná obchodní rozhodnutí, reputační škody i nové právní spory. V krajním případě se problém promítne do cash flow, pohledávek nebo sporů se zákazníky a dodavateli. Pro management tak není klíčové uvažovat jen o futuristických hrozbách, ale hlavně o tom, kde všude už dnes firma bez dostatečné kontroly AI využívá.
Romportl zároveň upozorňuje i na rozdílný přístup velmocí. V USA podle něj existuje reálné riziko, že se konkurenční firmy neshodnou na zpomalení vývoje. V Číně naopak předpokládá opatrnější přístup ze strany vládnoucí elity. Právě tento střet rychlosti vývoje a regulace je pro byznys důležitý: firmy se pohybují v prostředí, kde tlak na inovace roste rychleji než schopnost nastavit jednoznačná pravidla odpovědnosti.
Katastrofické úvahy o úplném zániku lidstva tak mohou snadno překrýt praktičtější riziko, které je pro podniky mnohem aktuálnější. Nejde jen o to, zda se AI někdy „vymkne kontrole“ v dramatickém smyslu, ale zda firmy postupně nepředají klíčové procesy systémům, jejichž motivaci, limity a chyby samy dostatečně nechápou. Právě tato nenápadná ztráta kontroly může mít v ekonomice citelné následky dřív než jakýkoli vzdálený scénář technologické apokalypsy.
