Umělá inteligence může výrazně zrychlit odhalování i možné zneužívání chyb v softwaru, což zvyšuje provozní a finanční rizika pro firmy, banky i veřejné instituce. Národní úřad pro kybernetickou a informační bezpečnost očekává, že kritické zranitelnosti s možností masového zneužití se budou objevovat opakovaně.
Varování zaznělo v návaznosti na nedávno zveřejněné chyby v programovacím jazyce PHP. Kvůli nim byly v říjnu preventivně odstaveny weby vlád a úřadů v řadě zemí, v České republice mimo jiné stránky Úřadu vlády. Podobné slabiny se však mohou týkat také systémů bank a dalších institucí, jejichž výpadek by mohl narušit poskytování služeb i chod podnikání.
Za zabezpečení, aktualizace a správu konkrétních systémů odpovídají jejich provozovatelé. Mluvčí NÚKIB Jakub Neščivera uvedl, že úřad neprovádí centrální aktualizace státních webů. Průběžně ale vyhodnocuje informace o hrozbách a zranitelnostech a při relevantním riziku předává dotčeným subjektům bezpečnostní upozornění, doporučení a další informace.
V případě chyb v PHP NÚKIB doporučil provozovatelům bezodkladnou aktualizaci a cíleně rozeslal upozornění subjektům, na něž dopadá zákon o kybernetické bezpečnosti. Úřad současně sledoval veřejně dostupná zařízení s možnou zranitelností a kontaktoval instituce, aby problém prověřily a odstranily. Po zveřejnění chyby se uskutečnila také situační jednání.
Úřad vlády podle vedoucího komunikace Martina Vodičky postupoval podle doporučeného postupu konzultovaného s NÚKIB. Po preventivním odstavení webu provedl opravnou aktualizaci, která dotčenou zranitelnost odstranila.
Staré aplikace zvyšují náklady i riziko výpadků
Podle NÚKIB budou pokročilé modely AI stále rychleji vyhledávat chyby a sestavovat kroky, které mohou vést k jejich využití. Moderní software obsahuje tisíce řádků kódu a nové analytické metody dokážou odhalit nedostatky, které v systémech zůstávaly řadu let. Stejné nástroje přitom vedle útočníků používají i bezpečnostní výzkumníci a týmy, jež systémy chrání.
Pro provozovatele to znamená nutnost znát používané technologie, pravidelně je aktualizovat, sledovat jejich chod a mít připravený postup pro rychlou nápravu. Zanedbaná správa IT se může proměnit nejen v bezpečnostní problém, ale také ve výpadek služeb, mimořádné náklady na obnovu provozu a ztrátu důvěry zákazníků či obchodních partnerů.
Spoluzakladatel technologické firmy COex Ivoš Gajdorus upozornil, že současné potíže kolem PHP nejsou ojedinělé. Internet podle něj stále stojí na mnoha letitých aplikacích, které zůstávají důležité pro fungování firem, jejich technologické základy však často již neodpovídají současným požadavkům. Vedle investic do ochrany tak pro podniky roste význam průběžné modernizace systémů, na nichž závisí jejich provoz.
Rizika spojená s AI se promítla také do očekávání finančních trhů. Po vítězství demokratů v USA se začalo počítat s přísnější regulací umělé inteligence, což přispělo k oslabení akciových trhů.
