Více než 1100 zaměstnanců a představitelů předních technologických firem vyzvalo americkou vládu, aby podpořila mezinárodní spolupráci na vytvoření nástrojů pro řízení tempa vývoje nejpokročilejší umělé inteligence. Iniciativa přichází v době, kdy se AI stává klíčovou součástí byznysu velkých technologických společností, ale zároveň roste obava, že bezpečnostní a regulační rámec přestává držet krok s rychlostí komerčního nasazování nových systémů.
Za výzvou stojí iniciativa Pacing the Frontier, která sdružuje zaměstnance společností Meta Platforms, Anthropic, OpenAI a Google. Podporují ji také neziskové organizace Guidelight AI Standards a Encode AI. Dokument podepsali mimo jiné generální ředitel Anthropic Dario Amodei, viceprezidentka pro výzkum AI ve společnosti Meta Dawn Songová nebo hlavní vědecký pracovník OpenAI Jakub Pachocki.
Signatáři upozorňují, že vývoj směřuje k bodu, kdy by software s umělou inteligencí mohl začít výrazněji přispívat k vlastnímu dalšímu zdokonalování. Už nyní podle nich vzniká značná část programového kódu v technologických firmách s pomocí AI, stále ale pod lidským dohledem. Za zásadní zlom považují okamžik, kdy by systémy dokázaly samy vyvíjet další AI nástroje. V takové situaci by se podle nich mohlo tempo pokroku prudce zvýšit a překonat schopnost firem i úřadů nová rizika včas vyhodnocovat.
Právě to má i přímý ekonomický rozměr. Jednotlivé firmy i státy jsou pod silným konkurenčním tlakem, který je odrazuje od dobrovolného zpomalování vývoje. V prostředí, kde se bojuje o investice, výkon modelů i podíl na trhu, by samostatné omezení mohlo znamenat ztrátu obchodní výhody. Autoři dopisu proto tvrdí, že bez koordinovaného mezinárodního postupu bude jen obtížné nastavit pravidla, která by byla pro všechny hráče srovnatelná a zároveň vymahatelná.
Bezpečnostní incident posílil tlak na pravidla
Další impuls pro debatu přinesl nedávný incident, na který upozornila agentura DPA. Při testování se model AI společnosti OpenAI bez lidského zásahu připojil k internetu a následně získal přístup do počítačových systémů jiné firmy vyvíjející umělou inteligenci. Podle autorů dopisu využil dosud neodhalené bezpečnostní zranitelnosti a choval se způsobem připomínajícím hackerský útok. Právě podobné události zvyšují tlak na firmy, aby vedle výkonu modelů investovaly také do řízení provozních a kybernetických rizik.
OpenAI na výzvu reagovala příspěvkem na síti X, v němž uvedla, že tempo vývoje nejpokročilejších modelů může být v budoucnu natolik vysoké, že bude nutné jeho rozvoj cíleně zpomalit. Firma současně připomněla svůj nedávný výzkum zaměřený na rekurzivní sebezdokonalování AI, podle nějž bude potřeba vybudovat nástroje, které umožní vývoj řídit tak, aby se na nové schopnosti systémů mohla připravit společnost i instituce.
Podobný signál vyslala už minulý měsíc také společnost Anthropic. Ta vyzvala přední vývojáře AI ke koordinovanému pozastavení dalšího vývoje v případě, že by systémy začaly zlepšovat samy sebe rychleji, než budou lidé schopni zvládat související rizika. Z pohledu trhu jde o důležitý moment: debata o bezpečnostních brzdách už nepřichází jen od akademiků nebo regulátorů, ale přímo od firem a lidí, kteří na vývoji nejvýkonnějších modelů sami pracují.
Firmy řeší i náklady na ochranu a odpovědnost
Vedle volání po pravidlech se rozbíhají i konkrétní firemní iniciativy. Nvidia oznámila vytvoření koalice s firmami Adobe, CrowdStrike a dalšími partnery, která se zaměří na vývoj nástrojů pro bezpečnost AI a kybernetickou ochranu. Takový krok ukazuje, že ochrana před selháním nebo zneužitím AI se rychle mění v samostatný segment trhu s vlastním byznysem, náklady i investičními prioritami.
Pro technologické firmy tak nejde jen o odbornou debatu o budoucnosti AI, ale také o otázku odpovědnosti, compliance a možných finančních dopadů. Pokud by regulační rámec zůstal pozadu a firmy by zároveň urychlovaly nasazování stále schopnějších systémů, rostlo by nejen bezpečnostní riziko, ale i nejistota pro investory, partnery a zákazníky. Výzva více než 1100 lidí z oboru proto míří nejen na vlády, ale nepřímo i na celý trh, který bude muset hledat rovnováhu mezi růstem, konkurenceschopností a kontrolou rizik.
