Největší americké společnosti vyvíjející umělou inteligenci veřejně upozorňují na možná bezpečnostní rizika svých modelů a žádají, aby se tempo vývoje zpomalilo. Současně ale pokračují v závodu o kapitál a tržní ocenění. Výrazným příkladem je Anthropic, který se připravuje na vstup na burzu a podle uvedených očekávání vyhlíží valuaci až 2 biliony dolarů, ačkoli se zatím nedostal k ziskovosti.
Akcionáři velkých amerických AI firem popisují technologický vývoj jako závod ve zbrojení, který by měl podléhat silnějším pravidlům a státnímu dohledu. Argumentují tím, že jejich vlastní modely mohou být obtížně kontrolovatelné. Poukazují také na bezpečnostní incidenty spojované s provozem těchto systémů.
Ve veřejné debatě zaznívají i velmi krajní odhady možných následků. Představitelé oboru hovořili o desetiprocentní, v jiných vyjádřeních až pětadvacetiprocentní pravděpodobnosti, že umělá inteligence může lidstvo vyhubit. Takto formulovaná varování zároveň vytvářejí tlak na regulaci odvětví, jehož produkty a infrastruktura vyžadují mimořádně vysoké investice.
Bezpečnostní varování vedle boje o kapitál
Ekonomická strategie firem však zatím nenaznačuje ústup od rychlého růstu. Anthropic vedle debat o bezpečnosti směřuje k burzovnímu trhu a usiluje o ocenění kolem 2 bilionů dolarů. Taková hodnota by patřila k nejvyšším na technologickém trhu, přestože firma podle původních informací nemůže zatím počítat se ziskem.
Rozpor mezi voláním po omezení tempa vývoje a snahou získat mimořádně vysoké tržní ocenění ukazuje, že bezpečnostní diskuse má i významný finanční rozměr. Regulace může určovat náklady na provoz AI modelů, podmínky jejich nasazování i pozici jednotlivých hráčů na trhu. Pro investory proto nejde jen o technologickou debatu, ale také o otázku budoucí hodnoty firem, které na umělé inteligenci stavějí své podnikání.
