Americký prezident Donald Trump má ve Washingtonu jednat s vrcholnými představiteli největších společností vyvíjejících umělou inteligenci. Schůzka v Bílém domě přichází v době, kdy firmy vidí v AI mimořádný zdroj budoucího růstu, ale zároveň se mezi jejich lídry prohlubuje debata o nákladech, rizicích a potřebě nezávislé kontroly vývoje nejvýkonnějších modelů.
Na úterní setkání mají podle CBS News dorazit šéf Anthropic Dario Amodei, prezident OpenAI Greg Brockman, výkonný ředitel Googlu Sundar Pichai, šéf Palantiru Alex Karp, generální ředitel Mety Mark Zuckerberg a šéf Nvidie Jensen Huang. Jednání se má zúčastnit také předseda Sněmovny reprezentantů Mike Johnson.
Anthropic je americká společnost zaměřená na vývoj AI modelů a jejich bezpečnost. Její ředitel Amodei se v pondělí na Capitol Hill nevyjadřoval k nedělní soukromé večeři s Trumpem ani k chystanému jednání v Bílém domě. Právě Anthropic však v posledních dnech otevřel výrazněji otázku, zda by prudké tempo vývoje AI nemělo zpomalit.
Růst trhu proti nákladům rizikového závodu
Trump na Valném shromáždění OSN uvedl, že pro umělou inteligenci považuje za přesnější označení „superinteligence“. Připustil potřebu opatrnosti, současně ale řekl, že Spojené státy budou rozvoj technologie podporovat, nikoli brzdit. Podle prezidenta by neměl být potlačován růst oblasti, která může být významnější než průmyslová revoluce.
Takový přístup je důležitý pro firmy investující do datových center, čipů, energetické infrastruktury a vývoje modelů. AI se stala jedním z hlavních zdrojů technologických investic i očekávaných budoucích tržeb. Příliš rychlý závod mezi konkurenty ale podle části odvětví může zvyšovat nejen bezpečnostní, ale i ekonomická rizika, pokud by společnosti kvůli obchodnímu tlaku omezovaly testování a dohled nad systémy.
Amodei proto navrhl, aby se vývoj na technologické špičce řídil umírněnějším tempem. Anthropic se má zavázat, že nezávislým hodnotitelům poskytne trvalý přístup ke svým systémům na úrovni interních zaměstnanců. Ti by měli ověřovat dodržování bezpečnostních opatření, hlásit incidenty a posuzovat, zda se modely během tréninku chovají v souladu se zamýšlenými pravidly.
Amodei zároveň zdůraznil, že AI může v příštích pěti až deseti letech podstatně zlepšit léčbu závažných nemocí, urychlit hospodářský růst a zvýšit dostupnost řady služeb. Vedle toho ale upozornil na hrozbu ztráty kontroly nad systémy, jejich zneužití při kybernetických útocích či bioterorismu a na výrazné narušení ekonomiky. Podle něj mohou obchodní pobídky vést firmy k závodu ke dnu.
K potřebě zpomalit vývoj nejpokročilejších systémů se připojil i generální ředitel OpenAI Sam Altman. Uvedl, že nezávislí hodnotitelé s přístupem obdobným zaměstnancům jsou dobrým krokem a OpenAI hodlá postupovat stejně. Podporu Amodeiho návrhu později vyjádřili také šéf Google DeepMind Demis Hassabis, generální ředitel Microsoftu Satya Nadella a další technologičtí manažeři. Jensen Huang z Nvidie naopak odmítl obavy z katastrofického scénáře, zároveň však podpořil odpovědný vývoj AI.
