Zakladatel Microsoftu Bill Gates varoval ve Spojených státech, že prosadit celosvětový rámec pro rozvoj a kontrolu umělé inteligence může být obtížnější než dohody o omezení jaderných zbraní z období studené války. Debata přichází v době, kdy americká administrativa Donalda Trumpa klade důraz především na udržení technologického náskoku před Čínou a odmítá kroky, které by podle ní mohly domácí firmy zpomalit.
Gates v nedělním rozhovoru pro pořad Meet the Press stanice NBC uvedl, že by o tématu chtěl jednat přímo s prezidentem Trumpem. Podle něj systémy dohledu nad společnostmi vyvíjejícími AI automaticky neoslabí postavení Spojených států v technologickém soupeření s Čínou. Naopak očekává, že po diskusi s odborníky lze dospět ke shodě, že základní pojistky nejsou překážkou inovací.
Americký prezident zastává jiný přístup. Opakovaně zdůraznil, že vítězství v rozvoji AI bude rozhodující, a vyjádřil obavu, že nová omezení mohou dát Číně příležitost Spojené státy předstihnout. Ve vystoupení pro Fox News uvedl, že USA mají před Čínou náskok zhruba rok a půl. Rozvoj umělé inteligence označuje za významný zdroj nynějšího hospodářského růstu země.
Regulace jako náklad i ochrana trhu
Pro firmy v oboru představuje spor hlavně nejistotu ohledně budoucích pravidel. Přísnější dohled by mohl přinést náklady na testování, dokumentaci a bezpečnostní postupy, zároveň by ale mohl stanovit předvídatelnější podmínky pro investice a používání stále výkonnějších systémů. Gates argumentuje, že Spojené státy už v minulosti pomáhaly vytvářet mezinárodní dohody v oblastech, jako jsou bezpečnost letectví, ochrana ozonové vrstvy nebo jaderné zbraně.
Podle Gatese je nyní nutné vrátit se k principu, že riziko spojené s AI se týká celé lidstva. Upozornil, že technologie je dostatečně silná na to, aby vedla k událostem s obrovským počtem obětí, zejména pokud by ji využili lidé se zlým úmyslem. Za mimořádně nebezpečnou považuje kombinaci takových aktérů a nejnovějších nástrojů umělé inteligence.
Podobné požadavky na nové mantinely zaznívají také od části technologického sektoru. K regulaci vyzývá například Dario Amodei, spoluzakladatel společnosti Anthropic vyvíjející AI systémy. Bývalý výzkumník Anthropic Jacob Coxon v září varoval, že AI by mohla do konce desetiletí ohrozit samotné lidstvo; šéf výzkumu souladu systémů AI ve firmě Evan Hubinger hovořil o více než desetiprocentním riziku takového vývoje během příštích deseti let.
Trump potvrdil, že se má v neděli večer sejít s generálním ředitelem Anthropicu. Tlak na zpomalení vývoje nejvyspělejších modelů mezitím přichází i od představitelů konkurenčních skupin OpenAI, Google DeepMind, Microsoft a xAI. Výsledek americké debaty tak může ovlivnit nejen tempo investic a vývoj produktů, ale i to, zda se pro globální trh podaří vytvořit společná pravidla bezpečnosti.
