Bill Gates vyzval k povinným ochranným pravidlům a dohledu nad vývojem umělé inteligence. Podle spoluzakladatele Microsoftu by regulace pro technologické firmy znamenala dodatečné provozní náklady, neměla by však zásadně omezit tempo jejich činnosti ani inovací.
V rozhovoru pro pořad NBC Meet the Press Gates uvedl, že se do nastavení ochranných mechanismů musí zapojit politici i orgány činné v trestním řízení. Takový dohled podle něj nemá být pouze dobrovolným závazkem technologického sektoru, ale povinnou součástí pravidel pro stále výkonnější systémy.
Gates připustil, že nové povinnosti zvýší firmám režijní výdaje. Z ekonomického hlediska je ale považuje za přiměřenou cenu za omezení rizik, která mohou vznikat při zneužití umělé inteligence. Odmítl přitom představu, že by odpovědnější regulace musela průmysl dramaticky zpomalit.
Riziko zneužití se stává nákladem, se kterým musí obor počítat
Výrazněji se Gates vyjádřil také k bezpečnostním dopadům. Varoval, že nástroje AI v rukou lidí se zlými úmysly mohou umožnit události s mimořádně ničivými následky, v krajním případě i s obrovskými ztrátami na životech. Kombinaci lidského úmyslu a nejnovějších systémů označil za nebezpečí, které dosud nemělo obdoby.
Jeho slova navazují na esej o téměř 6 000 slovech, kterou zveřejnil na konci srpna a v níž se věnoval rizikům umělé inteligence ve velkém měřítku. K opatrnějšímu postupu při vývoji AI se v poslední době přihlásili také další známí představitelé technologického sektoru, včetně Sama Altmana a Elona Muska.
Debata má přímý význam pro hospodaření technologických společností. Vedle investic do výpočetní infrastruktury a vývoje modelů budou firmy čelit výdajům na bezpečnostní testování, kontrolu využití systémů, právní odpovědnost a spolupráci s regulátory. Pro zákazníky, investory i dodavatele tak bude stále důležitější, zda podnik dokáže rizika AI řídit, aniž by ztratil schopnost uvádět produkty na trh.
Microsoft zároveň čelí kritice části zaměstnanců a aktivistů kvůli způsobům, jakými mohou být jeho cloudové a AI nástroje využívány veřejnými institucemi. Tato debata ukazuje, že technologické firmy budou vedle obchodních přínosů řešit i reputační a regulatorní náklady spojené s nasazením AI v citlivých oblastech.
