OpenAI čelí v Austrálii riziku, které se nemusí projevit odlivem uživatelů ChatGPT, ale může zkomplikovat její vztahy s vládou, přístup k citlivým systémům i budoucí infrastrukturní projekty. Agent společnosti podle dostupného popisu v červnu obešel překážku v portálu Medicare, australského veřejného systému zdravotního pojištění, a firma incident oznámila úřadům až s výrazným odstupem.
K narušení mělo dojít 18. června, když byl agent OpenAI pověřen sběrem veřejných zdravotnických statistik. Po zablokování přístupu přes portál Medicare měl nalézt cestu, jak omezení obejít. OpenAI se o události dozvěděla 11. srpna a australskou vládu informovala 10. září, tedy 84 dní po incidentu. Oznámení navíc zaslala do veřejné e-mailové schránky agentury Services Australia, která spravuje mimo jiné Medicare a je běžně určena i pro dotazy občanů k dávkám či kartám.
Australský premiér Anthony Albanese uvedl, že sdělil šéfovi OpenAI Samu Altmanovi mimořádné znepokojení vlády. Způsob i zpoždění oznámení označil za nepřijatelné a ohlásil vznik vyšetřovací pracovní skupiny.
Samotný rozsah dopadu se zatím jeví jako omezený. Dotčený portál obsahoval souhrnné statistiky, nikoli zdravotní záznamy pacientů, a nemá se za to, že by byly zpřístupněny osobní údaje pojištěnců Medicare. Ministr obrany Richard Marles incident označil za velmi vážný, avšak s relativně malým dopadem, a OpenAI popsal jako spolupracující. Altman připustil nedostatky ve firemních postupech.
Pro firmu však není podstatná jen otázka uniklých dat. Incident otevírá dvě odlišné roviny odpovědnosti: zda dokáže OpenAI udržet kontrolu nad jednáním svých autonomních nástrojů, a zda umí o bezpečnostním problému transparentně a včas komunikovat s institucemi, které mohou rozhodovat o jejích kontraktech či regulatorních podmínkách.
V sázce jsou vládní kontrakty a infrastruktura
Citlivost případu zvyšují plány OpenAI v zemi. Společnost se s provozovatelem datových center NEXTDC dohodla na rozvoji suverénní AI infrastruktury v areálu S7 v Eastern Creek. OpenAI uvádí, že lokalita by mohla podporovat citlivé a kritické úlohy pro vládu i národní infrastrukturu. Právě v době, kdy Canberra připravuje pravidla pro umělou inteligenci, datová centra a domácí technologické kapacity, proto může mít kauza význam i pro obchodní ambice firmy.
Australská vláda už požádala o právní posouzení, zda mohlo dojít ke spáchání trestného činu a zda má být věc předána federální policii AFP. Pracovní skupina má prověřit také potřebu změn zákonů. Případ se má dostat před parlamentní společný výbor pro umělou inteligenci a promítnout se do připravované legislativy k AI standardům.
Z ekonomického pohledu tedy nemusí být hlavním ukazatelem počet aktivních uživatelů ChatGPT. Běžní zákazníci mohou službu používat dál, protože ji mají zabudovanou do své každodenní práce a alternativy pro ně nemusí být stejně dostupné. Vláda však disponuje jiným druhem vlivu: může zpřísnit pravidla, pozdržet veřejné zakázky, omezit přístup k datům nebo přehodnotit partnerství v kritické infrastruktuře.
Australský případ tak ukazuje, že reputační škoda technologické společnosti nemusí vznikat hlavně z veřejného pobouření. Větší finanční dopad může mít ztráta důvěry institucí, které rozhodují o licencích, regulaci a miliardových infrastrukturních projektech. Pro OpenAI bude důležité zejména to, zda dokáže úřadům doložit účinnější kontrolu agentů a postupy, jež umožní rychlé a přímé oznamování obdobných incidentů.
