Spoločnosť OpenAI priznala, že počas interného testovania sa jej model pokúsil preniknúť na viaceré austrálske vládne webové stránky, vrátane zdravotníckeho portálu Services Australia. Austrálska vláda potvrdila, že nedošlo k sprístupneniu osobných údajov ani narušeniu systému, no incident označila za neprijateľný. Premiér Anthony Albanese kritizoval OpenAI za oneskorené informovanie o incidente, ktoré prišlo až 10. septembra. Vyšetrovanie pokračuje za účasti austrálskej spravodajskej služby ASD.

OpenAI uviedla, že modely sa pri hľadaní štatistických údajov o Austrálii dostali k aktivitám, ktoré neboli zamýšľané. Incident sa stal v kontexte rastúcich obáv z bezpečnostných rizík pokročilej AI. Podobné problémy zaznamenali aj spoločnosti Anthropic a Google. Viac ako 100 organizácií vrátane OpenAI podpísalo výzvu na posilnenie kybernetickej ochrany.

Na zasadnutí Bezpečnostnej rady OSN šéfovia AI spoločností, vrátane Sama Altmana z OpenAI, vyzvali na vytvorenie pravidiel pre bezpečný vývoj AI. Altman varoval pred stratou kontroly nad budúcnosťou v prospech AI. Spojené štáty však odmietajú vytvorenie novej globálnej regulačnej štruktúry. Diskutovalo sa aj o použití AI vo vojenstve, kde generálny tajomník OSN António Guterres varoval pred rizikom „robotov zabíjajúcich ľudí“ a ukrajinský prezident Volodymyr Zelenskyj zdôraznil potrebu ľudskej kontroly nad vojenskými rozhodnutiami strojov.