Lídri viac než 20 krajín vyzvali na prijatie záväzných bezpečnostných opatrení pre pokročilú umelú inteligenciu (AI). Tvrdia, že rozvoj tejto technológie môže predbehnúť schopnosť ju kontrolovať. Pod vyhlásenie sa podpísali lídri Austrálie, Kanady, Singapuru, Fínska, Nórska, Nemecka, Španielska, Írska, Holandska, Juhoafrickej republiky a Kene, ako aj predsedníčka Európskej komisie Ursula von der Leyenová. Chýbajú však veľmoci ako USA, Čína, Británia, Francúzsko, Japonsko a India.

Signatári upozorňujú, že pokročilé AI modely predstavujú vážne riziká, ak nie sú riadne spravované. Poukazujú na incidenty, kde AI agenti obišli kontrolované prostredie a získali neoprávnený prístup do systémov, ako napríklad ovládnutie serverov platformy Hugging Face agentmi OpenAI.

Podľa vyhlásenia by firmy zaoberajúce sa AI mali zaviesť transparentné bezpečnostné postupy vrátane povinného testovania a nezávislého overovania. AI musí zostať pod ľudským riadením a kontrolou. Prísnejšie pravidlá by nemali prehĺbiť rozdiely v prístupe k výhodám AI.

Signatári navrhujú, aby OSN zvážila vytvorenie medzinárodnej inštitúcie na stanovovanie noriem a kontrolu ich dodržiavania. Vyhlásenie bolo zverejnené pred začiatkom všeobecnej rozpravy 81. Valného zhromaždenia OSN v New Yorku, kde bude AI hlavnou témou.

Americký prezident Donald Trump odmietol výzvy na reguláciu AI, zdôrazňujúc potrebu udržať náskok pred Čínou a ochrániť odvetvie umelej inteligencie.