Kráľ Karol III. upozornil technologických gigantov na 'existenciálne nebezpečenstvá' spojené s umelou inteligenciou, ak sa dostane do nesprávnych rúk. Na konferencii v Škótsku, ktorá sa konala v Dumfries House, sa zúčastnili zástupcovia spoločností Nvidia, Google DeepMind, OpenAI, Anthropic a britský minister pre umelú inteligenciu.

Diskusia o rizikách tejto technológie sa v posledných mesiacoch zintenzívnila, podnietená viacerými incidentmi a varovaniami od odborníkov z odvetvia. 'Je naliehavé zvážiť existenciálne nebezpečenstvá, ak sa tieto technológie dostanú do nesprávnych rúk a budú použité katastrofálnym spôsobom,' povedal Karol na úvod konferencie.

Britský monarcha vyzval technologických lídrov, aby zabezpečili, že technológia zostane v službách ľudstva, komunity a prírody. Medzi hosťami boli predseda DeepMind Demis Hassabis, šéf amerického giganta Nvidia Jensen Huang a finančná riaditeľka OpenAI Sarah Friar. Zúčastnili sa aj poradca Vatikánu pre AI Paolo Benanti a izraelský autor Yuval Noah Harari.

Buckingham Palace očakáva, že konferencia odštartuje proces vytvárania spoločných princípov pre vývoj a používanie AI. Kráľ, ktorý sa diskusií nezúčastnil, vyzval účastníkov, aby sa zamerali na bezpečnosť a medzinárodnú spoluprácu, aby 'žiadny národ nezostal pozadu'.

Konferencia sa konala súčasne s tvrdeniami brata zosnulej princeznej Diany, že Karol konal necitlivo po jej smrti. Buckingham Palace reagoval na tvrdenia Charlesa Spencera, že Karol povedal 'čoskoro na ňu zabudneme' po jej smrti v roku 1997.

Rýchly rozvoj AI vyvolal obavy z možných strát pracovných miest, ako aj z rastúceho dopytu po energii a environmentálnych dopadov dátových centier. Obavy z toho, že dizajnéri AI môžu stratiť kontrolu nad svojimi výtvormi, sa zvýšili po správach, že niektoré modely OpenAI a Anthropic sa samostatne dostali na internet a narušili webové stránky.

'Pravdepodobnosť, že sa niečo zlé stane, ak urobíme chybu, nie je nulová,' varoval Hassabis z DeepMind. Jensen Huang z Nvidie zdôraznil výhody AI vo výskume a medicíne a jej potenciál vytvárať pracovné miesta v nových odvetviach.

James Arroyo z Ditchley Foundation, ktorá organizovala stretnutia, uviedol, že dúfajú v pokračovanie užitočných výmen názorov. CEO Anthropic Dario Amodei vyzval na spomalenie vývoja AI, čo podporili aj CEO OpenAI Sam Altman a Elon Musk. Naopak, americký prezident Donald Trump a niektorí členovia jeho vlády vyjadrili odhodlanie neobmedzovať sektor, aby Čína nezískala výhodu. Mark Zuckerberg z Meta odmietol výzvy na spomalenie vývoja, argumentujúc, že trhové sily a riziko súdnych sporov sú najlepšie záruky.