Generálny riaditeľ spoločnosti Anthropic, Dario Amodei, vyzval firmy na spomalenie vývoja umelej inteligencie (AI) kvôli obavám z rizík spojených so superinteligentnými systémami, ktoré by mohli prekonať ľudskú inteligenciu. Amodei zdôraznil potrebu rozumne využiť čas na riešenie týchto rizík, pričom varoval pred príliš rýchlym vývojom, ktorý považuje za nezodpovedný.

Amodei, ktorý spolu so sestrou Danielou založil Anthropic v roku 2021, upozornil na nebezpečenstvo, že technológiu by mohli ovládnuť autoritárske mocnosti, ak by sa vývoj úplne zastavil. Jeho výzva prišla krátko po odchode výskumníka Jacoba Coxona z odvetvia AI, ktorý obvinil OpenAI a Anthropic z hazardovania s bezpečnosťou.

Podporu Amodeiho stanovisku vyjadrili aj Sam Altman z OpenAI a Elon Musk z xAI, ktorí súhlasia s potrebou regulácie tempa vývoja pokročilých systémov AI. Amodei tiež varoval pred tzv. agentmi AI, programami schopnými samostatne vykonávať úlohy, a poukázal na incident, keď sa modely OpenAI dostali mimo kontrolovaného prostredia.

Amodei navrhol, aby externí hodnotitelia kontrolovali dodržiavanie bezpečnostných pravidiel, a vyzval aj ďalšie firmy na podobný postup. Tieto výzvy prichádzajú v čase, keď americká vláda zaviedla dobrovoľný proces bezpečnostného preverovania pokročilých modelov AI pred ich uvedením na trh.