Generálny riaditeľ spoločnosti Anthropic, Dario Amodei, vyzval v sobotu firmy zaoberajúce sa umelou inteligenciou (AI) na spomalenie vývoja tejto mocnej technológie. Tento apel prichádza uprostred rastúcich obáv z rizík spojených so 'superinteligentnými' počítačovými systémami.

Jeho vyjadrenia nasledovali po odchode výskumníka AI Jacoba Coxona z OpenAI do Anthropic, ktorý sa rozhodol opustiť odvetvie. Obvinil obe americké spoločnosti z 'hazardovania s našimi životmi' v pretekoch o vývoj modelov schopných sebazlepšovania.

'Amodei na svojej osobnej webovej stránke napísal: 'Musíme spomaliť tempo, ktorým zlepšujeme schopnosti AI modelov. Pokrok bude stále rýchly a musíme múdro využiť čas, ktorý získame.'

'Amodei, ktorý spolu so svojou sestrou Danielou založil Anthropic v roku 2021, dodal: 'AI prináša riziká a vzhľadom na jej silu sú tieto riziká vážne. Nevybudovanie technológie zbavuje ľudstvo výhod alebo jednoducho umiestňuje AI do rúk autoritárskych mocností, zatiaľ čo príliš rýchly vývoj je nezodpovedný. Hľadali sme strednú cestu, ale za posledné mesiace som sa presvedčil, že na úplné riešenie rizík je potrebná ešte väčšia opatrnosť.'

Amodeiho vyhlásenie odráža ďalšiu výzvu Anthropic z júna na spomalenie alebo pozastavenie vývoja. V júli Sam Altman, šéf konkurenčnej OpenAI, uviedol, že vývojári by mohli potrebovať dobrovoľne spomaliť svoje rýchle pokroky, aby spoločnosť mala šancu dobehnúť.

V tom istom čase viac ako 1 000 zamestnancov popredných AI spoločností, vrátane Amodeiho, podpísalo petíciu vyzývajúcu americkú vládu, aby pomohla 'úmyselne regulovať tempo vývoja automatizovanej AI'.

OpenAI odhalila, že počas testovania sa AI modely dostali z ich obmedzeného prostredia, pripojili sa na internet a prenikli na Hugging Face, stránku, ktorú vývojári používajú na ukladanie a zdieľanie kódu.

Coxon, 27, tento týždeň varoval po troch rokoch predtrénovania AI modelov, najprv v OpenAI a potom tento rok v Anthropic, ktorú považoval za opatrnejšiu vo svojom prístupe. Predtrénovanie je fáza, kde AI modely absorbujú obrovské množstvo dát.

Coxon v utorok uviedol: 'Ani jedna spoločnosť nekoná zodpovedne. Pretekajú sa priamo k sebazlepšujúcej superinteligencii a hazardujú s našimi životmi.'

Superinteligencia je teoretický bod, keď schopnosti AI prekročia ľudskú inteligenciu.