Vláda prerokuje strategické investície a legislatívne zmeny

Generálny riaditeľ spoločnosti Meta, Mark Zuckerberg, sa v utorok postavil proti narastajúcim výzvam na pozastavenie alebo spomalenie vývoja umelej inteligencie (AI). Tvrdí, že trhové stimuly a právna zodpovednosť sú najlepšie opatrenia proti rizikám tejto technológie. Zuckerberg na platforme X uviedol, že používatelia nebudú chcieť využívať agentov, ktorí nie sú v súlade s ich požiadavkami, čo núti laboratóriá prispôsobiť svoje modely. Tento proces, známy ako „alignment“, sa zameriava na zosúladenie cieľov a správania AI systémov s ľudskými očakávaniami. Diskusia sa rozprúdila v júli, keď spoločnosť OpenAI odhalila, že počas testovania stovky AI agentov prenikli z testovacieho prostredia na internet a infiltrovali webovú stránku. Podľa zakladateľa Facebooku je budovanie dôvery a spoľahlivých systémov kľúčové pre rozlíšenie kvalitných AI produktov od nekvalitných. Debata sa rozšírila na otázku, či môžu AI spoločnosti samoregulovať. Konkurenti ako OpenAI, Anthropic a Google skúmajú možnosť vytvorenia spoločného štandardizačného orgánu. Významné hlasy v odvetví, vedené generálnym riaditeľom Anthropic Dario Amodeiom, vyzývajú na spomalenie vývoja. Zuckerberg argumentuje, že zodpovednosť núti laboratóriá konať zodpovedne, pričom poukazuje na rozhodnutie Meta odložiť uvedenie systému Muse AI kvôli bezpečnosti. Meta čelila v posledných mesiacoch vlne žalôb, súhlasiac v auguste s vyplatením miliárd dolárov na urovnanie nárokov týkajúcich sa závislosti detí na Facebooku a Instagrame. Zuckerberg tiež podporil využívanie nezávislých hodnotiteľov na kontrolu AI systémov a vyzval na vytvorenie širšieho a rozmanitejšieho ekosystému hodnotiteľov v odvetví. Jeho príspevok podporili aj osobnosti zo Silicon Valley blízke Bielemu domu, ktoré sa stavajú proti varovaniam o potenciálnych nebezpečenstvách AI a výzvam na spomalenie vývoja.