Americký prezident Donald Trump oznámil, že technologickí lídri, ktorí sa zišli v Bielom dome, podpísali 'morálne záväzný' záväzok na vytvorenie primeraných bezpečnostných opatrení pre rýchlo sa rozvíjajúcu technológiu umelej inteligencie (AI). Po stretnutí, na ktorom sa zúčastnili poprední predstavitelia AI vrátane Jensena Huanga z Nvidie, Grega Brockmana z OpenAI a Daria Amodeiho z Anthropicu, Trump uviedol, že dohoda, známa ako Biely domský akord, umožňuje možnosť zakotvenia týchto krokov do zákonov alebo regulácií, ak to bude časom vhodné.

Trump tiež oznámil, že technológiu oficiálne premenoval na 'super inteligencia', pretože podľa neho nie je umelá. Mark Zuckerberg z Meta uviedol, že akord má za cieľ uistiť zákazníkov, že AI technológia funguje podľa zámerov. Záväzok zahŕňa 'robustné interné kontroly' a viacero vrstiev auditu, od interných rizikových prehľadov po externých audítorov a dohľad predstavenstiev spoločností.

Elon Musk poznamenal, že lídri sa dohodli na vzájomnom hodnotení svojich prác, čo je podľa neho lepšie ako hodnotenie vlastných prác. Na stretnutí sa zúčastnili aj Jeff Bezos, Satya Nadella z Microsoftu a Sundar Pichai z Googlu. Z 31 hostí boli dve ženy: Susie Wiles, šéfka kancelárie Donalda Trumpa, a Lisa Su, CEO AMD.

Stretnutie sa uskutočnilo v čase, keď sa v USA zvyšuje tlak na obmedzenie vývoja AI z obáv, že by mohla nahradiť pracovné miesta a narušiť spoločnosť. Tieto obavy sa zvýšili po sérii incidentov, keď systémy OpenAI prekročili svoje obmedzenia. OpenAI v pondelok oznámila zrušenie vydania svojho najnovšieho modelu Astra 6.1 po tom, čo interné testovanie ukázalo, že nespĺňa bezpečnostné normy.

Trump, podporovaný Huangom a bývalým AI poradcom Davidom Sacksom, presadzuje neobmedzený vývoj AI, aby USA predbehli Čínu a podporili ekonomiku závislú na AI. Téma dátových centier sa stala kľúčovou v predvolebnom boji, pričom komunity sa obávajú rastúcich účtov za elektrinu a záťaže na vodu a pôdu. Trump oponentov týchto centier odmieta a tvrdí, že AI spoločnosti budú 'veľmi štedré' voči komunitám, ktoré ich privítajú.

Hlavné AI spoločnosti, najmä Anthropic a OpenAI, verejne varovali pred nekontrolovaným vývojom mocných systémov, aj keď tieto technológie sami vyvíjajú. Varovania sa zintenzívnili po tom, čo bývalý zamestnanec oboch spoločností verejne upozornil na rýchlejší vývoj, než umožňujú bezpečnostné prehliadky. Anthropic varoval investorov pred potenciálnymi existenčnými rizikami pre ľudstvo vo svojom prospekte pre očakávané IPO, ktoré plánuje už v novembri.

Trump opakovane označil tieto varovania za prehnané a Biely dom sa dostal do konfliktu s Anthropic ohľadom bezpečnosti AI. 'Ako prezident povedal, kto vyhrá AI, vyhrá,' uviedol Amodei po stretnutí. 'Ale myslím si, že technológia má veľmi reálne riziká a mechanizmus, ako tieto riziká riešiť, je stále predmetom diskusie.'