Od nedele musia byť deepfakes a iný obsah generovaný umelou inteligenciou označené, keďže v Európskej únii vstupujú do platnosti nové pravidlá transparentnosti AI. Cieľom je zabezpečiť, aby Európania okamžite vedeli, či je online obsah skutočný alebo falošný.

Nový zákon EÚ o umelej inteligencii sa zavádza postupne. Od nedele musia spoločnosti zabezpečiť, aby ich AI systémy, ako sú chatboti, jasne uvádzali, že sú AI, alebo aby bol obsah vytvorený pomocou AI označený. To sa môže dosiahnuť integráciou vodoznakov a iných markerov, ktoré umožnia ľahkú detekciu AI-generovaného obsahu. Firmy, ktoré nebudú dodržiavať tieto pravidlá, čelia vysokým pokutám.

„Generatívna AI umožňuje vytvárať dezinformácie v bezprecedentnom rozsahu, prispôsobené špecifickým publikám a šírené s pozoruhodnou rýchlosťou,“ uviedol predstaviteľ EÚ. Keďže AI „nám všetkým čoraz viac sťažuje rozlíšiť, čo je skutočné a čo syntetické“, pravidlá EÚ sa snažia „zachovať schopnosť občanov dôverovať tomu, čo vidia, počujú a čítajú“.

Osobitným problémom pre EÚ sú deepfakes – texty, obrázky, videá a zvuky, ktoré sa zdajú byť skutočné, ale sú generované alebo manipulované AI. Pravidlá sa týkajú obsahu vytvoreného na profesionálne účely, pričom EÚ zdôrazňuje, že jednotlivci používajúci AI na čisto osobné účely nebudú ovplyvnení.

Texty, ktoré majú informovať verejnosť o všeobecných záujmových otázkach, budú musieť byť tiež označené, ak sú vytvorené pomocou AI bez ľudského redakčného dohľadu. Existujúce AI systémy majú čas na prispôsobenie sa novým pravidlám do 2. decembra, pričom existujú výnimky pre „umelecké, kreatívne, satirické, fiktívne“ diela.

EÚ čelí kritike za kladenie ďalších požiadaviek na podniky, pričom pravidlá nakoniec prinútia označiť všetok obsah vzhľadom na rýchlo rastúce rozšírenie AI v Európe. „Počuli sme, že bude veľmi, veľmi ťažké to implementovať. Ale myslím si, že to často počujeme pri požiadavkách na dodržiavanie predpisov. A predsa sa svet točí a tieto veci riešime,“ povedala Ashley Casovan z Medzinárodnej asociácie odborníkov na ochranu súkromia.

Svetoví technologickí giganti už začali označovať svoj obsah v očakávaní týchto pravidiel. Napríklad TikTok už niekoľko rokov vyžaduje od tvorcov obsahu označovať AI-generované obrázky, zvuky a videá a tvrdí, že viac ako tri miliardy položiek obsahu už má označenia vďaka nástrojom a detekčnej technológii. Podobne Meta nasadila označenie „AI Info“ na Instagrame a Facebooku pre príspevky využívajúce túto technológiu.

Google podpísal kódex správania EÚ o transparentnosti AI a uvádza, že spolupracuje s ďalšími spoločnosťami ako Nvidia, OpenAI a Apple na nástrojoch digitálneho označovania. Avšak Karen Massin z Google varuje pred „regulačnou zložitosťou“, ktorá by mohla byť kontraproduktívna a „riskuje zmätok medzi ľuďmi, ktorým majú tieto pravidlá pomôcť“. „Ak je online obsah zaplavený prekrývajúcimi sa AI označeniami a právnymi vyhláseniami, stáva sa ťažšie pre ľudí získať jasný kontext, ktorý potrebujú,“ dodala Massin.