Anthropic zamedzil zneužitiu AI na kybernetické útoky a biologický výskum
Rýchly súhrn
- Anthropic zablokoval pokusy o zneužitie modelov Claude na kybernetické útoky a ďalšie škodlivé aktivity.
- Medzi zneužitiami boli aj snahy o biologický výskum, ktorý by mohol viesť k vývoju biologických zbraní.
- Firma uvádza časový rámec zistení od decembra 2025 do augusta 2026 a zapojenie predajcov špionážneho softvéru aj štátom podporovaných skupín.
- Správa spomína využívanie AI vládami na sledovanie etnických menšín a disidentov (Čína, Irán, západná Afrika).
- Ruské štátne médiá mali používať AI na tvorbu propagandy prezentovanej ako nezávislé spravodajstvo.
Zobraziť rýchly súhrn Schovať rýchly súhrn
Rýchly súhrn
- Anthropic zablokoval pokusy o zneužitie modelov Claude na kybernetické útoky a ďalšie škodlivé aktivity.
- Medzi zneužitiami boli aj snahy o biologický výskum, ktorý by mohol viesť k vývoju biologických zbraní.
- Firma uvádza časový rámec zistení od decembra 2025 do augusta 2026 a zapojenie predajcov špionážneho softvéru aj štátom podporovaných skupín.
- Správa spomína využívanie AI vládami na sledovanie etnických menšín a disidentov (Čína, Irán, západná Afrika).
- Ruské štátne médiá mali používať AI na tvorbu propagandy prezentovanej ako nezávislé spravodajstvo.