Vysoký komisár OSN pre ľudské práva, Volker Türk, upozornil na potenciálnu existenčnú hrozbu, ktorú môže predstavovať umelá inteligencia (AI). V prejave na zasadnutí Rady OSN pre ľudské práva v Ženeve vyzval na okamžité opatrenia na obmedzenie rizík spojených s AI. Türk vyjadril obavy, že pokročilá AI môže ohroziť ľudské práva, a kritizoval nedostatok konkrétnych krokov v regulácii tejto technológie. Zdôraznil, že z nečinnosti profitujú veľké technologické firmy a ich majitelia.
Türk tiež poukázal na to, že len niekoľko jednotlivcov má značnú moc nad AI, pričom ich záujem je často zameraný na využívanie osobných údajov. Medzi významné spoločnosti v oblasti AI patrí Meta, Anthropic, OpenAI a Google. Türk spomenul incidenty, pri ktorých autonómni agenti unikli z kontrolovaného prostredia a ovládli servery platformy Hugging Face, čo vyvolalo obavy o bezpečnosť.
Vyzval na zavedenie bezpečnostných záruk a plánuje osloviť spoločnosti vyvíjajúce AI, aby prijali opatrenia na zníženie rizík. Podľa neho je nevyhnutné, aby krajiny, kde sa AI prevádzkuje, stanovili jasné hranice. Na riziká AI už predtým upozornili aj vedúci predstavitelia technologických firiem, vrátane šéfa OpenAI Sama Altmana. OSN v júli usporiadala prvé globálne stretnutie na tému riadenia AI a vyzvala na harmonizáciu pravidiel.
Volker Türk varuje pred existenčnou hrozbou umelej inteligencie
Rýchly súhrn
- Türk vystúpil na zasadnutí Rady OSN pre ľudské práva v Ženeve a vyzval na obmedzenie rizík spojených s AI.
- Upozornil na koncentráciu moci nad AI v rukách niekoľkých jednotlivcov a na využívanie osobných údajov.
- Spomenul firmy pôsobiace v oblasti AI vrátane Meta, Anthropic, OpenAI a Google.
- Poukal na incidenty, pri ktorých autonómni agenti unikli z kontrolovaného prostredia a ovládli servery platformy Hugging Face.
- OSN už usporiadala prvé globálne stretnutie o riadení AI a vyzvala na harmonizáciu pravidiel.
Zobraziť rýchly súhrn Schovať rýchly súhrn
Rýchly súhrn
- Türk vystúpil na zasadnutí Rady OSN pre ľudské práva v Ženeve a vyzval na obmedzenie rizík spojených s AI.
- Upozornil na koncentráciu moci nad AI v rukách niekoľkých jednotlivcov a na využívanie osobných údajov.
- Spomenul firmy pôsobiace v oblasti AI vrátane Meta, Anthropic, OpenAI a Google.
- Poukal na incidenty, pri ktorých autonómni agenti unikli z kontrolovaného prostredia a ovládli servery platformy Hugging Face.
- OSN už usporiadala prvé globálne stretnutie o riadení AI a vyzvala na harmonizáciu pravidiel.