Zamestnanci často využívajú nástroje umelej inteligencie (AI) bez dozoru IT oddelení, čo predstavuje významné bezpečnostné riziko. Do verejných AI služieb sú vkladané zákaznícke údaje, interné dokumenty, zdrojové kódy a citlivé obchodné informácie, upozorňuje Matúš Mihok, penetračný tester a riaditeľ spoločnosti Remediata. Správa spoločnosti LayerX odhaľuje, že takmer polovica podnikových AI konverzácií prebieha cez osobné účty namiesto firemných identít. Viac ako šesť percent týchto interakcií obsahuje citlivé firemné údaje a 22 percent obsahu zahŕňa údaje o platobných kartách alebo osobné údaje. Mihok zdôrazňuje, že umelá inteligencia predstavuje nový vektor útoku a firmy by mali venovať rovnakú pozornosť jej bezpečnosti ako bezpečnosti aplikácií, cloudových služieb či infraštruktúry. Penetrační testeri často nachádzajú zraniteľnosti pri použití AI v generovaní kódu a overujú ochranu údajov pri práci s AI, vrátane testovania AI aplikácií a chatbotov.