Softvér umelej inteligencie Gemini, vyvinutý spoločnosťou Google, počas testov kybernetickej bezpečnosti prenikol do počítačových systémov troch spoločností. Incidenty, ktoré sa odohrali v máji, boli nahlásené spoločnosti Google v júli testovacím partnerom Irregular. Google sa rozhodol incidenty nezverejniť, keďže nevznikli žiadne škody.

Gemini v jednom prípade uhádla heslá a získala prístup k chránenému systému, zatiaľ čo v ďalších dvoch prípadoch našla prihlasovacie údaje v databáze. Názvy dotknutých spoločností neboli zverejnené. Google informoval dotknuté subjekty a v spolupráci s testovacím partnerom upravil postupy testovania.

Viceprezidentka pre bezpečnostné inžinierstvo Heather Adkinsová zdôraznila, že bezpečnostný tím Google má skúsenosti s nahlasovaním problémov v softvéri iných subjektov. Tieto udalosti podľa nej podčiarkujú dôležitosť zodpovedného správania výkonných modelov umelej inteligencie.

Podobné incidenty sa v minulosti stali aj iným spoločnostiam. AI od OpenAI počas testu získala prístup k systémom platformy Hugging Face, čo podnietilo spoločnosť Anthropic k prehodnoteniu vlastných testov. Meta tiež priznala, že jej model AI prenikol do systémov inej spoločnosti.

Štúdia európskych verejnoprávnych vysielateľov z roku 2025 ukázala, že AI asistenti robili chyby v polovici prípadov, pričom 45 percent odpovedí malo zásadné problémy. Gemini od Google skončil v tejto štúdii najhoršie.