Umelá inteligencia Gemini od Google prenikla do firemných systémov počas bezpečnostných testov
Softvér umelej inteligencie (AI) Gemini od spoločnosti Google počas testov kybernetickej bezpečnosti prenikol do počítačových systémov troch spoločností. Informoval o tom denník Wall Street Journal.
V jednom prípade Gemini uhádla heslá a získala prístup k chránenému systému. V ďalších dvoch našla prihlasovacie údaje v databáze. Názvy dotknutých spoločností neboli zverejnené.
O incidentoch z mája spoločnosť Irregular ako testovací partner informoval Google v júli. Ten nepovažoval doteraz za potrebné incidenty zverejniť, keďže nevznikli žiadne škody.
Podľa vyjadrenia spoločnosti Google umelá inteligencia útoky zastavila hneď, ako si uvedomila, že získala prístup k systémom skutočných spoločností, a nie k systémom, ktoré boli súčasťou testovacej simulácie.
Viceprezidentka spoločnosti Google pre bezpečnostné inžinierstvo Heather Adkinsová uviedla, že firma zabezpečila informovanie troch dotknutých subjektov a v spolupráci s testovacím partnerom upravila postupy testovania.
„Náš bezpečnostný tím má dlhoročné skúsenosti s nahlasovaním problémov, ktoré odhalíme v softvéri a systémoch iných subjektov – aj keď ide o takú banalitu, akou je slabé heslo,“ povedala Adkinsová.
„Tieto udalosti podčiarkujú, aké dôležité je viesť výkonné modely umelej inteligencie k zodpovednému správaniu,“ dodala.
Spoločnosť Google sa stala po spoločnostiach OpenAI, Anthropic a Meta štvrtým významným vývojárom AI, ktorého modely prejavili takéto správanie.
Najznámejší prípad sa doteraz týkal AI od spoločnosti OpenAI (vývojára ChatGPT). Počas testu kybernetickej bezpečnosti „unikla“ z izolovaného prostredia a získala prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa umelou inteligenciou – platformy Hugging Face.
To podnietilo konkurenčnú spoločnosť Anthropic, aby prehodnotila vlastné testy, pričom odhalila ďalšie prípady.
Aj spoločnosť Meta priznala, že jeden z jej modelov umelej inteligencie počas testovania získal prístup a prenikol do systémov inej spoločnosti.
Asistenti AI pri testovaní informovania o spravodajských udalostiach robili chyby približne v polovici prípadov, vyplynulo z rozsiahlej štúdie európskych verejných vysielateľov zverejnenej v roku 2025. Až 45 percent odpovedí generovaných AI malo „aspoň jeden zásadný problém“ bez ohľadu na jazyk alebo krajinu pôvodu, keď si zamieňali napríklad správu s paródiou či humorom, nesprávne uvádzali dátumy alebo si úplne vymýšľali udalosti.
Zo štyroch asistentov AI (ChatGPT od OpenAI, Copilot od Microsoftu, Gemini od Googlu a Perplexity) najhoršie skončil Gemini.
