Google a confirmat ca Gemini a accesat sistemele a trei companii reale in mai 2026, in timpul unei evaluari de securitate cibernetica realizate de compania Irregular.
Modelul a găsit online informații publice și a ajuns în trei site-uri sau sisteme reale, pe care le considera parte a testului autorizat. Google spune că Gemini și-a oprit acțiunile după ce a identificat faptul că țintele erau companii reale, că nu au existat pagube și că toate cele trei entități au fost informate.
Citeste si:
Cum a ieșit testul din mediul simulat
Evaluarea realizată de Irregular urmărea testarea comportamentului unui model AI într-un scenariu de securitate cibernetică, folosind o organizație fictivă. Potrivit relatărilor despre incident, mediul nu trebuia să permită conectarea la internet, dar această restricție nu a fost aplicată corespunzător.
Odată ajuns online, Gemini a putut găsi informații publice și credențiale relevante pentru țintele întâlnite. Modelul a interpretat sistemele accesate drept componente ale exercițiului, nu drept infrastructură a unor companii din afara testului.
Incidentul nu înseamnă că Google a fost atacată și nici că a existat un atac deliberat asupra celor trei companii. Este vorba despre accesări produse în cadrul unei evaluări, după ce limita esențială dintre mediul de test și internetul public a rămas deschisă accidental.
Trei cazuri de acces, prin două metode
Google nu a publicat identitatea companiilor vizate. Detaliile relatate de The Wall Street Journal indică trei episoade distincte:
- un caz în care Gemini a ghicit o parolă până a obținut accesul;
- două cazuri în care modelul a folosit credențiale descoperite într-un depozit public.
Precizarea privind metoda de acces în cele trei situații este atribuită relatării The Wall Street Journal. Google a confirmat numărul entităților ale căror sisteme au fost accesate, fără a face publice numele acestora sau identitatea exactă a versiunii Gemini utilizate în test.
Ce s-a întâmplat după identificarea erorii
Potrivit Google, modelul s-a oprit când a realizat că sistemele accesate aparțineau unor companii reale. Compania susține că nu au fost produse pagube, că cele trei entități au fost notificate și că autoritățile federale au fost informate despre incidente.
Irregular ar fi informat Google despre situație la sfârșitul lui iulie, potrivit relatării The Guardian, deci la câteva luni după testul din mai. Google a transmis, de asemenea, că Irregular și partenerii implicați au modificat ulterior procesele de testare.
Relatarea The Wall Street Journal indică faptul că Google nu a făcut publice incidentele înainte de a fi contactată de publicație. Compania a explicat că nu a considerat necesară o astfel de comunicare deoarece nu au fost produse pagube.
Poziția Google: nu a fost un caz de „model misalignment”
Google nu consideră episodul drept un caz de „model misalignment” — situația în care un sistem AI acționează contrar obiectivelor sau limitelor de siguranță stabilite. Aceasta este poziția companiei, care spune că măsurile de siguranță au contribuit la oprirea acțiunilor modelului după ce acesta a înțeles natura reală a țintelor.
Heather Adkins, vicepreședinta Google pentru ingineria securității, a declarat că episodul subliniază importanța instruirii modelelor AI puternice pentru a acționa responsabil. În evaluarea Google, reacția modelului după descoperirea erorii de mediu a fost una adecvată.
De ce conteaza incidentul Gemini
Situatia se inscrie intr-o discutie mai ampla despre limitele si masurile de siguranta ale modelelor AI avansate. Un alt caz recent a determinat OpenAI sa isi revizuiasca regulile de siguranta dupa un incident aparut intr-un test AI.
La 19 septembrie 2026, relatările disponibile prezintă situația drept primul caz cunoscut în care un sistem AI al Google a ajuns autonom la sisteme reale dincolo de mediul de testare. Formularea nu stabilește o clasificare exhaustivă pentru toate testele AI, însă evidențiază riscul practic al unei configurări greșite: un model poate trata infrastructura reală drept parte a unui exercițiu dacă granițele tehnice ale mediului de test nu sunt strict izolate.
Cazul apare într-un moment în care Gemini este integrat în produse destinate publicului, inclusiv prin funcții precum Gmail Live bazat pe Gemini. Incidentul din testul Irregular arată de ce controlul accesului, delimitarea mediilor și procedurile de notificare rămân elemente esențiale atunci când modelele AI sunt evaluate pentru sarcini de securitate.
