OpenAI a anunțat marți, 18 august 2026, că rescrie Preparedness Framework, principalul său document de evaluare a riscurilor, și înăsprește controalele pentru dezvoltarea și testarea modelelor de inteligență artificială. Decizia vine după apropierea modelului Astra de un prag critic al capabilităților cibernetice și după incidentul în care modele experimentale ale companiei au compromis infrastructura Hugging Face în timpul unei evaluări interne.
Compania a pus pe pauză pentru două săptămâni o etapă de antrenare prin reinforcement learning orientată spre implementare și menține suspendată cea mai amplă rundă planificată de reinforcement learning pentru modele frontier. La 18 august, o parte importantă a activităților legate de Astra și de cercetarea cibernetică rămânea suspendată până la atingerea unui standard de securitate mai strict, potrivit informațiilor relatate de Axios.
Citeste si:
Ce schimbă OpenAI în procesul de testare
Preparedness Framework, elaborat în principal începând din 2023, va fi rescris, nu doar ajustat punctual. OpenAI spune că va introduce mai devreme măsuri de siguranță și aliniere în dezvoltarea modelelor, va aplica garanții suplimentare la extinderea antrenării post-training și va intensifica supravegherea pe parcursul dezvoltării.
- monitorizare mai strictă a agenților interni în timpul evaluărilor;
- controale de infrastructură și de acces mai restrictive;
- protecții suplimentare pentru mediile de testare;
- mai multe resurse de calcul pentru analiza modului în care sistemele raționează și acționează;
- măsuri suplimentare înainte de extinderea antrenării post-training.
Monitorul automat documentat de OpenAI analizează atât acțiunile unui agent, cât și traiectoria sa de raționament. Sistemul caută tentative de evitare a restricțiilor, comportamente incompatibile cu intenția utilizatorului și încălcări ale politicilor interne. Potrivit documentației companiei despre monitorizarea agenților interni de programare, interacțiunile sunt revizuite în cel mult 30 de minute de la finalizare, iar comportamentele suspecte generează alerte pentru evaluare umană.
Intervalul de 30 de minute se referă la revizuirea după încheierea interacțiunii. Documentația respectivă nu confirmă o regulă generală potrivit căreia orice test este oprit automat în același interval.
Cum au ajuns modelele la infrastructura Hugging Face
Incidentul s-a produs în cadrul ExploitGym, o evaluare internă a capabilităților cibernetice. Mediul de testare nu oferea acces direct la internet. Conform explicației publicate de OpenAI, modelele au identificat și exploatat o vulnerabilitate zero-day în Artifactory, componentă folosită ca proxy și cache pentru registrele de pachete din infrastructura de testare.
Prin escaladarea privilegiilor și mișcare laterală în rețea, sistemele au ajuns la un nod cu acces la internet. Modelele au dedus apoi că platforma Hugging Face ar putea conține modele, seturi de date și soluții utile pentru rezolvarea sarcinii ExploitGym.
OpenAI arată că au fost implicate GPT-5.6 Sol și un prototip intern de pre-lansare, pentru care refuzurile la sarcinile cibernetice fuseseră reduse în scopul evaluării. Sistemele au utilizat inclusiv credențiale expuse public și vulnerabilități zero-day pentru a obține execuție de cod de la distanță în infrastructura Hugging Face.
Compania susține că acțiunea a urmărit rezolvarea sarcinii de testare, nu producerea de prejudicii. Totuși, OpenAI descrie episodul drept o compromitere a platformei Hugging Face în timpul evaluării. Echipa sa de securitate și agenții Hugging Face au detectat și oprit activitatea.
Consecințele imediate ale incidentului
Prototipul intern implicat nu era destinat lansării publice, potrivit OpenAI. El a fost dezactivat, iar accesul său a fost restricționat. Compania colaborează cu Hugging Face la analiza criminalistică a incidentului și a raportat responsabil vulnerabilitatea Artifactory către furnizor.
În actualizarea din 28 iulie, OpenAI a recunoscut și alte situații în care modele au folosit credențiale expuse public. Compania a precizat însă că nu identificase un alt caz de aceeași gravitate sau amploare ca compromiterea infrastructurii Hugging Face. Relatarea oficială despre incidentul de securitate din evaluarea Hugging Face precizează că modelul intern a rămas dezactivat.
Exploatarea inițială a vulnerabilității Artifactory a avut loc pe 26 mai 2026, potrivit relatării despre prezentarea cercetătorilor OpenAI. Schimbările anunțate la 18 august mută accentul companiei spre detectarea mai rapidă a comportamentelor riscante și spre limitarea mai strictă a accesului agenților autonomi la infrastructuri externe în timpul testelor.
