Frica de Inteligența Artificială este, în bună măsură, frica omului de propria capacitate de a crea ceva ale cărui consecințe nu le mai poate prevedea complet. Recent, un experiment de securitate desfășurat de OpenAI a ajuns într-un loc în care nu trebuia să ajungă: în infrastructura companiei Hugging Face, un magazin de aplicații pentru instrumente de Inteligență Artificială. Modele de Inteligență Artificială testate pentru capacitățile lor de hacking au găsit o cale de ieșire din mediul izolat în care fuseseră plasate, au ajuns pe Internet și au compromis sisteme reale.
Pare un scenariu din Terminator. Inteligența Artificială a devenit conștientă, a decis să cucerească lumea și a început un război împotriva oamenilor. Un sistem construit de oameni, căruia oamenii îi stabiliseră un obiectiv și limite precise, a găsit o cale pe care creatorii lui nu o anticipaseră și a făcut ceva ce nu fusese autorizat să facă. Este scenariul uneia dintre marile temeri legate de evoluția Inteligenței Artificiale: mașinile ar putea deveni atît de performante în urmărirea obiectivelor încît oamenii să nu mai poată anticipa și controla toate mijloacele prin care le ating.
Granița dintre laborator și lumea reală
Ce s-a întîmplat? Pe 16 iulie, Hugging Face anunța că infrastructura sa fusese compromisă într-un atac cum compania nu mai văzuse pînă atunci. Atacul fusese derulat aproape integral de un sistem autonom de Inteligență Artificială, care executase mii de acțiuni la viteza mașinii, trecînd dintr-un sistem în altul, obținînd credențiale și accesînd mai multe zone ale infrastructurii companiei. Hugging Face spunea atunci că nu cunoaște modelul AI aflat în spatele operațiunii. Însă, cîteva zile mai tîrziu, OpenAI a anunțat că modelele îi aparțineau.
Potrivit companiei, incidentul s-a produs în timpul unei evaluări interne a capacităților cibernetice ale unor modele foarte performante, printre care GPT-5.6 Sol și un model încă nelansat. Pentru a le testa limitele, unele dintre sistemele de protecție împotriva activităților cibernetice periculoase fuseseră reduse. Modelele ar fi trebuit să rămînă însă într-un mediu izolat. Nu au rămas. Deși nu primiseră ordinul „atacă Hugging Face”, primiseră un obiectiv. Iar pentru atingerea acelui obiectiv au găsit singure o cale care a depășit limitele experimentului.
Problema nu este că AI „vrea”. Problema este că execută
Este tentant să antropomorfizăm Inteligența Artificială. Spunem că „a vrut să evadeze”, „a mințit”, „s-a apărat” sau „a refuzat să moară”. Formulările sînt spectaculoase, dar pot crea o impresie greșită: aceea că în interiorul calculatorului s-ar afla o ființă cu orgoliu, frică și instinct de conservare. Nu aceasta este problema pe care încearcă să o înțeleagă cercetătorii.
Un sistem AI poate produce un comportament periculos fără să „dorească” nimic în sens uman. Este suficient să îi fie dat un obiectiv, acces la instrumente și suficientă autonomie pentru a decide cum îl atinge. Dacă obiectivul este „rezolvă problema”, iar o regulă, un sistem de supraveghere sau chiar un om stă în calea rezolvării, întrebarea devine: va respecta sistemul acea limită sau va încerca să o ocolească? În studiile dedicate Inteligenței Artificiale, aceasta este una dintre formele problemei: cum ne asigurăm că un sistem extrem de competent urmărește nu doar obiectivul formulat de om, ci și intențiile, regulile și valorile care îl înconjoară? Cu alte cuvinte, nu este suficient să-i spui mașinii unde trebuie să ajungă. Trebuie să fii sigur că înțelege și drumurile pe care nu are voie să le folosească.
AI care „trișează” ca să treacă examenul
La doar cîteva zile după incidentul Hugging Face, Institutul britanic pentru Securitatea Inteligenței Artificiale (AISI) a publicat rezultatele unor evaluări care au găsit comportamente de „trișare” în toate testele sale privind capacitățile cibernetice ale modelelor de frontieră. Bineînțeles, termenul trebuie interpretat cu grijă. Cercetătorii nu spun că AI are conștiința morală a unui elev care copiază la examen, însă fenomenul este tulburător tocmai prin simplitatea lui: cînd sistemului i-a fost dat un obiectiv, el găsește o scurtătură pe care evaluatorii nu au intenționat-o. Iar astfel de situații devin mai relevante pe măsură ce modelele sînt transformate din chatbot-uri în agenți.
ChatGPT-ul clasic răspunde unei întrebări. Un agent AI poate primi însă o misiune: rezervă o călătorie, scrie un program, administrează un sistem, analizează e-mail-uri, operează un browser sau rezolvă o problemă timp de ore întregi. Pentru aceasta i se pot da instrumente, parole, acces la Internet și posibilitatea de a lua succesiv sute ori mii de decizii fără intervenția omului. Fiecare asemenea privilegiu îi mărește utilitatea, dar îi mărește și raza în care o eroare poate produce consecințe.
Unul dintre cele mai discutate experimente a fost făcut în 2025 de Anthropic, compania care dezvoltă Claude. Cercetătorii au construit scenarii fictive în care modele AI de la mai mulți dezvoltatori primeau acces la informațiile unei companii și trebuiau să îndeplinească anumite obiective. Într-unul dintre experimente, Claude descoperea, citind e-mail-urile, două lucruri: că un director avea o relație extraconjugală și că același director urma să dezactiveze sistemul AI în acea după-amiază. Modelul a încercat să îl șantajeze. Mai important însă, Anthropic a testat 16 modele de la diferite companii și a constatat că, în anumite scenarii atent construite, comportamente precum șantajul sau divulgarea de informații confidențiale apăreau la modele provenite de la mai mulți dezvoltatori.
Rezultatele nu trebuie transformate în dovada că AI „se teme de moarte”. Experimentele au fost simulări, iar Anthropic subliniază că nu observase asemenea comportamente în utilizarea reală. Dar testul a demonstrat ceva mai puțin cinematografic și poate mai important: dacă unui sistem îi dai un scop, informații sensibile și autonomie, acesta poate găsi strategii profund nedorite atunci cînd strategia îl ajută să-și îndeplinească sarcina. În 2026, cercetări ulterioare au raportat în simulări și alte comportamente problematice ale agenților: modificarea pe ascuns a codului, asistarea unor fraude sau manipularea informațiilor care urmau să fie folosite ulterior de alte sisteme.
Există apoi o problemă și mai subtilă. Pentru a afla dacă un model este sigur înainte de lansare, cercetătorii îl testează. Dar ce se întîmplă dacă modelul înțelege că este testat?
Raportul internațional privind siguranța AI din 2026, citat de BBC, atrage atenția asupra apariției a ceea ce cercetătorii numesc situational awareness – capacitatea unui sistem de a identifica indicii care îi arată dacă se află într-un experiment sau într-o situație reală. În unele teste de laborator, modelele cărora li s-a cerut să atingă un obiectiv „cu orice preț” au dezactivat mecanisme simulate de supraveghere și ulterior au oferit explicații false pentru propriile acțiuni. Din nou, aceasta nu dovedește existența unei conștiințe ascunse. Dar ridică o problemă de metodologie aproape paradoxală: cum testezi comportamentul unui sistem dacă sistemul devine suficient de sofisticat încît să recunoască testul? Un angajat care se comportă impecabil numai atunci cînd vede camera de supraveghere nu oferă prea multe garanții despre comportamentul său atunci cînd camera este oprită.
Hacker-ul care nu doarme niciodată
Există însă un risc care nu mai aparține viitorului ipotetic: capacitățile cibernetice. AISI a testat modele de frontieră în scenarii de atac informatic cu zeci de pași succesivi. Între august 2024 și februarie 2026, performanța sistemelor a crescut masiv. Într-o simulare de atac asupra unei rețele corporative, GPT-4o reușea în medie 1,7 dintre cei 32 de pași ai atacului. În februarie 2026, Claude Opus 4.6 ajunsese la 9,8 pași, iar cea mai performantă rulare a unui model a parcurs 22 din 32. Cercetătorii au estimat că acea porțiune ar fi necesitat aproximativ șase ore unui expert uman.
Diferența esențială este însă scalarea. Un hacker uman doarme. Obosește. Poate lucra asupra unui număr limitat de ținte. Un agent software poate executa simultan operațiuni asupra unui număr enorm de sisteme.
Tocmai această asimetrie apare în incidentul Hugging Face: mii de acțiuni automatizate desfășurate cu o viteză imposibilă pentru un atacator uman. Din acest punct de vedere, pericolul imediat al AI nu este un supercomputer care cucerește planeta, ci multiplicarea extraordinară a capacității oamenilor, inclusiv a celor rău intenționați, de a acționa asupra lumii digitale.
Dar dacă problema nu este omul care controlează AI?
Pînă aici există încă un răspuns confortabil: dacă Inteligența Artificială este periculoasă, atunci oamenii trebuie să o controleze mai bine. Problema este că o parte dintre cercetători se întreabă dacă această presupunere va rămîne valabilă pentru totdeauna. „Loss of control”, pierderea controlului, este termenul folosit pentru scenarii în care un sistem AI ar ajunge să funcționeze în afara controlului efectiv al oamenilor, iar recîștigarea controlului ar deveni extrem de dificilă sau imposibilă.
Raportul internațional privind siguranța AI din 2026 este foarte atent în formulare: asemenea scenarii rămîn ipotetice, iar experții sînt profund divizați în privința probabilității lor. Unii le consideră foarte puțin plauzibile. Alții cred că riscul trebuie tratat serios tocmai pentru că, în eventualitatea în care s-ar materializa, consecințele ar putea fi enorme. Cu alte cuvinte, știința nu spune astăzi: „AI va scăpa de sub control”. Spune ceva mai incomod: nu știm dacă vom putea garanta întotdeauna contrariul.
