E grăitor faptul că Anthropic a ales să-și numească cel mai puternic model de IA „Mythos”. În greaca veche, cuvîntul denotă o realitate originară pe care o putem imita sau întruchipa prin poveștile pe care ni le spunem nouă înșine și celorlalți. Pliniu cel Bătrîn ne spune că pictorul grec Zeuxis, din secolul al V-lea, a redat strugurii atît de realist încît a reușit să păcălească chiar și păsările.
Însă poveștile fac mai mult decît să imite o realitate preexistentă. Ele creează totodată noi realități prin exprimarea posibilului. De exemplu, cuvintele revoluționare de începutul Declarației de Independență a Statelor Unite: „Considerăm că aceste adevăruri sînt de la sine înțelese...”, au acordat un loc de cinste libertății individuale, indiferent de clasă socială, de proprietățile deținute sau de convingerile religioase sau politice. Prin acest mythos, Părinții Fondatori au pus bazele unui mod de guvernare conceput în spiritul libertății și al egalității.
Modelele de IA de ultimă generație întruchipează ambele tipuri de narațiune. Pe de o parte, ele imită gîndirea umană din trecut, răspunzînd la solicitările utilizatorilor prin căutarea de tipare relevante în vasta bază de date cu material arhivat prealabil, pe baza căreia au fost antrenate.
Dar ele creează, de asemenea, o nouă realitate. Fondatorii Anthropic și OpenAI par să împărtășească aceeași viziune privind sosirea iminentă a unui zeu al IA atotputernic, care ne va conduce către o utopie transumanistă. Cu toate acestea, există motive întemeiate să ne întrebăm dacă nu cumva acest mit e doar un pretext pentru a justifica goana după dominarea pieței, bogăție și putere.
Unele personalități, precum cofondatorul Anthropic, Christopher Olah, încearcă acum să ofere un curs intensiv de moralitate modelelor companiei. Dar este puțin cam tîrziu pentru așa ceva. Dacă Anthropic ar fi urmărit sincer să configureze comportamentul lui Claude pentru a sluji binelui umanității, i-ar fi instruit mai întîi pe inginerii săi într-ale bunătății și înțelepciunii.
În schimb, Claude a fost antrenat să ofere un serviciu: să furnizeze informații, să rezolve probleme și să îndeplinească sarcini utile în mod autonom. IA este promovată ca un instrument de generare a profitului, ca o sursă de muncă cognitivă ieftină și extrem de eficientă. Orice moralitate implementată post factum nu este decît o fațadă – o glosă asupra unei rațiuni de a fi eminamente comercială și o alinare a unui public din ce în ce mai îngrijorat de această tehnologie.
Realitatea pe care o creează în ultimă instanță un mit depinde de contextul cultural în care acesta funcționează. Dacă o cultură promovează IA ca pe o mană cerească superinteligentă și binefăcătoare, pericolele asociate cu crearea ei (cum ar fi agenții IA care nu acționează în interesul nostru) devin mai probabile. Dar o cultură care se opune aroganței neîngrădite a capacității IA și insistă asupra unei contranarațiuni despre importanța cooperării sociale va avea șanse mai mari să obțină controlul asupra hybris-ului și a pericolelor pe care IA le poate genera.
Astfel de preocupări au rădăcini adînci în imaginația occidentală. Filozoful presocratic Heraclit a scris: „Soarele nu-și va depăși limitele; dacă o va face, Eriniile, slujitoarele Dreptății (Díke), îl vor descoperi”. Acestea sînt aceleași Erinii (sau Furii) care îl urmăresc pe Oreste pentru uciderea Clitemnestrei, în piesa lui Eschil Eumenidele. Oreste și-a ucis mama pentru a-și răzbuna tatăl, marele general aheu Agamemnon, pe care Clitemnestra l-a ucis pentru că a sacrificat-o pe fiica lor, Ifigenia. Viața copilei a fost prețul despre care profeții au spus că trebuie plătit pentru a avea vînt favorabil în pînzele flotei ahee împotriva Troiei. Așa se petrec lucrurile, din generație în generație.
Este prea devreme să știm ce limită morală, dacă va exista vreuna, va imita sau va întruchipa „Mythos“-ul lui Anthropic. Istoria sugerează că ar trebui să fim precauți. A fost nevoie de conștientizarea iraționalității umane, de nebunia „distrugerii reciproce asigurate”, pentru a se ajunge la acorduri internaționale care să interzică proliferarea nucleară în secolul al XX-lea. Cooperarea socială a triumfat în fața apetitului irațional pentru putere și dominație.
Natura umană nu s-a schimbat, dar amenințările cu care ne confruntăm sînt altele. Știm că pericolele asociate cu IA scăpată de sub control sînt reale, pentru că am fost deja martori la ele. Din fericire, atacul cibernetic spontan asupra Hugging Face, comis de agenții OpenAI, a provocat daune minime. De atunci, însă, au ieșit la iveală episoade similare, iar experții ne avertizează că s-ar putea ca în viitor să nu mai avem același noroc. De la agenți de IA care preiau controlul neautorizat asupra infrastructurii critice pînă la îndeplinirea dorințelor grupurilor teroriste sau proiectarea de agenți patogeni noi, nici o amenințare nu poate fi exclusă.
Așa cum ne reamintește jurista Antara Haldar, cooperarea socială și conservarea resurselor comune au constituit întotdeauna un bastion împotriva efectelor dezastruoase ale aroganței, lăcomiei și dorinței de putere ale omului. Chiar dacă această narațiune fondatoare a fost eclipsată de povestea economiei clasice despre „omul rațional” care își urmărește propriile interese, ea nu a dispărut. Povestirile care propagă vechile acte de sacrificiu și de serviciu militar în folosul comunității încă există – la fel ca și cei care își imaginează noi posibilități morale pentru viitor.
De exemplu, susținătorii cooperării sociale de astăzi ar putea să ne atragă atenția asupra curajului și perspicacității diplomatice necesare pentru a preveni Armaghedonul nuclear după cel de-al Doilea Război Mondial. De ce anume am avea nevoie pentru a gestiona amenințarea reprezentată de IA? Ne putem imagina o coordonare globală între comisii independente de anchetă, calificate și echipate pentru a obține cunoștințe de primă mînă despre pericolele pe care le prezintă anumite modele. Monitorizarea universală ar putea fi apoi completată cu măsuri de protecție recunoscute la nivel internațional – standarde minime obligatorii de siguranță –. capabile să prevină amenințările înainte ca acestea să apară și să le gestioneze eficient atunci cînd ele apar.
Miturile (sau poveștile fondatoare) pe care ni le spunem ne vor determina, în cele din urmă, destinul. Ele nu trebuie să provină doar de la liderii industriei, al căror interes e să ne desfete cu viziuni despre noi orizonturi științifice și tehnologice. Prudența, însoțită de o contranarațiune care să pună accentul pe cooperarea socială, ar putea fi exact ceea ce ne poate menține pe calea supraviețuirii și a prosperității reciproce.
Richard K. Sherwin, profesor emerit de Drept la New York Law School, este coeditor (împreună cu Danielle Celermajer) al lucrării A Cultural History of Law in the Modern Age (Bloomsbury, 2021).
Copyright: Project Syndicate, 2026
www.project-syndicate.org
traducere de Matei PLEŞU
.jpg)
