Întrebarea definitorie a epocii noastre nu mai e dacă IA va transforma lumea în care trăim. A făcut-o deja. Ceea ce-i trebuie acum lumii este o busolă morală pentru această tehnologie, motiv pentru care am prezentat conceptul de „IA bazată pe compasiune” celor peste 12.000 de delegați din 170 de țări care au participat la summit-ul global „AI for Good” de la Geneva, la începutul lunii iulie.
Dacă vrem cu adevărat să fim siguri că IA contribuie la binele comun, și nu doar la sporirea profitului și a puterii, trebuie să-i scoatem pe inginerii și pe dezvoltatorii IA din laboratoarele lor timp de o lună. Să-i lăsăm să petreacă timp alături de copii care muncesc în mine și fabrici, familii strămutate de conflicte și comunități vulnerabile care se confruntă cu sărăcia, discriminarea și excluziunea. Să-i lăsăm să meargă alături de oameni ale căror vieți sînt modelate în mult mai mare măsură de incertitudine, frică și nedreptate decît de orice formă de progres tehnologic. Chiar și o singură lună poate schimba modul în care gîndește o persoană, iar acest lucru va influența felul în care dezvoltatorii construiesc această tehnologie și modelează viitorul.
IA remodelează deja educația, sănătatea, afacerile, guvernanța și descoperirile științifice. Ea promite progrese remarcabile, de la accelerarea cercetării medicale și îmbunătățirea învățării pînă la demascarea rețelelor de trafic de persoane, anticiparea foametei înainte ca aceasta să lovească și consolidarea acțiunilor umanitare. Însă fiecare revoluție tehnologică reprezintă o încercare morală, iar IA nu face excepție. În contextul în care tehnologia a devenit linia întîi a unei intense competiții globale pentru puterea economică și geopolitică, viteza este răsplătită, amploarea este celebrată, iar dominația pe piață e prețuită mai presus de orice.
În astfel de condiții, riscăm să uităm cea mai importantă întrebare: cui îi este menită, în ultimă instanță, această inteligență? Cel mai mare eșec actual al IA este unul de guvernanță, nu de inginerie. Este adevărat că o mare parte a discuțiilor purtate la reuniunile globale se concentrează deja pe concepte precum „IA etică” și „IA responsabilă”, iar acestea sînt indispensabile. Avem nevoie de o guvernanță mai puternică, de o responsabilitate solidă și de reglementare eficientă.
Dar astfel de măsuri de protecție nu sînt suficiente. Etica ne poate spune ce este corect, iar legile pot stabili limite; dar nici una dintre ele, luată separat, nu va schimba mentalitatea celor care concep și proiectează tehnologii care vor influența miliarde de vieți. Pentru asta e nevoie de ceva mai profund, și anume de compasiune.
Compasiunea este adesea confundată cu empatia, cu bunătatea sau caritatea. Dar nu este sinonimă cu nici una dintre acestea și nici nu este pur și simplu o emoție sau un ideal moral abstract. Compasiunea începe prin a percepe suferința altei persoane ca pe propria suferință, ceea ce ne determină să luăm măsuri pentru a alina acea suferință. Ea include curajul de a acționa înainte ca un rău suplimentar să se producă. Și duce nu doar la optimizarea sistemelor, ci și la protejarea demnității umane.
Departe de a fi o îngrădire a progresului tehnologic, compasiunea este coloana vertebrală a inovației responsabile. IA bazată pe compasiune se deosebește de orice alt cadru conceptual deoarece nu pornește de la tehnologie, ci de la umanitate. Înainte de a se întreba ce poate face un sistem, IA bazată pe compasiune se întreabă cui servește sistemul. Înainte de a urmări o eficiență sporită, ia în considerare consecințele asupra oamenilor. Înainte de a celebra inovația, se întreabă cine ar putea fi lăsat în urmă.
Acest fel de a vedea lucrurile schimbă totul. Multe dintre eșecurile actuale ale IA – prejudecăți, discriminare, excluziune, dezinformare, daune aduse mediului, amenințări la adresa bunăstării copiilor – sînt adesea descrise ca efecte secundare nefericite ale progresului. Dar ele nu sînt simple efecte secundare. Ele sînt dovada că cineva a fost absent, trecut cu vederea sau ignorat atunci cînd aceste sisteme au fost concepute.
Tehnologia nu este neutră, și nici algoritmii. Fiecare sistem poartă presupunerile, prioritățile și valorile celor care îl creează. Deoarece IA a fost antrenată pe baza cunoștințelor acumulate de umanitate, ea a absorbit prejudecățile, inegalitățile și nedreptățile istorice acumulate de umanitate.
Drepturile omului nu pot fi vopseaua aplicată după ce clădirea este finalizată. Ele trebuie să fie un element portant al întregii structuri. Vrem să știm că un pod este sigur, înainte să-l traversăm, deoarece siguranța este esențială pentru scopul său. Evident, IA ar trebui să fie supusă acelorași standarde. Compasiunea nu poate fi adăugată ulterior implementării. Ea trebuie să modeleze proiectarea sistemului.
Schimbarea traiectoriei tehnologiei este o prioritate urgentă. Copiii care cresc astăzi ar putea petrece mai mult timp interacționînd cu mașini inteligente decît cu părinții, profesorii sau vecinii. Înțelegem deja unele dintre consecințele psihologice negative ale rețelelor sociale, care sînt alimentate de forme relativ simple de IA. Efectele unor sisteme mult mai performante asupra dezvoltării emoționale a copiilor, asupra relațiilor, imaginației și bunăstării lor mentale rămîn în mare parte necunoscute, dar ar putea fi profunde.
În loc să ne concentrăm în primul rînd asupra modului în care IA ar putea transforma economia, ar trebui să ne întrebăm ce se va întîmpla dacă algoritmii vor înlocui capacitatea specific umană de a simți durerea altei persoane. Pot ei să apere dreptatea dacă nu au fost concepuți să recunoască suferința? Pot ei să consolideze pacea dacă sînt optimizați doar pentru interacțiune, eficiență și profit? Aceste întrebări morale trebuie să prevaleze asupra celor tehnice, deoarece ele ar putea modela viitorul umanității.
Desigur, IA ar putea deveni unul dintre cei mai mari aliați ai umanității. Ar putea contribui la eradicarea sclaviei moderne și a traficului de persoane, la detectarea abuzului sexual asupra copiilor, la extinderea accesului la educație de înaltă calitate în limba maternă a fiecărui copil, la îmbunătățirea asistenței medicale în comunitățile defavorizate, la anticiparea crizelor umanitare și la accelerarea progresului către Obiectivele de Dezvoltare Durabilă.
Dar IA nu va alege acel viitor. Noi o vom face. Principiile pe care le consacrăm astăzi vor constitui fundamentele sistemelor din ce în ce mai puternice pe care le construim. Odată ce aceste fundamente se vor cristaliza în standarde, instituții și modele de afaceri, ele vor modela relația umanității cu mașinile inteligente pentru generații întregi.
Nu ne putem permite să așteptăm pînă cînd prejudiciile devin ireversibile. Legile au fost create adesea în urma unei suferințe, dar în cazul IA nu ne mai putem permite luxul unei abordări de tip „așteptăm și vedem”. Era inteligenței cere înțelepciune. Istoria nu ne va judeca după cît de inteligente au devenit mașinile noastre. Va judeca însă dacă am avut sau nu inspirația și curajul să ne asigurăm că inteligența a rămas în slujba umanității.
Kailash Satyarthi, laureat al Premiului Nobel pentru Pace, este fondatorul organizației „Laureates and Leaders for Children”.
Copyright: Project Syndicate, 2026
www.project-syndicate.org
traducere de Matei PLEŞU
Foto: Kailash Satyarthi
