Pe 25 mai, papa Leon al XIV-lea și-a publicat prima enciclică a pontificatului său, un fel de scrisoare deschisă adresată Bisericii universale și lumii. Magnifica Humanitas a Sfinției Sale papa Leon despre protejarea persoanei umane în vremea Inteligenței Artificiale este structurată în cinci capitole, în care pontiful roman discută provocările morale, sociale și politice implicate de revoluția IA. Anunțată încă de la începutul pontificatului lui Leon al XIV-lea, preocuparea pentru efectele pe care IA le are asupra vieții cotidiene ia, în Magnifica Humanitas, forma unui manifest care explică și analizează acest fenomen în lumina științei, tradiției și a doctrinei sociale a Bisericii. Papa nu este un luddit, iar lumea de astăzi nu mai poate fi analizată în afara contextului IA. Prin urmare, Magnifica Humanitas nu este o pledoarie pentru vremurile bune de demult, de dinainte de inventarea acestei tehnologii. Ce propune enciclica este mai degrabă o cugetare la ce înseamnă adoptarea Inteligenței Artificiale pe scară cvasi-universală și un îndemn la chestionarea implicațiilor pe care îmbrățișarea IA le are asupra ființei umane înseși. În esență, papa nu ne spune să nu folosim IA, ci ne îndeamnă să ne întrebăm care sînt consecințele îmbrățișării acestei tehnologi. Cu alte cuvinte, sîntem de acord să devenim, după cum spunea Yanis Varoufakis, cyborgii ultra-eficienți pe care și-i doresc techno bros sau vrem să ne păstrăm magnifica umanitate, adică să folosim noi IA, nu ea să ne folosească pe noi?
Transumanism și postumanism
Tema principală discutată în Magnifica Humanitas este cea a riscului dezumanizării implicat de adoptarea fără rezerve a Inteligenței Artificiale sau, după cum spune Leon al XIV-lea, riscul de a echivala progresul cu „depășirea condiției umane, [tendință] care este adesea grupată sub eticheta de transumanism și postumanism”. Aceasta este infinita optimizare, în sensul de eficientizare, visată de techno bros. De ce am vrea să ne optimizăm, să devenim niște roboți cît mai eficienți? După cum o arată și papa, nu e ca și cum progresul tehnologic aduce beneficii egale pentru toți. Sigur, cei din categoria Elon Musk și Peter Thiel acumulează trilioane. Exact această lipsă de egalitate, această nedreaptă împărțire a beneficiilor aduse de noua tehnologie scandalizează ființa umană. În același timp, această capacitate de a judeca, de a lua decizii în care se ia în considerare și factorul uman, și impactul ecologic, este ceea ce face umanitatea magnifică. Nu eficiența sau banii trebuie să ne ghideze în adoptarea tehnologiei, ci măsura în care aceasta este benefică omului. Dacă, în trecut, statul făcea regulile și stabilea cadrul legal pentru adoptarea noilor tehnologii, în era IA puterea de decizie s-a mutat în mîinile cîtorva miliardari: „În context digital, în multe cazuri, statul nu are nici un control asupra platformelor, infrastructurii, bazelor de date și a puterii de calcul. Controlul este în mîinile marilor actori din economie și tehnologie. Aceste entități sînt cele care, în mod real, stabilesc condițiile de acces, determină regulile de vizibilitate și stabilesc efectiv modul în care pot fi folosite. Cînd o astfel de putere este concentrată în mîinile cîtorva, aceasta tinde să devină opacă și să se sustragă supravegherii publicului, crescînd astfel riscul dezvoltării unor forme distorsionate de progres tehnologic care creează noi dependențe, excluderi, manipulări și inegalități”. Altfel spus, în acest moment, statul îi lasă pe techno bros să-și facă de cap și să cîștige trilioane, fără să stabilească reguli reale care să îi protejeze pe cei afectați negativ de adoptarea fără nici o îngrădire a Inteligenței Artificiale.
Algoritmi și război
Una dintre marile provocări puse de IA este depersonalizarea deciziilor. Lăsînd pe seama algoritmului să aleagă ce ne place, să dăm click cînd ne apare opțiunea „te-ar mai putea interesa și…”, ne obișnuim treptat cu ideea că această entitate, nesupusă încă jurisdicției nici unei curți de judecată, ia decizii pentru noi. Majoritatea oamenilor sînt oripilați de război și profund afectați cînd sînt puși în fața consecințelor lui letale. Majoritatea oamenilor aleg pacea tocmai pe baza răspunsului emoțional pe care îl au în fața devastării aduse de război. Dar IA a inaugurat și epoca războiului impersonal, a țintelor alese de algoritmi, cu „victime colaterale” reduse la numere. Ce propune papa Leon este destul de ușor de înțeles, dar greu de implementat: să ne uităm la fața celui peste care a căzut bomba și să scăpăm din perimetrul algoritmului care poate normaliza aproape orice prin repetare de conținut „igienizat”. Să ne lăsăm așadar mișcați de fața victimei, nu de conținutul cosmetizat propus de algoritm. Astfel, ne vom putea păstra și exersa buna și vechea noastră judecată umană. „Pentru un algoritm, o eroare este un defect care trebuie corectat, dar pentru o persoană o eroare poate fi un catalizator pentru o schimbare profundă.” Noi putem învăța din greșeli, IA nu. Putem învăța din consecințele războiului să optăm pentru pace.
Magnifica Humanitas ne propune două imagini. Prima este cea a Turnului Babel (Facerea, 11:1-9), în care oamenii adoptă nesăbuit tehnologia și vor să provoace divinitatea construind un turn în care fiecare își face treaba fără să caute să înțeleagă și să colaboreze cu cel de lîngă el. Cea de-a doua este a noului Ierusalim (Neemia, 2-6), reconstruit după invazia babiloniană, în care fiecare membru al comunității, inclusiv femeile, bătrînii și copiii, colaborează și împreună reconstruiesc zidurile orașului distrus. Așadar, aceasta e întrebarea: vrem să trăim în noul Babel sau în noul Ierusalim al IA?
Valentina Covaci este specialistă în istoria Bisericii și liturghistă.
