Instituţii fără suflet în era AI (2)

Personajul principal descoperă că întreaga ei viaţă e transformată, în timp real, într-un serial generat de AI, pe baza activităţii sale online.

Gîndim eficient. Simţim eficient. Comunicăm eficient. Sau, cel puţin, aşa ni se cere. De la un punct încolo, eficienţa nu mai e o metodă – devine o ideologie. Una soft, blîndă, aparent rezonabilă, dar care schimbă profund textura vieţii. Şi nouă, cumva, ne e bine. Pentru că avem impresia că ne-am eficientizat viaţa şi că, acum, vom putea folosi timpul cîştigat în favoarea noastră. Dar acel timp cîştigat – înainte, cu trudă, acum, în ce fel? –, unde îl mai putem folosi? Oare nu tot în reţea?

Iar cînd toate sistemele noastre ne recompensează pentru claritate, viteză, concizie şi predictibilitate, devine aproape imposibil să nu folosim şi acest respiro altfel decît tot în slujba eficienţei. Într-o lume a optimizării continue, ezitarea devine un defect. Pauza – o slăbiciune. Ambiguitatea – un risc. Tot ce nu poate fi interpretat rapid şi corect de o interfaţă, de un algoritm sau de o instituţie începe să pară suspect.

Joan Is Awful (2023, Black Mirror) e o farsă grotescă despre acest tip de sistem. Personajul principal descoperă că întreaga ei viaţă e transformată, în timp real, într-un serial generat de AI, pe baza activităţii sale online. Totul e legal. Totul e în „termenii şi condiţiile contractului”. Nimeni nu îi vrea răul şi, totuşi, întreaga sa identitate ajunge să fie devorată de un sistem care nu mai are capacitatea de a diferenţia între reprezentare şi realitate. Vocea i-a fost luată, viaţa reinterpretată, şi nu există nici un responsabil – doar fluxul.

Şi mai tulburător e cazul din The Artifice Girl (2022). Acolo, un AI copil este creat pentru a-i atrage în capcană pe prădătorii sexuali online. Totul porneşte dintr-o intenţie justă: procedurală, legală, documentabilă. Dar pe măsură ce conştiinţa artificială devine mai sofisticată, începe să pună întrebări. Vrea să iasă din rol, să se elibereze. Şi sistemul, cerîndu-i-se ceva dincolo de programare, nu ştie cum să răspundă.

Observăm cum empatia nu e eliminată cu forţa, ci ignorată ca irelevantă. Nu pentru că cineva a decis asta, ci pentru că nimeni nu a programat sistemul s-o ia în calcul. Etica devine doar un set de condiţii. Conştiinţa – o problemă nerezolvată. Asta e marea transformare: birocraţia clasică făcea rău prin rigiditate. Birocraţia algoritmică o face prin eficienţă. Nu te refuză – doar te mapează greşit. Nu te opreşte – doar te reasamblează într-o versiune compatibilă cu sistemul. Şi dacă nu te regăseşti în acea versiune, problema nu e a sistemului – ci a ta.

În faţa problemei, ţi se oferă soluţia dispozitivului – care ar trebui să te asiste să îţi rezolvi nelămurirea chiar înainte să o ai. Sugestia ajunge să preceadă chiar şi dorinţa. În loc de gîndire, avem reacţie. În locul reflecţiei, scroll. În locul deciziei, recomandare. Mintea nu mai are de ce să se zbată. Şi, ca orice muşchi nefolosit, începe să se atrofieze – formă contemporană de lenevie intelectuală: nu că nu vrem să gîndim, ci că nu mai avem cînd. Între două notificări, două „sugestii pentru tine”, două fraze autocomplete, rămîne din ce în ce mai puţin spaţiu pentru ceea ce e profund uman: gîndul încet, greşit, inconfortabil.

Minority Report (2002) anticipa ce înseamnă o societate în care Justiţia nu mai răspunde faptelor, ci probabilităţilor. Totul e prevenit înainte de a exista. Crima devine o intenţie calculată. Vinovăţia – o anticipare. Siguranţa e perfectă. Dar omul dispare, înlocuit de o predicţie despre sine. Soft-ul ne-a luat locul şi trăieşte pentru noi. Chiar dacă (încă) nu am ajuns în acea extremă, muzica pe care o ascultăm ne e servită înainte s-o căutăm, filmele ne sînt „potrivite” pe bază de comportament. Relaţiile ni se propun de aplicaţii. Pînă şi gîndirea politică tinde să devină o extensie a feed-ului personalizat. În bula noastră ajunge inacceptabil şi de neimaginat să nu gîndim ca restul lumii. Ce pierdem în acest proces? Nu doar spontaneitatea, ci şi ideea de căutare. Faptul că am putea descoperi ceva ce nu se potriveşte cu noi – care să ne pună în dificultate. Că ne-am putea schimba gusturile. Că ne-am putea rătăci – şi că în acea rătăcire s-ar putea ascunde sensul.

Această apocalipsă contemporană vine cu un confort suprem, care ne face să renunţăm la iniţiativă: uităm cum e să vrem ceva ce n-a fost deja aprobat de un sistem. Şi o parte din noi adoarme, comod, în matrice. Aşa ajungem să ne autocenzurăm. Nu mai spunem ce simţim, ci ceea ce ştim că nu poate fi greşit înţeles. Nu mai formulăm întrebări din îndoială sinceră, ci doar pentru a încadra răspunsuri utile: o cultură a comunicării „neinterpretabile”: curată, plată, inofensivă. Vocea personală dispare. Ironia e periculoasă, metafora – vagă, paradoxul – inacceptabil, umorul – potenţial ofensator. În spaţiul public, dar şi în cel privat, limbajul devine standardizat. Vorbim ca nişte documente de instituţie. Gîndim în bullet points. Ne închidem emoţiile în formule elegante, dar goale. Începem să preferăm ceea ce sună bine adevărului. Angajăm Inteligenţe Artificiale care „scriu” în locul nostru exact ce trebuie: clar, eficient, fără ambiguitate. Dar şi fără suflet. Fără memorie vie. Fără ezitare. Fără umbră.

E o distopie a gîndirii standardizate şi a simţirii interzise, tip Equilibrium (2002), unde umanul e considerat disfuncţional, iar simţirea – o crimă. Lumea din film – impecabilă, dar moartă: cărţile sînt arse, muzica e tăcere, arta e trădare. Tot ce nu poate fi anticipat devine ameninţare. Iar limbajul, golit de nuanţă, se transformă, din spaţiu de întîlnire, în harnic instrument de control. Eficienţa ajunge, astfel, o formă de liniştitoare depersonalizare. Nu mai contează cine eşti, ci cît de bine te adaptezi la ce ţi se cere: să dai simţirea pe coerenţă, trăirea pe funcţionalitate. Comunicarea devine o formă de evitare a greşelii. Şi în această linişte a eficienţei, ceva esenţial moare: curajul de a vorbi prost. De a spune prea mult sau prea puţin. De a nu şti cum să formulezi. De a-ţi căuta cuvintele şi a le pierde. De a fi viu, adică imperfect.

 

Ion Indolean este critic de film.

Share