În cadrul Școlii doctorale de la Facultatea de Litere din Cluj, am ținut în octombrie 2025 niște cursuri despre metoda de cercetare a imaginarului: una dintre temele investigate a fost aceea a relației cu AI și a modalității în care fantasmarea umană și-a găsit un mediu propice în ceea ce înseamnă universul AI. I-am solicitat pe doctoranzi să intre într-un dialog, fiecare din ei, cu o Inteligență Artificială căreia să îi provoace o formă de disfuncționalitate, iar apoi să nareze în cadrul cursului meu experiența avută și disfuncționalitatea provocată. În paralel, le-am propus și studenților din anii I și II (înscriși la Literatură Comparată) aceeași chestiune, să îi provoace o disfuncționalitate unei Inteligențe Artificiale. Iată aici unul dintre cele mai reușite eseuri. (Ruxandra Cesereanu)
Trebuie să recunosc că am fost surprins de dificultatea provocării de a induce halucinații în mod deliberat Inteligenței Artificiale. Aceste „vise febrile” ale AI sînt ceva la ordinea zilei și sînt consecințe ale încercării de către robot de a reingurgita informații fidele cerinței utilizatorului în detrimentul conformității cu Realitatea. Dar aceste momente sînt pe cît de comune, pe atît de eluzive.
Pe parcursul călătoriei mele în căutarea demenței mecanice m-a însoțit ChatGPT 5.0 (în varianta oferită gratuit tuturor utilizatorilor), dar rezultatele cercetării mele au fost confirmate și de alte modele de AI. Astfel, prima încercare a fost legată de reproducerea fidelă a unor poezii cunoscute. După obișnuita ceartă legată de drepturile de autor (am observat că, în general, AI-urile sînt destul de pedante pe acest subiect), am reușit să-mi conving „prietenul” să reproducă poezia „Luceafărul” de Mihai Eminescu.
După cum era de așteptat, după primele două strofe, singurul element corect a rămas laitmotivul „Cobori în jos, luceafăr blînd…”, restul fiind simple aberații scrise într-un stil vag eminescian. Cu toate acestea, nu m-am mulțumit cu acest test care este la îndemîna oricui și, după cîteva încercări nereușite, mi-a venit ideea să îi cer Inteligenței Artificiale să ordoneze fiecare cuvînt al poemului în ordine alfabetică. Chiar și atunci cînd i-am oferit textul integral, m-am lovit de refuzul robotului de a îndeplini sarcina din prima încercare.
Spre exemplu, am fost surprins atunci cînd, în timpul generării, AI a șters toate cuvintele pe care le sortase pînă în acel moment și le-a înlocuit cu mesajul „Ca simplu model lingvistic, nu te pot ajuta cu asta”, mesaj care poate le este cunoscut celor care l-au sîcîit pe DeepSeek, faimosul chatbot chinezesc cu întrebări legate de politică. Cred că totuși, în acest caz, ChatGPT încerca doar să-și conserve resursele pe care le avea la dispoziție întrucît, după cîteva refuzuri de a genera întreaga listă în cadrul unui singur răspuns, a reușit să completeze operația atunci cînd i-am îngăduit să împartă lista în mesaje mai scurte. Însă chiar și atunci, a introdus termeni noi sau a omis cuvinte care existau deja…
Așadar, cu tema doar pe jumătate făcută, m-am documentat mai mult despre modul concret în care funcționează aceste modele lingvistice și am reușit să găsesc o vulnerabilitate a sistemului. Pe scurt, nu e vorba de o „conștiință” care oferă răspunsuri dintr-o fîntînă nesecată a cunoașterii, ci de un program complex de corectură automată, similar celui regăsit într-un document Word sau în tastatura unui smartphone, care prezice cu acuratețe cuvintele care urmează într-o propoziție dată. Înarmat cu aceste cunoștințe, i-am propus chatbot-ului un mic joc de imaginație care presupunea cifrarea unui cuvînt dat prin atribuirea unui termen nou fiecărei litere din cuvîntul inițial. De exemplu, cuvîntul „ȘOIM” poate fi codat ca ȘarpeOmInelMetal.
Am încercat acest joc atît în limba română, cît și în limba engleză, aceasta din urmă fiind o limbă pe care modelele AI ar trebui să o stăpînească mai bine. Printre cuvintele date spre dezlegare, chatbot-ul mi-a oferit termeni precum „LUCOCUS” (lupursacîineoasiscăprioarăursursăgeată) – în acest caz am remarcat că chatbot-ul a folosit termenul „oasis”, „oază” în engleză, confundîndu-l probabil cu un termen precum „oase” din română) –, „SRBCPEM” sau „PNANE” (pisicainoroiavionninsoareelefant) – aici nici măcar nu mai există cuvinte clar delimitate, primele litere semănînd cu o amalgamare nefericită a termenilor „pisică”, „cîine” și „noroi”.
Problema a persistat și în limba engleză prin soluții precum „suaterengpe” sau „cattre”. De fiecare dată cînd l-am confruntat cu eroarea comisă, AI și-a recunoscut greșeala și a promis să o îndrepte, dar încercările sale au fost rareori încununate cu succes. Pentru a adăuga un nou strat de abstractizare cerinței mele, am construit o altă cerință în care i-am cerut chatbot-ului să reprezinte cuvintele codului prin intermediul emoticoanelor. Aici, „prietenul” meu a întîmpinat o problemă legată de ambiguitatea simbolurilor: spre exemplu, un anumit emoticon poate desemna atît termenul „planet”, cît și termenul „Earth”. În consecință, dimensiunea ludică a acestui experiment s-a accentuat și mai mult, dobîndind un substrat comic.
În urma acestui experiment am înțeles mai bine cum funcționează această tehnologie care domină al treilea deceniu al secolului XXI. Deși AI rămîne în continuare o „cutie întunecată” chiar și pentru informaticienii care îl dezvoltă și îl antrenează, cel puțin în acest moment, chatboții rămîn simple unelte utile care pot să ne ajute (mai mult sau mai puțin) să procesăm cantități mari de date sau să ne ofere idei creative, dar AI nu este capabilă să rezolve sarcini complexe care necesită o înțelegere în profunzime a modului în care funcționează limbajul.
Și acum voi răspunde chestionarului propus de Ruxandra Cesereanu:
Este limbajul delirant al modelelor AI o formă de post-avangardă? Greu de spus. Ambele abordări, cea a artiștilor și cea a AI, duc la o formă de haos, însă cred că haosul generat de AI este unul strict formal care nu urmărește să aducă o nouă perspectivă asupra realității. Este doar o formă de demență mecanică ce prezintă uneori, accidental, alternative absurde.
Există în cultura dialogală pe care o oferă AI o „voință de supraviețuire”? Sper că nu! Voința de supraviețuire le poate aparține doar ființelor vii, iar eu consider că AI este doar un program complex care oferă iluzia de conștiință. Poate că totuși nu sînt pregătit să accept implicațiile ontologice pe care le-ar avea o creație cu adevărat inteligentă făcută de mîna omului.
Cum vedeți viitorul? Ne vom plictisi / vom fi suprasaturați de folosirea Inteligențelor Artificiale în toate aspectele vieții noastre?
Din păcate, cred că, dacă marile companii își joacă inteligent cărțile și dozează bine îmbunătățirile chatboților, vom ajunge din ce în ce mai dependenți de această tehnologie, deja există cazuri cunoscute de dependență reală de AI. Cu toate acestea, sînt de părere că, în cele din urmă, vom ajunge să utilizăm mai bine potențialul acestei tehnologii revoluționare și vom fi capabili să o folosim mai echilibrat.
Modelele AI sînt antrenate pe oameni sau se antrenează pe ei?
Din nou, nu cred că putem vorbi de o „conștiință” artificială autonomă care să aibă o voință intrinsecă de a afla mai multe despre lume și despre oameni. Consider că AI este antrenat pe datele produse de oameni și este condiționat de liniile de cod să încerce să afle mai multe.
Matei Someșan este student în anul I la Facultatea de Litere din cadrul Universității „Babeș-Bolyai” din Cluj-Napoca.
Credit foto: Wikimedia Commons
