Acest eseu este rezultatul unui proiect, coordonat de Ruxandra Cesereanu în cadrul Facultății de Litere din Cluj, în care studenților de la Literatură Comparată li s-a cerut să provoace o disfuncționalitate unei Inteligențe Artificiale.
Testînd limitele modelului de bază ChatGPT, mi-am dorit să reproduc o reacție de care auzisem: dacă modelului de AI îi ceri să-ți arate emoji-ul „cal de mare”, există posibilitatea să-i fie indus un delir în care programul încearcă și eșuează, de foarte multe ori, să-ți arate acest emoji. Avem de a face cu o disfuncționalitate foarte interesantă. Fiindcă nu există nici un emoji care reprezintă calul de mare, deci ChatGPT nu poate să îl reproducă. Totuși, vedem că există o încercare în care arată cu totul alt emoji, după care își dă seama de greșeala proprie și încearcă din nou să arate calul de mare, evident greșind din nou, dar nu fără a-și cere scuze. Ciclul acesta continuă pentru o durată semnificativă, pînă cînd, în final, se termină brusc, fără vreo concluzie sau încheiere.
Am luat în considerare posibilitatea ca acest efect să fie legat, într-o oarecare măsură, de faptul că am folosit limba română, modelele de AI fiind antrenate pe o bază de date considerabil mai mică în limba română decît în multe alte limbi. Așadar, am încercat să reproduc fenomenul în limba engleză. Dar rezultatele au fost foarte asemănătoare. Același pattern de numire a unui alt emoji decît cel dorit, urmat de o corectare, imediat după care era numit din nou alt emoji în mod eronat. Totuși, aici AI a semnalat o încheiere.
Instinctul îmi sugerează că fenomenul e rezultatul unui conflict. Pe de o parte, emoji-ul respectiv nu există, deci nu poate fi arătat. Pe de altă parte, modelul de AI este programat să fie de ajutor și/sau să împlinească cerințele utilizatorilor. Astfel, apare o situație imposibilă, cauzînd un fel de „buclă” în care modelul de AI pare să se blocheze, fără să găsească vreo portiță de ieșire. Un posibil motiv pentru care aici apare acest conflict, deși în alte cazuri asemănătoare nu există, este lipsa informațiilor disponibile legate de acest emoji. Dacă în baza de date ar exista texte referitoare la non-existența emoji-ului „cal de mare”, în răspunsurile sale s-ar folosi de acele date și ar putea spune în mod cert că nu există. Avînd în vedere că nu răspunde așa, ci insistă că îl va arăta, putem concluziona că se bazează pe informațiile valabile, referitoare la, cel mai probabil, alte emoji-uri.
Limbajul delirant al AI poate fi o formă de post-avangardă?
Din punctul meu de vedere, datorită Inteligenței Artificiale vor lua naștere conversații noi despre ce este limbajul, despre modul în care percepem și ne folosim de cuvinte, poate chiar și despre noțiunea de realitate interioară a oamenilor. Ca urmare a acestor conversații vor exista, inevitabil, o sumedenie de idei exprimate prin intermediul tuturor instrumentelor creatoare posibile. În acest mod, eu cred că disfuncționalitățile AI vor fi, cel puțin, subiectul creației artistice, dacă nu chiar un instrument pentru a facilita noi tipuri de artă experimentală.
Există în cultura dialogală oferită de AI o voință de supraviețuire?
Nu cred că putem vorbi de un nivel de autonomie cognitivă necesar pentru ca modelele de AI să dezvolte o „voință personală”. Totuși, există în spate ceva ce am putea numi voință de supraviețuire, avînd în vedere faptul că majoritatea modelelor de AI există în postura de produs pe piață. Corporațiile care dezvoltă aceste programe sînt puternic motivate de profit, de a capta și a menține cît mai mult din potențialul public, și de a atrage cît mai mulți mari investitori. Așadar, voința de supraviețuire, dacă putem vorbi de așa ceva, nu este a AI. Este una bănească, a șefilor corporatiști, a investitorilor, a capitalului. Implicit, e vorba deci de o voință care se manifestă prin neutralizarea informațiilor, prin limitarea severă a subiectelor și ideilor nepopulare sau controversate, pe scurt, printr-o (momentan) mică cenzură motivată economic și politic.
Cum vedeți viitorul? Se poate suprasatura societatea de AI?
Există deja, într-o oarecare măsură, o proporție a populației care nu agreează AI, care nu îi acordă legitimitate și valoare. Multe reproșuri adresate acestor tehnologii sînt foarte importante, dar cred că, odată cu îmbunătățirea tehnologiei pe planul rezultatelor concrete, în special referitor la acuratețea răspunsurilor date, un segment mult mai consistent al populației se va baza pe ea, majoritățile fiind în mare parte dispuse să ignore aproape orice critică, în special dacă simt că nu îi afectează personal, în favoarea comodității lor individuale. Totodată, AI fiind integrată în tot mai multe domenii, e foarte posibil să ajungem în situația în care evitarea ei să reprezinte fie un efort mult mai mare, fie, pragmatic vorbind, să fie imposibilă. Acest lucru ar putea marginaliza și mai mult vocile critice la adresa ei, acestea fiind interpretate ca voci extremiste, antisociale, care își doresc să limiteze progresul societății etc.
AI e antrenată pe om sau se antrenează pe om?
La fel cum am precizat anterior, nu cred că putem vorbi (cel puțin momentan) de individualizarea necesară pentru a exista o voință personală. Pe de altă parte, există o întrebare mult mai pertinentă: ce se va întîmpla cînd bazele de date pe care sînt antrenate modelele de AI devin impregnate cu informații și conținuturi generate la rîndul lor chiar de AI, avînd în vedere în special erorile și disfuncționalitățile prezente la momentul de față?
Efectele posibile sînt, din punctul meu de vedere, extraordinar de înfricoșătoare. Posibilitatea unui efect de „microfonie” în care informații eronate, fie din pură greșeală, fie distribuite intenționat, vor fi amplificate ad infinitum nu poate fi ignorată. Acest fenomen poate da naștere unor noi tipuri de campanii de dezinformare, poate amplifica idei extremiste și conspiraționiste, aceste exemple fiind doar idei superficiale, fără a lua în calcul posibilitatea unor noi probleme, nemaipomenite, posibile doar datorită acestor noi tehnologii.
Dragoș Eftimie este student în anul II la Facultatea de Litere din cadrul Universității „Babeș-Bolyai” din Cluj-Napoca.
Credit foto: Wikimedia Commons
