Cu cîteva săptămîni în urmă am primit invitația să contribui la acest grupaj despre cum Inteligența Artificială ne schimbă (sau deja ne-a schimbat) percepția asupra realității. O coincidență neobișnuită, pentru că tocmai reflectam asupra modului în care realitatea mea și, cel mai probabil, a tuturor bucureștenilor fusese deja transformată de „domul de foc” sub care am fost cu toții captivi cîteva zile. Pe măsură ce temperatura creștea, încrederea în posibilitatea unui viitor confortabil pentru generațiile viitoare era topită de căldură, împreună cu cheful și dorința de muncă.
Tot chinuindu-mă să găsesc un subiect potrivit, am apelat la deja faimosul ChatGPT. I-am spus ce temă am de făcut, i-am dat cîteva dintre articolele mele ca sursă de inspirație și l-am rugat frumos să mă ajute să găsesc un unghi potrivit. Toate cele cinci idei generate au fost o variație pe tema (deja loc comun) despre cum ne va fi din ce în ce mai greu să ne dăm seama ce este produsul Inteligenței Artificiale și ce al celei umane. „Idei total greșite”, mi-am spus, căci numai unui ochi neformat filosofic i-ar fi fost greu să își dea seama că în spatele așa-ziselor idei nu se afla un om cu interese și perspective proprii.
De dragul experimentului, i-am spus lui ChatGPT că este foarte plictisitor, iar mașina, dornică să îmi facă pe plac și dorind să îmi fie utilă, s-a oferit imediat să îmi dea cîteva sfaturi despre cum ar trebui să abordez un articol pentru Dilema. Se pare că textul ar trebui să: „1) fie personalizat, cu reflecție eseistică și aluzii culturale (poți adăuga un citat din Cioran, Kundera, Orwell sau Barthes); 2) prezinte o tensiune între ton alarmist și prudență lucidă; 3) evite jargonul tehnic: explică LLM ca modele lingvistice mari, adică programe capabile să genereze text aproape uman”. În sfîrșit, niște sfaturi de care mă pot lega, cum ar fi zis Kundera!
Tonul alarmist
Oricît de banale pot părea aceste sfaturi, ele și-au făcut treaba: m-au stîrnit să mă gîndesc la ce se întîmplă cînd facem din aceste sisteme parteneri de gîndire și scriere. Problema cea mai mare cu utilizarea ChatGPT și a altor modele mari de limbaj, ce intră sub cupola Inteligenței Artificiale generative, nu este că generează sfaturi sau idei mediocre ori de-a dreptul proaste, ci că oamenii pur și simplu încep să uite de această posibilitate. Riscul de a crede pe cuvînt tot ceea ce mașina generează este mare, tocmai pentru că mașina se pricepe să genereze bucăți de text care sună foarte bine, uneori mai bine decît ceea ce ar putea scrie vreodată unii dintre noi.
Însă ChatGPT & co. nu se limitează la a ne ajuta să scriem mai repede; încet și discret, modelele mari de limbaj ajung să influențeze felul în care gîndim. Asta pentru că scrierea, transpunerea materială a ceea ce gîndim, nu este un simplu rezultat, ci chiar procesul de formare a gîndirii. Cînd scriem un text, de fapt, gîndim; reîntorcîndu-ne asupra a ceea ce am scris, ștergînd și rescriind, corectînd și editînd, cristalizăm și rafinăm ceea ce voiam să spunem. Scrisul este un proces neliniar și recursiv, în care actul de a compune modelează gîndirea însăși. Cînd această muncă e externalizată mașinilor, nu doar stilul are de suferit, ci și gîndirea care îl susține.
Această teamă nu e doar speculație. Diverse cercetări au observat o legătură clară între utilizarea frecventă a IA-ului și o scădere a angajării cognitive, o memorie de lucru mai slabă și o dependență în creștere față de aceste instrumente pentru orice formă de înțelegere. De exemplu, un grup de cercetători avertiza că folosirea prelungită a IA-ului în activități intelectuale poate „inhiba angajarea critică și conduce în timp la o scădere a capacității de rezolvare autonomă a problemelor”.
Cu alte cuvinte, delegînd scrierea lui ChatGPT, de fapt îi delegăm și gîndirea. Uneori acest lucru ne poate face mai eficienți. Dar eficiența nu este singura valoare pe care ar trebui să o urmărim. Pe lîngă ea se află coerența, autonomia cognitivă, virtuțile epistemice și morale etc. Modelelor mari de limbaj le lipsesc toate aceste trăsături de caracter (pentru că, în fapt, nu au caracter).
Prudența lucidă
Totuși, pe cît de îngrijorător este scenariul descris mai sus, nu este prima dată cînd privim cu suspiciune o tehnologie nouă, temîndu-ne că ne va face mai superficiali ori, ca s-o spunem pe cea dreaptă, mai proști. Ca de obicei, Socrate este cel ce a dat naștere trend-ului. În Phaidros, el explică cum scrisul (o tehnologie și el) va afecta negativ felul în care gîndim, căci atrofiază memoria și, implicit, capacitatea de a înțelege cu adevărat semnificația textului parcurs. Frici similare au apărut în legătură cu toate tehnologiile de transmitere a informației, de la telegraf la telefon și, mai ales, Internet. Și totuși, în ciuda acestor previziuni sumbre, capacitățile noastre cognitive nu s-au atrofiat complet.
În fapt, oamenii au căutat întotdeauna să delege sarcini, mai ales acelea care sînt repetitive și plicticoase. Tocmai pentru astfel de nevoi au fost create tehnologiile. Sîntem homo ludens numai în măsura în care putem fi și homo delegans; adică avem nevoie să delegăm pentru a ne crea spațiu mental și timp real pentru ceea ce ne pasionează și ne stimulează. Iar scrisul nu este o excepție. Uneori e o plăcere să scrii, alteori scrisul e o corvoadă. Nu orice tip de scriere presupune gîndire creativă și angajată. Așa că, cel puțin teoretic, ChatGPT & co. pot fi folosiți tocmai pentru acele sarcini care ne plictisesc și epuizează, eliberîndu-ne astfel energia pentru ceea ce contează cu adevărat. Sau, pur și simplu, putem transforma Inteligența Artificială generativă într-un fel de „groapă de nisip”, un spațiu sigur în care să testăm idei, stiluri și forme, fără consecințe.
Deci să fim drepți: nu ChatGPT ne face mai înceți la minte, mai docili și mai ușor de mulțumit. Ceea ce contează, de fapt, este felul în care îl folosim. Îi putem da în grijă acele texte de formă, de pildă, e-mail-urile administrative, repetitive și adesea inutile, pe care le redactăm zilnic cu un oftat. În felul acesta, nu folosim Inteligența Artificială ca pe o cîrjă, ci ca pe un instrument care ne eliberează timp și energie pentru ceea ce ne place și chiar vrem să facem.
Dincolo de bine și de ChatGPT
Conform lui ChatGPT, aș putea să mă opresc cu textul aici, pentru că am bifat toate sfaturile: această mică încercare de text are aluzii culturale, arată o tensiune între alarmism și luciditate și e scris într-o voce personală. Și totuși, ceva nu se leagă. Dacă nu aș fi eu cea care l-a scris și doar l-aș citi, aș fi extrem de dezamăgită. Această grijă de a nu greși și de a nu jigni, de a sta undeva într-o cale de mijloc și a te feri de poziții tari, de a te acoperi cu citate deștepte din autori și mai deștepți este marca mediocrității.
Nemulțumirea aceasta trădează, de fapt, o problemă mai profundă: cum putem urmări impactul tehnologiilor asupra modului în care percepem lumea, dacă ele sînt deja cele care structurează felul în care o gîndim și ne exprimăm? Se spune adesea că efectele unei tehnologii depind de felul în care este folosită. Și e adevărat, într-o oarecare măsură. Trebuie, însă, să ne uităm dincolo de intenția utilizatorului, la posibilitățile pe care le deschide orice nouă tehnologie. De exemplu, un calculator de buzunar poate fi folosit într-un proces matematic complex, dar, în esență, este un instrument limitat: execută operații aritmetice sau logice. Rapid, eficient, dar fără să înțeleagă de ce. Nu propune ipoteze, nu sugerează drumuri noi.
Însă Inteligența Artificială generativă joacă la un alt nivel: poate construi texte elaborate pornind de la un enunț vag, poate simula coerența, poate da impresia că în spate s-a aflat un proces de gîndire. Și exact aceasta este problema.
Scrisul se folosește de limbaj, iar limbajul nu este un simplu instrument. El ordonează lumea și felul în care o percepem, pentru că ne furnizează categoriile și conceptele cu care interpretăm realitatea. Atunci cînd îi delegăm lui ChatGPT procesul de a scrie, îi delegăm o parte din arhitectura gîndirii noastre. Mai simplu spus, lăsăm o mașină să decidă într-un mod aleatoriu, și în lipsa oricărui angajament valoric, ce concepte merită și trebuie folosite, ce nuanțe se potrivesc și ce ton e mai adecvat. Iar în acest gest aparent banal se ascunde o renunțare subtilă: aceea de a mai decide singuri cum arată lumea, în cuvinte care ne aparțin. Cred că e un sentiment universal acela de enervare atunci cînd altcineva vorbește în locul nostru, tocmai pentru că știm că nu are cum să știe care este, de fapt, perspectiva noastră. Atunci de ce îl lăsăm pe ChatGPT să o facă?
Modelele mari de limbaj și, mai general, Inteligența Artificială generativă nu ne schimbă percepția asupra realității brusc sau evident, ci ușor-ușor, printr-o serie de acțiuni aparent banale: sugerîndu-ne cum și în ce termeni să ne exprimăm. Ne obișnuiesc cu coerența fără reflecție și cu răspunsul fără căutare. Și poate că aici e adevărata schimbare: nu în ceea ce vedem și percepem, ci în disponibilitatea de a privi lumea cu propriii ochii, de a ne pune întrebări, a căuta sens și a alege conștient cum înțelegem realitatea.
Cristina Voinea este cercetătoare la Uehiro Oxford Institute, Universitatea din Oxford, și la Centrul de Cercetare în Etică Aplicată, Universitatea din București.
