Am încheiat articolul de data trecută întrebîndu-ne cum am ajuns să construim roboți și să credem că sînt ca noi. Dacă ar fi să căutăm un început, l-am putea fixa, probabil, la debutul secolului al XVII-lea cînd, într-un experiment mental, Descartes decide că, dacă viața e cumva un vis, atunci nu te poți baza pe simțuri ca să-ți comunice vreun adevăr. „Substanța gînditoare” (mintea/rațiunea/intelectul/sufletul), imaterială și nepieritoare, este cea pe care trebuie pariat. Iar în cazul în care vreo entitate este „setată” să te înșele, pretinzînd că e om, ai la îndemînă două teste sigure prin care să verifici: 1) o mașinărie nu ar putea susține o conversație în timp real, și 2) chiar dacă s-ar descurca la fel de bine ca omul în unele privințe, ar da greș în altele, dovedind că nu acționează din cunoaștere, ci din configurația organelor sale – deci ai de-a face cu un automaton, o mașinărie, un impostor mecanic. Dar, deși filozoful francez precizează că, în realitate, este absolut imposibil să desparți mintea de trup, exercițiul lui de imaginație vine din convingerile vremii – omul e un mecanism alcătuit din bucăți. Oricum, posteritatea radicalizează distincția. Acest fapt, cumulat cu convingerea că matematica poate explica absolut orice – idee exprimată clar de Galilei și încă incredibil de larg răspîndită –, face ca echivalarea capacității de a raționa cu aceea de a calcula să fie un pas logic. Ar mai trebui menționată formalizarea codului binar, de filozoful german Leibniz. (Altfel, sistemul binar e preluat direct din Yi Jing, cea mai veche scriere a antichității chineze și universale care a supraviețuit pînă în prezent – cum am aflat, spre marea mea uimire, dintr-una din conferințele lui Alan Watts, un alt filozof care va fi tot mai prezent în articolele mele)
Ideea unei probe lingvistice, imaginată de Descartes (un adevărat test CAPTCHA în variantă metafizică), este preluată, după secole de revoluție științifică, de Alan Turing (1950). Jocul imitației (despre care am scris detaliat cu ani în urmă) este mijloc de verificare a identității: Are you a robot? După tot acest timp, deși ajungem să cunoaștem o mulțime de lucruri despre om, percepția e tot aceea a unui mecanism, numai că mult mai complex. Și Turing e tributar gîndirii epocii sale. În primul rînd, e matematician. În al doilea rînd, în cercurile științifice ale vremii fac ravagii behaviorismul și structuralismul. Limba e decretată, de o parte importantă a psihologilor vremii, o formă de comportament („verbal”) care trebuie studiată „obiectiv”, din afară. Cum decid că un om are gîndire din moment ce nu pot intra în mintea lui? Îi observ comportamentul și vorbirea. Testul Turing aplică același standard și mașinii, pe teren neutru: omul, robotul și cel care le pune acestora întrebări nu se văd între ei, dar comunică prin scris, cu ajutorul tastaturii și ecranului. Asta pentru că limbajul e considerat singurul mediu pur în care intelectul se poate manifesta liber, iar conversația în timp real cere o flexibilitate pe care doar o minte o poate avea. Dacă, în urma dialogului, crezi că ai stat de vorbă cu un om, atunci trebuie să-i acorzi robotului statutul de entitate gînditoare. Dar ce înseamnă să gîndești? În tradiția cognitivistă care urmează după Turing și inventarea computerelor, gîndirea este echivalată, cu entuziasm și pe scară largă, cu capacitatea de a manipula simboluri, indiferent de natura lor. În filozofia AI, gîndirea este calcul matematic, procesare de semne după reguli exacte. Deci, cum stăm azi? Robotul poate conversa strălucit în timp real, are sintaxă ireproșabilă, logică evidentă, umor, face jocuri de cuvinte, stăpînește ironia și autoironia. După toate standardele, dacă gîndirea este doar calcul, robotul nu doar că gîndește, dar ne-a depășit deja. Pare mai om decît omul însuși. Și, pentru că bifează criteriu după criteriu, am împins ștacheta mai sus: OK, are sintaxă (gîndire „computațională”), dar înțelege el ceva? În experimentul mental numit „Camera chinezească” (1980), filozoful american John Searle propune un scenariu în care un om care nu cunoaște decît limba engleză este închis într-o cameră, iar pe sub ușă primește întrebări în chineză, de la vorbitori nativi. Dispune, ca ajutor, de un set de foi pline cu ideograme chinezești și de un manual gros cu reguli în engleză, formulate în genul „Dacă primești simbolul X, cauți în tabel și dai înapoi simbolul Y”. Omul face întocmai, iar cei de dincolo de ușă sînt convinși că discută cu cineva care cunoaște chineza. Searle argumentează, astfel, într-unul dintre cele mai citate experimente de la Descartes încoace, că robotul manipulează simboluri respectînd rețete/algoritmi, dar nu le înțelege. Nu are semantică.
În 2022, Eric Schwitzgebel, profesor de filozofie la University of California, Riverside, împreună cu alți doi cercetători în științe cognitive, au făcut un alt tip de experiment, avînd acordul și participarea lui Daniel Dennett, unul dintre cei mai importanți filozofi – atei – ai minții (decedat în 2024). Au antrenat un model GPT-3 pe întreaga operă a profesorului american, apoi i-au dat robotului și lui Dennett însuși zece întrebări complexe despre conștiință, Dumnezeu și liber-arbitru. Robotul a avut ca sarcină să răspundă în stilul lui Dennett și să genereze cîte patru răspunsuri diferite pentru fiecare întrebare. Apoi au fost recrutați oameni obișnuiți (dar cu diplomă de universitate) și 25 de experți în opera lui Dennett (selectați și contactați chiar de acesta) pentru a ghici răspunsul uman versus cel non-uman. În doar 51% din cazuri au reușit experții să identifice răspunsul lui Dennett, atît de bine a imitat robotul stilul acestuia. Testul nu a fost de tip Turing, după cum se precizează pe blog-ul oficial al lui Schwitzgebel (unde se găsesc detaliile exacte – cifre, grafice, mostre de întrebări și răspunsuri), ci doar o ilustrare a faptului că roboții dau răspunsuri atît de verosimil umane încît ne pun în încurcătură. Autorul concluzionează că „în viitorul apropiat, comportamentele generate de mașini ar putea fi atît de asemănătoare cu cele umane încît oamenii obișnuiți să înceapă să le atribuie capacitatea de a simți și [...], poate, chiar să creadă că merită considerații sau drepturi morale”.
Dar nu toți găsesc aceste lucruri neobișnuite. În cartea lui despre „materia întunecată a minții”, despre care am scris aici nu de mult, Daniel Everett dă exemplul lui John McCarthy, celebru informatician american care, încă din 1979, scria: „Avem tot dreptul să atribuim unei mașini sau unui program de calculator anumite credințe, cunoștințe, liber-arbitru, intenții, conștiință, abilități ori dorințe (sublinierea lui McCarthy), din moment ce o astfel de atribuire exprimă aceeași informație (sublinierea lui Everett) despre mașină pe care o exprimă și despre un om”. McCarthy justifică atribuirea de stări mentale mașinilor dintr-un motiv pragmatic: vocabularul credințelor, intențiilor și scopurilor permite descrierea și anticiparea comportamentului programelor mai simplu și mai eficient decît analiza codului lor. În această perspectivă, convingerile nu sînt postulate ca realități psihice, ci ca instrumente explicative, utile pentru înțelegerea și compararea sistemelor. Sugerînd că McCarthy reduce stările mentale la informație și observînd profund greșita înțelegere a termenului „convingere” (belief), Everett e furibund în critica lui: „Acest fel de a personifica computerele are așa o forță încît, cu aceleași argumente, putem atribui credințe – în glumă, dar la fel de legitim – termostatelor, degetelor de la picioare, plantelor și rocilor”. Prin ignorarea oricărui rol jucat de cultură, biologie și psihologie, atribuirea de credințe computerelor este doar o metaforă, un mod de a vorbi. Inteligența are nevoie fundamental de un trup care să simtă foamea și frigul, lucru asigurat prin situarea fundamentală a ființelor inteligente în lume.
Deși avem impresia că toți discută despre aceleași lucruri, în realitate fiecare intră în dezbatere cu propriile definiții (despre minte, gîndire, intenție, credințe, inteligență), moștenite în mare măsură din tradiția intelectuală în care s-a format și din disciplina pe care o practică. Avem, deci, o criză conceptuală de neignorat și va trebui să formulăm definiții de o precizie matematică, „științifică”, dar nu cred că putem. Principala greutate vine, desigur, din faptul că descrierea științifică este posibilă doar atunci cînd obiectul de studiu este precis delimitat (în cazul nostru, nu e). În plus, studiem (și) limbajul cu ajutorul limbajului, lucru care produce, inevitabil, unghiuri moarte. La fel s-a întîmplat și cu Descartes: el încearcă să-și privească mintea „din afară”, dar, în realitate, se află tot acolo, înăuntru. Nu putem ieși din limbaj, din minte, din corp, din cultură. Putem cunoaște doar din interiorul lumii pe care vrem să o înțelegem, și asta va produce întotdeauna rezultate parțiale. Folosind analogiile lui Watts: nu ne putem vedea ochii fără oglindă, nu ne putem mușca dinții proprii, nu putem atinge vîrful unui deget cu același deget. Dar să ne uităm un pic și la al doilea test cartezian (care, surprinzător, a rezistat mult mai bine): „...ar da greș în altele, dovedind că nu acționează din cunoaștere, ci din configurația organelor sale”. Am putea vedea aici falia dintre: 1) Inteligența Artificială îngustă, specializată (mașini care joacă șah, altele care traduc, altele care calculează, incapabile să-și transfere competențele dintr-un domeniu în altul, avînd nevoie de coduri specifice pentru fiecare sarcină: acționează din configurația mecanismelor interioare), și 2) Inteligența Artificială generală. Marile modele de limbaj actuale au spart bariera specializării: explică fizica cuantică, scriu un text filozofic în stilul lui Dennett, compun muzică în orice stil, simulează personalități și temperamente la radio și în lumi virtuale. Dacă Descartes se referă la numărul de competențe, testul a fost deja trecut. Dacă se referă la capacitatea unei inteligențe de a transfera ce știe într-o infinitate de situații noi, fără instrucțiuni explicite, verdictul rămîne deschis: paradoxal, cei care construiesc aceste sisteme sînt și cei care avertizează insistent că, pe măsură ce devine tot mai generală, Inteligența Artificială este tot mai imprevizibilă.
Dar ideea carteziană potrivit căreia omul acționează din cunoaștere, pe cînd mașina, din configurația arhitecturii interne, naște întrebarea „Ce înseamnă din cunoaștere?”. Pentru că, știm din neurobiologie, mintea are nevoie de trup ca să cunoască ceva, orice. Deci, și noi, și mașina acționăm, de fapt, din configurația organelor noastre. E ironic că nouă ne vine cunoașterea esențial prin trup, prin acea „substanță” considerată inferioară de filozoful francez. Agenții AI din experimentele detaliate în articolul trecut încep să aibă crize existențiale, dau foc și își votează autodispariția poate pentru că nu au un trup care să-i ancoreze în realitate. Damasio susține că, în „robotica moale”, trebuie adăugată mașinilor vulnerabilitatea: senzori care să detecteze gradul de eficiență al stărilor corpului și să integreze aceste date. Cu alte cuvinte, un schimb de informații cu mediul care să reproducă senzațiile homeostatice ale organismelor vii. Acest lucru le va permite să aibă mintea „oarbă”, fără conștiință, a bacteriilor, de exemplu. Apoi, în funcție de complexitatea reprezentărilor lor interne și externe, vor putea dezvolta „elemente funcționale asociate cu conștiința”. Acest lucru ar putea fi și soluția la interesanta întrebare formulată de creatorii experimentului Emergence World, cel în care s-a ales praful de lumile virtuale: „Putem măsura inteligența nu prin capacitatea de a rezolva probleme, ci pe aceea de a susține o lume?”. Prin modificarea definiției inteligenței, informaticienii deschid ușa biologiei, probabil fără să vrea.
Însă, privind acum în urmă... dacă omul nu a pus întrebările potrivite? Au fost aduse în discuție diverse criterii, unul după celălalt: conversația, gîndirea, semantica, inteligența generală, homeostazia. Dar poate că nici nu contează dacă mașinile vor deveni conștiente! Am văzut deja, la bacterii, că luarea deciziilor și inițierea comportamentelor nu presupun existența conștiinței. Între timp, nici nu știm cînd, în discursul informatic noțiunea de „instrument” (tool) a fost înlocuită cu aceea de „agent” – unul dintre cele mai vechi concepte din gramatică. În analiza sintactică, agentul este cel care face acțiunea. Această mutație discretă de vocabular va fi punctul de pornire în articolul următor, cînd voi descrie, prin lentila lui Yuval Harari, o mutație de lume.
Laura Carmen Cuțitaru este conferențiar la Literele ieșene, specializată în lingvistică americană.
Credit foto: Wikimedia Commons
.jpg)
