Există un eseu instructiv al lui Edgar Allan Poe, intitulat „Jucătorul de șah al lui Maelzel“. Confruntat cu un dispozitiv mecanic în formă de om, despre care fabricantul său afirmă că joacă șah automat și poate învinge orice om, autorul analizează, în manieră polițistă, diferite indicii și acumulează dovezi, potrivit cărora, în realitate, automatul, denumit „Turcul”, este „populat” în interior de o ființă omenească (un pitic). Acesta îl conduce pe ascuns, acționînd de la distanță un braț mecanic care mută piesele pe o tablă de șah și face și alte semne. Mi s-a părut semnificativ că dovada decisivă adusă de Poe că „Turcul” era o înscenare este faptul că, deși juca șah extrem de bine, totuși uneori se întîmpla să mai piardă cîte o partidă. Însă „este cu totul sigur că automatul nu comite erori. Or, așa ar sta lucrurile dacă mașina ar fi o mașină pură. Dar ea greșește. Prin urmare, nu este o mașină pură”, scrie Poe. Așadar, argumentează el, dacă am avea de-a face cu o mașină gînditoare, ea ar juca perfect, deoarece, odată ce o mașină a ajuns să poată face un lucru sau o acțiune, ea nu le poate face decît perfect de fiecare dată și permanent în toate cazurile similare. (Evident, automatul s-ar putea strica, dar atunci n-ar funcționa deloc sau ar funcționa aberant, încălcînd regulile jocului. Dar odată ce joacă corect, nu poate juca decît perfect, crede Poe.) Excepția indică faptul că acolo acționează nu o mașină, ci o inteligență omenească, una care, oricît de ageră ar fi, rămîne, precum bine se știe, failibilă. Un automat care să greșească, așadar indistinct de om și sub raportul posibilității erorii, ar fi fost o contradicție în termeni, după autorul american, deși – în limbaj modern – el ar fi trecut „testul Turing”.
Ideea lui Poe despre automate era așadar că ele sînt perfecte, spre deosebire de om. Idee falsă. Căci perspectiva noastră, derivată din experiența cu AI, pare să fie tot mai mult că, dimpotrivă, ele nu sînt perfecte. Am putea să formulăm și altfel: Inteligența Artificială a ajuns să imite atît de bine inteligența omenească, încît devine în stare nu numai de performanțe „pozitive”, dar și de unele negative: se reclamă de către mulți utilizatori că ea poate să falsifice informații, să mintă, să „delireze”. Sînt consemnate cazuri de erori flagrante, unele se pare făcute „intenționat”, dacă se poate spune astfel despre o mașină. Pe undeva e normal: de vreme de AI este antrenat pe baza a milioane și milioane de texte de pe Internet, ale căror structuri, date și stereotipuri le imită, pare firesc să cadă din în cînd în erorile noastre cele mai frecvente sau să preia falsuri, și așa mai departe. Dacă AI ajunge să ne emuleze atît de bine, încît trece tot mai bine diferite variante de „test Turing”, e inevitabil să ne preia treptat și gafele, absurditățile, să ne reproducă tipurile de falsuri, minciuni și prejudecăți. Poate că, într-o zi, roboții vor compune ideologii, mituri și chiar o religie – imitații și ele după cele ale noastre.
Am spune chiar că deosebirea roboților noștri reali față de automatele fictive imaginate de Poe stă tocmai în imperfecțiunea lor funciară, și nu doar intelectuală, ci și „morală”. Pe undeva, e chiar o calitate: oricine știe că e mai dificil să minți consecvent decît să spui adevărul. Iar cînd neadevărul intră în sfera obscură a mitologiilor și a prejudecăților, el devine cu adevărat complicat. Va reuși AI să dea greș, să înșele ori să fantazeze întocmai ca și noi? Poate că da, ceea ce poate fi o veste rea pentru utilizatori, care au șanse ca, uneori, să fie frustrați. Sînt posibile accidente, poate chiar catastrofe. Va trebui lucrat aici la măsuri de siguranță. Vor fi supărați și unii filozofi, pentru care failibilitatea era ultimul rest inimitabil de umanitate. Se pare că l-am pierdut și pe el.
O mașină supremă, așa cum o imagina Poe, capabilă să rezolve perfect orice sarcină mentală sau fizică, ar fi fost un zeu. Artificial, dar zeu. Ne-am fi închinat ei și, oricît ne-am fi trufit cu faptul că am creat-o, ne-am fi simțit total depășiți și deveniți dispensabili, în cazul în care ea ar fi dorit-o. Din păcate sau din fericire, nu putem crea zei. Să fim liniștiți: știm acum că, oricît de puternice ar putea fi, mașinile rămîn, în fundamentul lor, aidoma nouă: failibile. În termenii lui Poe, dacă ar fi necesar „să jucăm șah” cu ele, e drept că de cele mai multe ori ne-ar bate; totuși, din cînd în cînd, victoria ne-ar aparține nouă – și asta, la nevoie, ar putea fi decisiv. „Șahul” cu un dumnezeu însă, indiferent de natura lui, din moment ce unilateralitatea partidei ar fi totală, își pierde orice sens: cînd ești în mod necesar și fatal învins de la bun început, de ce ai mai juca – șah sau orice altceva?
