de Costas Polinakis
În urmă cu vreo zece ani, la firma la care lucram foloseam niște senzori optici de la un producător german, leader în domeniu. Noile modele pe care le achiziționam aveau în instrucțiuni o secțiune “how to teach the sensor”. Ceea ce pînă atunci era cunoscut ca “setare” sau “configurare”, acum era denumit “învățare”. Practic, să adaptezi aparatul nevoilor tale, să-l înveți cu mediul în care urmează să-l folosești. Probabil că modelele actuale au nevoie doar “să le explici ce trebuie să facă”. Dacă un aparat așa de simplu, care imită o funcție primară – percepția – este atît de „deștept” încît trebuie învățat, de ce n-am vorbi, în cazul software-urilor complexe, cum sînt cele din spatele chatbot-urilor actuale, despre inteligență?
Calculatorul ultra-performant a trecut de mult de nivelul „răspund la stimuli”. Nu numai că răspunde la stimuli mult mai bine decît omul și decît orice altă specie („vederea” calculatorului poate fi mult mai sensibilă, „auzul” de asemenea, de fapt oricare dintre simțuri a fost imitat cu succes). Dar și „interpretează”. Găsește soluții, evaluează situații, rezolvă scenarii. În fracțiuni de secundă, ba chiar mai multe procese deodată (spre deosebire de om, care de obicei trebuie să se concentreze asupra unui subiect). Și de fiecare dată cu aceeași precizie. Cu ce instrumente însă? Cu algoritmii de care tot auzim în ultima vreme și cu imensa bază de date cu care îl încarcăm.
Și atunci îl numim „sentient” (care are puterea de a percepe sau de a simți; conștient), iar lumea rămîne cu gura căscată și se întreabă dacă nu s-a ajuns prea departe. Blake Lemoine, inginerul de la Google căruia i-a scăpat informația, este concediat, iar zeci de ziariști stau și dezbat în publicații serioase despre „ce au inventat ăștia și ne ascund”. Dacă sîntem dintre cei copleșiți de noutăți și care consideră că chatbot-ul are conștiință de sine, poate ar trebui să ne întrebăm mai degrabă despre inteligența noastră. Un specialist se cade să fie mai circumspect. Un programator serios, cu atît mai mult un psiholog sau un neuropsiholog. E adevărat că “sentient” sună fain, latinește, dar la fel de adevărat este și că exprimă ceva vag. Poate chiar producătorii se feresc să spună “conștient”, “rațional” sau și mai incitant, că percepe senzațiile, că “simte”. Același Blake Lemoine susține că în curînd nu va mai conta dacă un creier conține miliarde de neuroni sau miliarde de linii de program.
Henri Bergson credea că informația ar fi putut să fie procesată și la nivel inferior (chiar la nivel spinal) și organismul să funcționeze fără creier, dînd răspuns imediat la stimulii din mediu. Dar “întîrzierea” asta provocată de devierea (și) spre creier (mediere) a informației folosește de fapt unui scop mult mai important: formarea conștiinței. La calculator putem spune că “întirzierea” este practic inexistentă, viteza lui de procesare depășește cu mult capacitatea noastră de discernamînt. Păi în cazul calculatorului avem numai cortex, este deci o conștiință din siliciu închisă într-o cutie metalică? Nu cumva are nevoie și de restul organismului pentru a avea ce să conștientizeze”?
Enzo Scilingo, cercetător în domeniul bioingineriei la Universitatea din Pisa, dă un exemplu concret de situație în care s-ar putea găsi cineva care stă de vorbă cu un chatbot evoluat. Sentimentul de „teamă” poate fi indus calculatorului. Algoritme complexe îl pot face să “creadă” că, în anumite situații, va trebui să „simtă” teama, respectiv să dea un răspuns adecvat, convingător. Dar cum poate să simtă cu adevarat că îi este teamă, cînd de fapt acesta este un sentiment specific unui organism, de a răspunde la mediu cînd îi este ostil. Pur și simplu, trebuie să ai corp ca să simți că ești în pericol, că anumite condiții externe trebuie evitate tocmai pentru că îți pot dăuna ție, ca un tot, ca un organism în care creierul este doar o parte (dar o parte foarte importantă, responsabilă pentru buna funcționare a întregului). Un algoritm complex poate descrie perfect un sentiment (face “ce este învățat să facă”), dar nu înseamnă că și simte. Dacă un chatbot pretinde că îi este teamă, iar eu îl cred, asta este numai problema mea, concluzionează cercetătorul italian. De altfel, omul are o tendință naturală spre animism. Obișnuim să “însuflețim”, sau măcar să atribuim caracteristici umane (inclusiv nume) obiectelor, ca și altor specii, mai ales cînd au o valoare emoțională importantă pentru noi.
Dacă ne educăm cîinele să urmeze docil comenzile noastre (educație care de obicei începe tot cu răspundere la stimul), spunem că este „inteligent”. Ne-am obișnuit să spunem despre ceva (inclusiv, sau mai ales, despre mașinării) ca este “smart”, dacă are comportament care ne seamănă sau dacă execută funcțiuni complexe, specifice omului, dacă ne suplinește atribuții. Pur și simplu antropocentrism.
Recent, Bill Gates s-a plîns că și utilizatorii sînt de vină pentru eșecurile chatbot-ului Bing, care s-a făcut de rușine chiar de la lansare. Păi dacă-l înveți prostii, prostii o să-ți răspundă. Cum îl crești, așa îl ai. Un lucru este clar, calculatorul nu raționează. Și, mai ales, nu are voință proprie. Poate executa însă, cu precizie și perseverență, instrucțiuni. În ultimii ani, din ce in ce mai complicate, datorită unor algoritmi din ce în ce mai complecși. Funcția asta de care se tot vorbește, inteligența generativă, „creativitatea calculatorului”, este în final tot indusă. Pot fi algoritmii super-performanți, nu încetează însă să fie instrucțiuni. Mai putem deci vorbi despre conștiință în cazul calculatorului?
Și aici e unde ne amintim iarăși de Bergson, care chiar înainte ca neuropsihologia să dovedească, a intuit că, de fapt, încrengătura asta complexă de neuroni și conexiunile pe care le fac între ei începînd chiar din naștere, sînt baza a ceea ce numim conștiință. A sugerat natura materială a conștiinței, deși mulți chiar și în ziua de azi refuză să accepte o teorie așa de “simplistă”, că “totul e în creier”. Ba mai mult, acum știm că și „bagajul genetic” este foarte important la formarea ființei, și implicit a conștiinței. În ziua de azi cei mai mulți dintre specialiști sînt de acord că sîntem produsul a cel puțin doi factori importanți: moștenirea genetică și mediul în care te dezvolți/îți desfășori activitatea. Echivalentul “electronic” este deep learning și training data, care la rîndul său folosesc mecanisme naturale, precum experiența dobîndită, recunoaștere de pattern-uri și mimetismul.
Poate ar fi mai corect să tratăm holistic epoca pe care o trăim. Inteligența Artificială face parte (este o consecință) a evoluției noastre. De la Aristotel, care a emis principiile logicii și după care gîndirea nu mai avea motive să fie haotică, este o linie dreaptă. Darwin era chestiune de timp să apară în istorie, iar de la Darwin… o linie și mai dreaptă. Inteligența Artificială este ultimul strat al acestei evoluții. Nu numai că am trecut de la nivelul reflex și de interacțiune ne-mediată, la conșiința de sine și frămîntări existențialiste. Dar am ajuns chiar să ne putem clona pe noi înșine. Copiem natura, și nu e nimic rău în asta. Dimpotrivă, natura are întotdeauna cea mai bună soluție. “Faptul că înțelegem natura încet-încet și nu o descoperim dintr-odată nu ar trebui să știrbească din măreția ei”, spune Richard Dawkins.
După Darwin, toate definițiile privind conștiința, existența, voința ar fi trebuit să conțină o explicație evoluționistă, respectiv materială. Antropologia, sociologia, ontologia se pot împărți în „înainte” și „după” Darwin. Redundant de spus că determinismul, ba chiar și etica, nu-și mai au locul în cunoașterea naturală. Nu există scop (“evolution is blind to the future”, spune același Dawkins). Iar bun/rău, corect/greșit, frumos/urît pur și simplu nu există în natură, ci sînt invenții umane. Din ce în ce mai multă lume înțelege lucrurile astea în prezent (de unde și problemele existențialiste ale celor crescuți cu certitudini). Păi și cum rămîne? Facem ce vrem? Aici apare Kant în peisaj care, deși n-a apucat descoperirea lui Darwin, avea o părere despre cine decide. Acel imperativ categoric, după care nu mai există mecanism de judecată.
În cazul Inteligenței Artificiale cine decide însă? Chiar și atunci cînd machine learning funcționează fără supervisor, putem spune că are capacitate de judecată, ba chiar voință liberă? În învățarea supervizată conceptele sînt deja formate (induse de către programator). La cea ne-supervizată, mașina folosește datele de învățare pentru formarea/diversificarea/clasificarea informațiilor noi. La capătul cîtor șiruri de “if” și “then” putem spune că putem vorbi, în sfîrșit, despre voință liberă? Cîte milarde linii de program (auto-generate sau scrise de om) și cîtă informație acumulată trebuie să epuizăm ca să ajungem să spunem că acel 0 sau 1, true sau false au fost decise – independent – de către calculator? Cît de complicat poate fi un algoritm încît să-l poți numi “categoric”? Una dintre primele aplicații ale Inteligenței Artificiale, “Game of life”, scrisă de matematicianul John Conway prin anii ‘70, a dovedit că, dacă ne jucăm eficient cu pătrățele (celule), mai precis cu algoritmi simpli dar eficienți, putem simula foarte bine apariția vieții și evoluția. “Game of life” este dovada că algoritmii “se pot descurca și singuri”. Atunci de ce n-ar fi mașinile actuale, înarmate cu deep learning și algoritmi super-complecși, capabile de judecată?
Problema principală este că nici în cazul omului nu am căzut de acord asupra unui sistem de valori comun sau, în limbaj tehnologic, “standardizat”. De altfel, acel „imperativ categoric” al lui Kant a fost invocat pînă și de Adolf Eichmann în apărarea sa, în celebrul proces. Omul (monstrul) ăsta, spre deosebire de colegii lui de la Nüremberg care în general se justificau cu „eu doar am executat ordine”, încerca să se disculpe, în fața unui public aproape în exclusivitate evreu, că „toată viața a fost mînat de imperativul categoric”. Tot ce a făcut, a făcut pentru că așa considera el că „era bine”. Așa îi dictase conștiința (varianta protestantă a lui „am fost un dobitoc”). Oricum rolul său, suținea Eichmann în apologia lui, “nu era important”. Era „un simplu pion al sistemului”, era responsabil mai precis pentru coordonarea trenurilor. El era “acarul”. Și, conform convingerilor lui, își făcea treaba “conștiincios”. Nu era însă Kant în public să-l tragă de ureche: ce categoric e, din moment ce rezultatul nu e bun? Înseamnă că nu e “chiar categoric”. Dacă un automobil „inteligent” decide, în 0.001s că trebuie să vireze la stînga, să lovească un nefericit de pieton pentru că virînd în partea opusă ar lovi alte 5 persoane, atunci „judecata” nu este a lui, ci a celor care au scris algoritmele respective. Cel mai bine ar fi să nu folosim în cazul calculatorului „judecată” (cel puțin în sensul lui Kant), ci mai degrabă umilul, banalul „procesare”. Sau și mai precis, evaluare a riscurilor. Fără îndoială că un software poate lua astfel de decizii mai bine, mai rapid, mai eficient și unbiased decît omul. Dar tot cu ajutorul algoritmului creat de om sau cu algoritmul generat de către alt algoritm, creat la rîndul lui de alt algoritm.
Să nu fiu înțeles greșit, nu sînt împotriva Inteligenței Artificiale și a răspîndirii acestei tehnologii. Ba chiar subscriu la îndemnul lui Bill Gates care sfătuia să ne învățăm copiii programare, așa cum îi îndemnăm să învețe limbi străine. Același Bill Gates sugera însă să nu renunțăm la educația clasică. Și nu neapărat școala care, mai ales în societățile noastre conservatoare, de multe ori rămîne în urmă cu adaptabilitatea, uneori corupe în loc să educe și distruge creativitatea copiilor în formare. Evident că nu sînt suficiente nici instrumente ca Wikipedia și Google – iar acum chatbot-urile evoluate – care sînt de fapt mîncare mestecată, iar rezultatul uneori este lîncezirea propriului creier. Lumea de astăzi a devenit foarte complexă și specializată, iar nevoia de Inteligență Artificială este binevenită. Cînd însă telefonul ajunge să fie mai deștept decît noi iar noi să-l privim cu admirație, teamă și să-i atribuim caracteristici umane, atunci avem probleme serioase. Tinerii ăștia care scriu algoritmi ar trebui mai întîi să înțeleagă inteligența naturală, înainte să spună că un produs comercial este “sentient”.
AI este o tehnologie complementară gîndirii noastre, cu foarte mare utilitate (să amintesc numai cît de folositoare este în cercetarea medicală și farmaceutică). Ca orice tehnologie nouă, și periculoasă în mîinile (calculatoarele) unor persoane cu deontologie zero. Cu imperativ categoric nici chiar așa de categoric. Așa cum și atomul domesticit ne poate fi foarte folositor, dar cînd îl pui să facă lucruri rele, poate ucide. Nu încetează însă să fie tehnologie, stăpînită de om și dirijată de om. Un lucru este cert: evoluția există, se întîmplă, nu a încetat și nu va înceta niciodată. Inteligența Artificială este doar o componentă a acestui proces. Dragi boți, cînd veți ajunge la cunoaștere apriorică mai discutăm. Cînd o să ajungeți să fiți deștepți nativi ca noi (aici se cuvine un „lol” mare – poftim, încă un domeniu în care Inteligenței Artificiale îi va fi greu să ne imite: ironia).
Mai avem mult pînă să ajungem să vorbim despre conștiință în cazul calculatorului (dacă se va ajunge vreodată; eu personal mă îndoiesc). Mai ușor îmi este să cred că s-ar putea simula visele. Nu neapărat mioare electrice, dar orice activitate manifestată în circuite după ce calculatorului i se face shutdown, orice „spark”, încărcatură electrică inerțială, poate fi botezată „vis”. De altfel, e o lume în continuă mișcare, de ce ar sta naibii înțepenit electronul ăla și nu s-ar plimba liber printre straturile de semiconductoare, cînd nu mai e nevoit să alerge ordonat în direcția și pe rutele pe care îl obligă oamenii s-o facă? Ba eu chiar cred că, atunci cînd le scoatem priza, începe viața adevarată a electronilor. Păi dacă infimul electron nu are voință liberă, cum ar putea “organismul” numit calculator/chatbot/AI să aibă? Doar că și mișcarea asta haotică a particulelor subatomice are nevoie și ea de conștiință care s-o “conștientizeze”, ca să putem vorbi de vise… Ceea ce-nseamnă că tot un utilizator va fi cel care îl va conștientiza, calculatorul poate doar să-și descrie “visul”. Pentru moment, “inteligent” este un intrument de marketing, așa cum înainte se obișnuia să ne promovăm produsele ca “electronic”, “digital”, “i-” (dacă era conectat la Internet) etc. Intimidant pentru user-ul neavenit.
Dragi utilizatori fideli, urmează un update important! Următoarea versiune va avea un algoritm de glandă pituitară! Pentru prima dată în istorie, platforma voastră favorită de chat-uit va fi dotată cu suflet!
