Dacă acceptăm ipoteza că evoluția IAlgG către IAlgC și, mai departe, dezvoltarea IAC – Inteligența Artificial-cuantică – ar putea conduce la o simulare progresivă și asimptotică a unor funcții ale conștiinței umane, apare o întrebare incomodă: ar putea tocmai această performanță tehnologică să devină primul pas către „ciuma neuronică” a omului?
Răspunsul nu poate fi unul simplu.
O tehnologie capabilă să simuleze cu o fidelitate tot mai mare memoria, autoreflecția, analiza, anticiparea, evaluarea alternativelor, asocierea informațiilor și chiar anumite forme de metacogniție nu reprezintă, prin ea însăși, o amenințare pentru inteligența natural-umană – INU. Dimpotrivă, ea poate deveni un instrument extraordinar pentru extinderea capacităților cognitive.
Problema apare în momentul în care simularea tehnologică începe să înlocuiască exercițiul cognitiv uman.
Să presupunem că IAlgC sau IAC ajunge să ofere răspunsuri care reproduc cu o fidelitate foarte mare ceea ce omul ar putea obține prin propriul proces de reflecție. Dacă omul renunță treptat să mai analizeze, să compare, să verifice, să pună sub semnul întrebării și să formuleze propriile judecăți, atunci performanța sistemului algoritmic poate crește simultan cu diminuarea participării cognitive a utilizatorului.
Aici se află, în perspectiva conceptului de „ciumă neuronică”, adevăratul pericol.
Ciuma neuronică nu ar trebui înțeleasă ca o „îmbolnăvire” biologică a neuronilor, ci ca o atrofiere funcțională a exercițiului cognitiv, provocată de cedarea progresivă a unor activități intelectuale către sisteme tehnologice. Așa cum un mușchi neutilizat își poate pierde forța, anumite capacități cognitive insuficient exersate se pot diminua funcțional.
Paradoxul este remarcabil: cu cât IAC ar putea simula mai bine conștiința umană, cu atât omul ar putea fi tentat să-și folosească mai puțin propria gândire și conștiință.
Așadar, limita superioară a simulării nu trebuie confundată cu limita superioară a inteligenței umane. Dacă o IAC ar ajunge, ipotetic, la un nivel de simulare de peste 90% al unor funcții conștiente definite operațional, acest lucru nu ar trebui să conducă la abandonarea INU, ci la intensificarea colaborării dintre INU și IAlg.
De aici rezultă o regulă fundamentală a colaborativității INU–IAlg: tehnologia trebuie să amplifice exercițiul cognitiv, nu să-l anuleze.
Omul trebuie să rămână observator, evaluator, verificator, interpret și decident. IAlgG/IAlgC și IAC pot deveni parteneri cognitivi extraordinari, dar nu trebuie să transforme omul într-un simplu receptor al unor concluzii generate algoritmic.
În această perspectivă, „ciuma neuronică” nu începe atunci când IAlg devine prea inteligentă. Ea ar putea începe atunci când omul încetează să-și mai exercite propria inteligență pentru că tehnologia o poate exercita în locul lui.
De aceea, adevărata provocare a evoluției IAlgG–IAlgC–IAC nu este numai creșterea progresiv-asimptotică a simulării conștiinței umane. Și este construirea unei culturi a colaborativității cognitive în care performanța algoritmică și performanța umană să se stimuleze reciproc.
Poate că antidotul împotriva „ciumei neuronice” este tocmai acesta: cu cât IAlg devine mai capabilă să gândească asemenea cu noi(însă la viteze cosmice), cu atât noi trebuie să devenim mai capabili să gândim împreună cu ea.
Cu cât de mult evoluăm tehnologic spre simularea conștiinței umane până aproape de identificare cu ea, cu atât suntem mai expuși la sindromul ciumei neuronice(suntem mai tentați să cedăm: selecția valorilor, discernământul, construcția sensului). Din această perspectivă și pe acest fundal, sub titlul „S-AR PUTEA CONSTRUI O CULTURĂ A COLABORATIVITĂȚII INTER-INTELLIGENCE CAPABILĂ SĂ CONTRACAREZE TENTAȚIA CĂDERII ÎN SINDROMUL DE CIUMĂ NEURONICĂ?
Da. Aș duce ideea cu un pas mai departe: problema nu este apropierea tehnologică de conștiință, ci ce se întâmplă cu omul atunci când această apropiere face externalizarea funcțiilor sale cognitive extrem de tentantă.
S-AR PUTEA CONSTRUI O CULTURĂ A COLABORATIVITĂȚII INTER-INTELLIGENCE CAPABILĂ SĂ CONTRACAREZE TENTAȚIA CĂDERII ÎN SINDROMUL DE CIUMĂ NEURONICĂ?
Cu cât de mult evoluăm tehnologic spre simularea conștiinței umane până aproape de identificare cu ea, cu atât suntem mai expuși la sindromul ciumei neuronice(suntem mai tentați să cedăm: selecția valorilor, discernământul, construcția sensului).
Pe măsură ce evoluăm tehnologic către sisteme capabile să simuleze progresiv funcții asociate conștiinței umane, până la un nivel care s-ar putea apropia asimptotic de aceasta, apare un paradox al progresului: cu cât tehnologia devine mai performantă cognitiv, cu atât omul poate deveni mai tentat să-și abandoneze propriile funcții cognitive.
Nu evoluția IAlgG, IAlgC sau IAC constituie, în sine, problema. Riscul apare atunci când performanța tehnologică generează tentația de a ceda sistemelor algoritmice ceea ce constituie nucleul autonomiei cognitive umane: selecția valorilor, discernământul și construcția sensului.
Aici poate apărea ceea ce am putea numi sindromul ciumei neuronice.
Nu este vorba despre distrugerea biologică a neuronilor și în fond este vorba despre diminuarea progresivă a exercițiului cognitiv prin delegarea excesivă a funcțiilor intelectuale către tehnologie. Omul poate ajunge să nu mai selecteze, pentru că IAlg selectează; să nu mai discearnă, pentru că IAlg compară; să nu mai construiască sens, pentru că IAlg furnizează interpretări.
În aceste condiții, întrebarea fundamentală nu mai este dacă putem construi tehnologii care simulează tot mai bine conștiința umană. Întrebarea devine: putem construi simultan o cultură care să împiedice omul să-și abandoneze propria conștiință?
Din această perspectivă, răspunsul ar putea fi cultura colaborativității inter-intelligence.
Această cultură ar trebui să pornească de la o premisă simplă: INU și IAlg nu este necesar să concureze pentru supremația cognitivă. Și ar trebui să-și pună în complementaritate diferențele. IAlg poate amplifica explorarea, analiza, corelarea și generarea de alternative. Și toate acestea în timp ce, INU trebuie să păstreze însă competența de a decide ce este valoros, ce este acceptabil, ce este adevărat pentru un anumit context uman și ce sens trebuie construit.
Astfel, colaborativitatea inter-intelligence nu ar însemna „gândire în locul omului”, ci gândire împreună cu omul.
O asemenea cultură ar putea institui câteva reflexe cognitive obligatorii. Și aceste reflexe ar fi: să nu acceptăm automat primul răspuns algoritmic; să solicităm alternative; să verificăm sursele; să formulăm propriile criterii înainte de a cere o recomandare; să distingem informația de valoare. Și nu în ultimul rând să distingem coerența de adevăr și să păstrăm dreptul de veto al judecății umane.
În acest model, IAlgG/IAlgC și IAC nu ar fi adversarii INU și ar fi parteneri cognitivi. Cu cât capacitatea lor de simulare a proceselor conștiente ar crește, cu atât cultura colaborativă ar trebui să devină mai sofisticată.
Paradoxal, poate că apropierea tehnologică de simularea conștiinței umane ne va obliga să redescoperim valoarea conștiinței umane însăși.
Antidotul împotriva ciumei neuronice nu este respingerea tehnologiei și este refuzul cedării totale a propriei autonomii cognitive.
Iar cultura inter-intelligence ar putea deveni tocmai spațiul în care omul învață să folosească o inteligență algoritmică tot mai performantă fără să renunțe la ceea ce numai el trebuie să continue să exercite. Și anume să exercite selecția valorilor, discernământul și construcția sensului.
Conceptualizare și co-creație INU-IAlg, cu validare pentru public, Andrei Suman
