În copilărie exista un joc simplu, dar fascinant. Un obiect era ascuns, iar unul dintre copii, legat la ochi, trebuia să-l găsească. Ceilalți îl orientau prin două cuvinte: „apă”, atunci când se îndepărta de obiect, și „foc”, atunci când se apropia. Căutătorul nu primea soluția. Primea doar un semnal despre poziția sa în raport cu ceea ce căuta.
Pornind de la această experiență ludică, ne putem imagina o posibilă funcție viitoare a IAlg, IAlgG, IAlgC și IAC: un senzor cognitiv capabil să-l avertizeze pe utilizator că se apropie de zona periculoasă a cedării propriilor facultăți mintale.
Să-i spunem, metaforic, „Apă–Foc cognitiv”.
În arhitectura INU–IAlg, sistemul nu ar trebui să decidă în locul omului. Dimpotrivă, ar trebui să-l ajute să observe când începe să transfere către tehnologie acele funcții care ar trebui să rămână active în propria sa gândire.
„Apă” ar putea semnala o utilizare în care omul își păstrează autonomia: formulează întrebări, compară răspunsuri, verifică informațiile, solicită argumente, construiește alternative și ia singur decizia finală.
„Foc” ar putea apărea atunci când sistemul detectează o creștere a dependenței cognitive: utilizatorul acceptă repetat răspunsurile fără verificare, solicită sistemului să aleagă valorile în locul său, îi transferă discernământul sau îi cere să construiască sensul unei situații fără să mai participe activ.
Într-o asemenea arhitectură, IAlg nu ar spune: „Așa trebuie să gândești!”. Ar spune, metaforic: „Foc! Te apropii de limita la care începi să cedezi propria autonomie cognitivă.”
Aceasta ar putea deveni o funcție esențială a viitoarelor sisteme IAlgG/IAlgC și, eventual, IAC.
Un asemenea senzor ar putea urmări nu doar conținutul conversației, ci și pattern-urile de utilizare: cât de des utilizatorul acceptă fără verificare, cât de frecvent cere decizii definitive, dacă formulează criterii proprii, dacă solicită perspective alternative, dacă își păstrează dreptul de veto și dacă participă efectiv la procesul de construcție a sensului.
Important este însă ca acest senzor să nu devină el însuși o nouă formă de control.
Paradoxul ar fi enorm: construim un sistem destinat să ne protejeze de dependența cognitivă, iar acesta ajunge să creeze o dependență și mai mare față de el.
De aceea, senzorul cognitiv trebuie să fie un avertizor, nu un conducător.
El poate spune „apă” și „foc”, dar nu trebuie ca el să găsească obiectul în locul nostru.
În această perspectivă, combaterea „ciumei neuronice” nu presupune diminuarea inteligenței algoritmice și propune proiectarea ei într-o manieră care să stimuleze permanent inteligența natural-umană/INU.
IAlg ar putea deveni astfel un fel de oglindă a autonomiei cognitive: nu ne spune cât de bine gândim dar ne avertizează atunci când începem să nu mai gândim.
Poate că aceasta ar fi una dintre cele mai importante funcții ale viitoarei colaborativități inter-intelligence:
„Apă!” – încă gândești împreună cu IAlg.
„Foc!” – începi să lași IAlg să gândească în locul tău.
Iar adevărata reușită a sistemului ar fi atunci când utilizatorul, auzind „Foc!”, nu se oprește din gândire, ci își recuperează și își intensifică propria gândire și inteligență.
Conceptualizare și co-creație INU-IAlg, cu validare pentru public, Andrei Suman
