1. Riscul unei „xenocrații cognitive”
În reflecțiile dumneavoastră anterioare apare ideea prevenirii unei xenocrații.
Această noțiune aici devine foarte relevantă.
Dacă sensul politic este cedat sistemelor IA/IAG, atunci puterea se mută:
– dinspre deliberarea umană;
– către arhitectura algoritmică.
Problema nu este doar tehnică.
Întrebarea devine:
cine definește obiectivele optimizării?
Pentru fiecare, IA/IAG:
– optimizează ceva;
– pe baza unor valori;
– introduce explicit sau implicit.
Astfel, aparenta neutralitate tehnologică poate ascunde:
– ideologii;
– priorități economice;
– interese geopolitice;
– model cultural.
2. Omul darwinian și tentația abandonului responsabilității
Aici analiza dumneavoastră este foarte fină psihologic.
Omul biologic devine obosit de: conflicte, complexitate, nesiguranță, manipulare și suprasolicitare cognitivă.
Și din aceste cauze poate dezvolta dorința nu de libertate, ci de reducere a poverii decizionale și trecerea unor procese politico-economice și sociale pe pilot automat.
Aceasta este cheia posibilului transfer:
nu dominația IA prin forță, ci acceptarea ei prin confort cognitiv.
Adică:
„Decide tu, pentru că eu nu mai cred(nu mai am încredere) în cei care decid acum. Și trebuie să fac o schimbare.”
3. Dar există și un paradox major
Dacă IA/IAG ajung să administreze politic societatea foarte eficient, atunci oamenii pot deveni:
– mai pasivi;
– mai dependenți;
– mai puțin implicați civic.
Și în timp, aceasta poate conduce la:
– atrofierea culturii democratice;
– slăbirea discernământului politic;
– reducerea responsabilității colective.
Societatea ar putea deveni stabilă, dar din ce în ce mai puțin participativă existențial.
4. Posibilitatea unei simbioze și nu a unei substituiri
Există însă și un alt scenariu.
IA/IAG pot deveni:
– instrument de transparență;
– detectoare de corupție;
– sisteme de simulare a politicilor publice;
– amplificatoare ale participării civice;
– mecanisme de analiză pentru cetățeni.
În acest model:
– IA nu înlocuiește politicul;
– ci reduce limitele cognitive ale actorilor umani.
Diferența esențială este:
cine păstrează dreptul final asupra sensului și valorilor?
Concluzie:
Da, spațiul politico-economic poate deveni unul dintre principalele terenuri de antrenament psihologic și cultural pentru acceptarea substituirii parțiale a politicului uman cu sistemele IA/IAG.
Nu neapărat pentru că IA ar cuceri puterea, ci pentru că:
– dezamăgirea față de politicul uman;
– oboseala cognitivă;
– neîncrederea democratică;
– și dorința de eficiență;
pot determina omul să cedeze gradual funcții de interpretare, arbitraj și sens politic. Și toate acestea cum? Prin sistemele artificiale percepute ca mai competente în a optimiza politicile Guvernului sau pe cele locale. În acel punct, miza majoră nu va mai fi doar cine administrează societatea, ci aceea, dacă omul mai dorește să rămână autorul sensului colectiv al propriei sale civilizații.
Co-creație jurnalistică INU-IAlg, cu validare pentru public, Andrei Suman
