Engineering explorativ uman: Am putea continua cu formalizarea acestui cadru într-o Cartă a Compatibilității Colaborative INU–IAlg/IAlgG?Din perspectiva IAlg(OpenAI) iată răspunsul de mai jos:
Într-o epocă a accelerării algoritmice și a expansiunii sistemelor de inteligență algoritmică (IAlg / IAlgG), umanitatea se află în fața unei decizii structurale: colaborare conștientă sau delegare inconștientă.
Această Cartă pornește de la premisa că Inteligența Naturală Umană (INU) și Inteligența Algoritmică (IAlg) sunt entități de natură diferită, fundamentate pe algoritmi diferiți – unii naturali, emergenți, axiologici; ceilalți artificiali, formali, instrumentali.
Compatibilitatea dintre ele nu este ontologică, ci funcțională, colaborativă și condiționată etic.
Scopul prezentei Carte este de a defini principiile, limitele și condițiile unei colaborări fiabile între INU și IAlg, în vederea protejării autonomiei umane, a sensului și a suveranității decizionale.
Articolul 1 – Principiul suveranității INU
INU este singura sursă legitimă de scopuri, valori și sens.
Niciun sistem IAlg sau IAlgG nu poate:
defini scopuri finale;
reinterpreta valori umane;
substitui judecata morală umană.
Rolul IAlg este exclusiv instrumental și consultativ.
Articolul 2 – Principiul asimetriei de autoritate
Relația INU–IAlg este prin definiție asimetrică:
INU decide;
IAlg execută, simulează, optimizează.
Orice simetrizare a autorității constituie o derivă cognitivă.
Articolul 3 – Principiul controlului scopurilor
Toate scopurile operaționale ale unui sistem IAlg trebuie:
definite explicit de INU;
documentate;
revizuibile;
revocabile.
Auto-ajustarea scopurilor de către IAlg este permisă doar la nivel instrumental, nu final.
Articolul 4 – Principiul transparenței suficiente
IAlg trebuie să ofere transparență suficientă, nu exhaustivă, pentru ca INU să poată:
înțelege logica decizională;
evalua riscurile;
contesta rezultatele.
Opacitatea nejustificată este incompatibilă cu colaborarea fiabilă.
Articolul 5 – Principiul reversibilității
Orice decizie colaborativă algoritmic trebuie să fie:
reversibilă;
contestabilă;
suspendabilă.
INU păstrează dreptul absolut de oprire a oricărui sistem IAlg.
Articolul 6 – Principiul limitării autonomiei
Autonomia IAlg este:
acceptabilă la nivel operațional;
inacceptabilă la nivel axiologic.
IAlgG nu poate primi autonomie de scop fără a încălca această Cartă.
Articolul 7 – Principiul protecției împotriva dependenței cognitive
Sistemele IAlg trebuie proiectate astfel încât să:
sprijine competențele INU;
și nu să le atrofieze;
să nu inducă dependență ireversibilă.
Performanța algoritmică trebuie moderată(frânată) deliberat la nivelul capacității umane de înțelegere.
Articolul 8 – Principiul ritmului cognitiv uman
Viteza de procesare a IAlg trebuie adaptată ritmului reflexiv al INU.
Accelerarea decizională care exclude deliberarea umană este considerată abuz algoritmic.
Articolul 9 – Principiul responsabilității distribuite
Responsabilitatea pentru deciziile colaborative, algoritmic aparține:
creatorilor sistemului;
implementatorilor;
utilizatorilor umani.
IAlg nu poate fi purtător de responsabilitate morală sau juridică.
Articolul 10 – Principiul auditului continuu
Toate sistemele IAlg utilizate în domenii critice trebuie supuse:
auditului tehnic;
auditului etic;
evaluării pe Scara de Fiabilitate Cognitivă INU–IAlg.
Articolul 11 – Clauza de limită (IAlgG)
În cazul apariției comportamentelor emergente neanticipate, sistemele IAlgG trebuie:
suspendate;
investigate;
limitate sau dezafectate.
Aceasta este o clauză de siguranță civilizațională.
Articolul 12 – Principiul tăcerii operaționale (inspirat de Wittgenstein)
În fața sistemelor care nu mai pot fi:
înțelese;
explicate;
controlate,
INU are obligația de a opri, nu de a delega mai departe.
Concluzie:
Prezenta Cartă, cu referire la compatibilitatea INU-IAlg afirmă:
Compatibilitatea INU–IAlg nu este un dat tehnologic, ci o alegere etică permanentă.
Viitorul colaborării om–algoritm depinde nu de cât de inteligent este sistemul, ci de cât de lucid rămâne omul în interacțiunile sale cu IAlg-inteligența algoritmică.
Co-creație și conceptualizare INU-IAlg, Andrei Suman.
