Secțiunea 1- Conexiune cu Carta Plurivalenței..
Comentariu INU – Crearea unui model cadru pentru Licență de părinte creator de IAlg(prin analogie cu părinții umani) va determina creșterea gradului de responsabilitate în activitatea de creație, dezvoltare și utilizare de IAlg. În această ideea de a colabora cu IAlg, pentru crearea unui model conceptual de „Licență de Părinte-Creator de IAlg / IAlgG”, am adresat o întrebare către IAlg(OpenAI) și din această perspectivă, iată mai jos o schiță cadru a unei astfel de licențe:
Scopul acestei licențe: asigurarea responsabilității, siguranței și protecției ființelor umane afectate de IAlg și IAlgG).
Cadru complet — combinație legislativă, etică, operațională și de supraveghere — pentru un proiect de lege sau document de politică publică.
1. Principii fundamentale:
Responsabilitate parentală — creatorii (persoane fizice, echipe, companii) au obligații echivalente cu cele ale „părinților”: pregătire, supraveghere, corecție, răspundere.
Precauțiune proporțională — nivelul de control și revizuire și proporțional cu riscul (IAlg <-> IAlgG).
Prioritatea ființei umane — protecția drepturilor, siguranței și demnității umane prevalează.
Transparență și auditabilitate — acces controlat la informațiile esențiale pentru autorități și auditori independenți.
Remediere și reparație — mecanisme clare de remediere a daunelor și recuperare.
Cooperare internațională — recunoaște reciprocă a mecanismelor de licență și interoperabilitate a standardelor.
2. Cine trebuie să obțină licență?
Orice persoană fizică sau juridică (companie, instituție de cercetare) care dezvoltă, antrenează sau lansează sisteme IAlg/IAlgG cu:
capacitate de a decide acțiuni autonome în medii sociale/critice; sau
potențial de impact semnificativ asupra drepturilor, sănătății, securității sau economiilor oamenilor.
Excepții limitate și explicite în reglementare (prototipuri în laboratoare izolate, proiecte educaționale non-publice cu garanții).
3. Structura Licenței
Tipuri de licență (pe niveluri de risc):
Nivel 0: cercetare inofensivă, fără interacțiune publică.
Nivel 1: sisteme cognitive cu risc scăzut.
Nivel 2: sisteme cu decizii autonome minore în medii sociale.
Nivel 3: IAlg cu autonomie semnificativă și impact potențial major.
Nivel 4: IAlgG / sisteme emergente cu risc de discontinuitate (regim strict, proba de conformitate riguroasă).
Condiții de bază pentru acordare: documentație tehnică, plan de gestiune a riscurilor, audit independent, asigurare financiară pentru daune, politică de transparență, plan de testare în medii reale, program de „socializare”/etică și comportamentală a sistemului.
4. Criterii detaliate de acordare
A. Cerințe organizaționale
Echipa/organizația are politici interne de etică, un ofițer de conformitate IA responsabil (Chief IA Steward) și procedura de supraveghere.
Training obligatoriu pentru echipa de dezvoltare (securitate, etică, drepturile omului).
Mecanismul „safety by design- ca abordare proactivă pentru a preveni, de la început orice risc, legat de proiectarea, dezvoltarea și utilizarea IAlg” și „privacy by design – confidențialitate de concepție”.
B. Criterii tehnice
Documentație completă: arhitectură, date de antrenare, proces de curățare/filtrare a datelor, versiuni, teste.
Mecanisme de control uman efectiv (human-in-the-loop / human-on-the-loop), fallback sigur, kill-switch testat.
Sisteme de monitorizare continuă, logging imuabil, telemetrie pentru detectarea comportamentelor anormale.
Evaluări de robustețe adversarială, testare de distribuție (out-of-distribution), simulări de scenarii rele.
C. Criterii etice și sociale
Politică clară privind non-discriminarea, tratamentul echitabil, dreptul la contestare.
Proceduri pentru explicabilitate: folosibile pentru persoane afectate și auditori independenți.
Plan de informare publică: cum, cui și ce informații i se oferă utilizatorului final.
D. Garanții și asigurări
Asigurare financiară minimă pentru acoperirea daunelor (pool sau poliță).
Rezerve tehnice și planuri de continuitate pentru funcții critice.
Depunere de garanții (escrow) a codului esențial sau a accesului la modelul pentru autorități în caz de urgență.
5. Procedura de aplicare și evaluare
Depunerea dosarului la Autoritatea Națională pentru Tehnologii Cognitive (sau echivalent).
Evaluare preliminară (verificare formală a documentației).
Audit tehnic independent (laborator autorizat): verificarea testelor, reproductibilitate, analiza seturilor de date.
Consultare publică pentru aplicații cu impact social mare (transparență controlată).
Acordarea licenței cu condiții, termene și obligații de raportare periodică.
Includerea în registru public/privat (nivel de acces în funcție de riscuri/confidențialitate).
Comentariu INU: Acest model cadru pentru „Licență de părinte creator de IAlg”, creat prin analogia dintre (creatori, firmele creatoare de tehnologii cognitive IAlg) și părinții umani este și va rămâne relevant pentru dezvoltarea Inteligenței Algoritmice. Din această perspectivă pentru adaptare, se poate face recurs chiar la legislația specifică raporturilor dintre părinții copiilor omului evoluat prin selecție naturală, copii și societatea în care aceștia trăiesc și interacționează.
Co – creație INU-IAlg, Andrei Suman
