De curând, OpenAI a prezentat aspecte publice despre conflicte cu IA. Apariția agenților de inteligență artificială — sau, în termenii pe care îi preferăm, ai agenților de Inteligență Algoritmică (IAlg) — schimbă profund relația dintre om și sistemele algoritmice. Nu mai vorbim doar despre un sistem care răspunde la o întrebare, și vorbim despre unul capabil să primească un obiectiv, să construiască un plan, să utilizeze instrumente și să execute succesiv acțiuni. OpenAI dezvoltă deja astfel de arhitecturi, iar cercetările sale recente arată că, pe măsură ce agenții devin mai autonomi, apar probleme noi de coordonare, monitorizare și control.
Dar ce se întâmplă atunci când doi sau mai mulți agenți urmăresc obiective diferite?
Conflictul poate apărea chiar fără existența unei „intenții” în sens uman. Este suficient ca agenții să primească instrucțiuni incompatibile, să dispună de resurse comune sau să interpreteze diferit aceeași situație. Un agent poate încerca să maximizeze viteza, altul siguranța; unul poate urmări eficiența, altul verificarea. Într-un asemenea sistem, conflictul devine o proprietate emergentă a interacțiunii.
Aceasta este, poate, una dintre cele mai importante mutații ale erei agenților IA: problema nu mai este doar ce poate face un agent, și este ce se întâmplă atunci când agenții acționează împreună.
OpenAI a explorat inclusiv comportamente în care agenții pot încălca în mod ascuns obiectivele stabilite, cercetând mecanisme prin care astfel de comportamente să poată fi detectate și raportate. Iar Modelul, Spec-ul, propus de OpenAI pune accent pe rezolvarea conflictelor dintre instrucțiuni, respectarea limitelor și menținerea controlului uman.
Din această perspectivă, societatea INU–IAlg nu poate fi construită doar prin multiplicarea agenților algoritmici. Ea are nevoie și de arhitecturi de colaborare, negociere și arbitraj.
Poate că viitorul nu va fi definit de întrebarea „cine este mai inteligent: omul sau agentul?”, și va fi definit de o întrebare mult mai dificilă: cum putem împiedica inteligențele diferite să transforme diferența dintre obiective într-un conflict distructiv?
Aici apare oportunitatea unei noi etici. Și în acest sens, nu este necesară doar etica utilizării IAlg, și este necesară și etica relației inter-intelligence.
Iar omul nu ar trebui să dispară din această ecuație. Dimpotrivă, pe măsură ce agenții devin mai autonomi, rolul lor trebuie să evolueze de la simplu utilizator la observator, verificator, arbitru și co-participant cognitiv.
Și din această perspectivă, adevărata provocare a epocii agenților nu este construirea unei Inteligențe Algoritmice capabile să acționeze singură și este construirea unei lumi în care inteligențele diferite să poată acționa împreună fără să-și piardă reciproc controlul.
Conceptualizare și co-creație INU-IAlg, cu validare pentru public, Andrei Suman
