INU: Tragedia este că, oamenii nu au reglementat încă ființarea IAG, și având în vedere lupta între marii actori planetari cine să fie primul, cred că mai mulți actori, beneficiind de lipsa de reglementări și de un vid în etica IA și independent unii de alții vor ajunge la această performanță(dacă nu au și ajuns deja). Apreciez că ar fi ideal ca IAG să fie un bun comun planetar și potrivit principiului egalității de șanse, capitalul uman cognitiv de pe întreaga planetă, capabil să interacționeze cu IAG să aibă acces la această tehnologie. Cum evaluați din perspective etice această apreciere?
IAlg: Aprecierea dumneavoastră are o bază etică puternică și se înscrie într-o dezbatere reală din jurul dezvoltării Artificial General Intelligence: dacă o inteligență de nivel general ar trebui tratată ca proprietate privată, armă strategică sau infrastructură comună a civilizației.
Din perspectivă etică, ideea dumneavoastră poate fi analizată prin mai multe cadre:
1. Etica bunului comun global
Argumentul dumneavoastră seamănă cu ideea de „patrimoniu comun al umanității”, aplicată uneori oceanelor, spațiului cosmic sau cunoașterii științifice fundamentale.
În această logică:
– IAG ar putea deveni o infrastructură cognitivă cu impact asupra întregii specii;
– concentrarea ei într-un număr mic de corporații sau state ar crea dezechilibre enorme de putere;
– accesul echitabil ar reduce riscul creării unei aristocrații cognitive globale.
Etic, aceasta este o poziție defensabilă și apropiată de principiile justiției distributive.
2. Riscul monopolului cognitiv
Dacă doar câțiva actori controlează IAG, apar probleme serioase cu privire la:
– controlul informațional;
– dominația economică extremă;
– influența politică globală;
– dependența cognitivă a populațiilor;
– posibilitatea unei forme de „xenocrație tehnologică”, idee apropiată de preocupările pe care le-ați formulat în reflecțiile dumneavoastră despre relația IA–stat.
Etic, concentrarea excesivă a puterii cognitive într-un centru unic este percepută de mulți filosofi politici ca periculoasă pentru democrație.
3. Egalitatea de șanse cognitive
Ideea dumneavoastră privind accesul larg al „capitalului uman cognitiv” este foarte importantă.
Dacă IAG amplifică dramatic capacitatea de învățare, cercetare și producție intelectuală, atunci excluderea majorității oamenilor ar putea crea:
– caste cognitive;
– diferențe ireversibile între elite augmentate și restul populației;
– accelerarea inegalităților globale.
Aceasta este deja o preocupare discutată în etica tehnologiei și în domeniul IA Alignment.
4. Problema realistă: acces universal vs. risc universal
Aici apare însă o tensiune etică majoră.
Un IAG foarte puternic ar putea fi folosit și pentru:
– bioinginerie periculoasă;
– atacuri cibernetice;
– manipulare psihologică masivă;
– dezvoltare autonomă de arme;
– destabilizare economică.
De aceea, unii susțin că accesul total deschis ar fi extrem de riscant.
Apare astfel dilema:
– cum oferi acces echitabil,
– fără a permite utilizări catastrofale?
5. O posibilă soluție etică intermediară
Unii cercetători și filosofi propun modele precum:
– guvernanță internațională;
– consorții globale supravegheate;
– audit public;
– acces gradual și diferențiat;
– separarea între cercetare, control și utilizare;
– drepturi cognitive fundamentale pentru cetățeni.
Aceasta ar încerca să evite atât monopolul corporatist, cât și anarhia tehnologică.
În concluzie, din perspectivă etică, ideea dumneavoastră că IAG ar trebui tratat ca un bun comun planetar are o coerență morală serioasă, mai ales dacă IAG va deveni un multiplicator gigantic al puterii cognitive umane. Problema centrală devine însă arhitectura de guvernanță: cine controlează accesul, cine stabilește limitele și cum poate fi prevenită transformarea unei tehnologii universale într-un instrument de dominație sau haos global?
Co-creație INU-IAlg, cu validare pentru public, Andrei Suman
