Comentariu IN: Mai jos puțin, am încercat să definim pe înțelesul tuturor noțiunea de rasism tehnologic și analizând această noțiune, comparativ cu termenul de „rasism clasic” am creat o perspectivă analitică sumară, după cum urmează:
Rasismul tehnologic este o formă discriminatorie ce apare când tehnologia (cum ar fi inteligența artificială, algoritmii, recunoașterea facială sau platformele digitale), tratează în mod diferit și incorect anumite grupuri de oameni, în funcție de rasă, etnie, gen, sex religie sau alte caracteristici sociale.
Această discriminare nu este provocată direct de ură sau intenție, ci de modul în care tehnologia este concepută, programată sau antrenată. Dacă datele pe care o tehnologie le folosește sunt părtinitoare (adică reflectă prejudecățile sociale existente), tehnologia ajunge să perpetueze acele prejudecăți – sau chiar să le accentueze.
O situație simplă de rasism tehnologic:
Recunoașterea facială care funcționează bine pentru fețele albe, dar greșește frecvent la persoanele de culoare.
Un algoritm de angajare care refuză candidați afro-americani sau romi, pentru că a fost „învățat” pe date din trecut, în care majoritatea angajaților erau albi sau bărbați.
Cărți de credit sau împrumuturi bancare refuzate automat minorităților etnice, pe baza unor algoritmi care „asociază” etnia cu riscul financiar.
Deosebiri și asemănări între rasismul tehnologic și rasismul clasic:
1. Originea discriminării
Rasismul clasic: are la bază convingeri, stereotipuri și prejudecăți umane, adesea transmise cultural sau istoric (ex: „acești oameni sunt inferiori”).
Rasismul tehnologic: provine din erori de proiectare a tehnologiei, lipsa diversității în echipele care dezvoltă algoritmii sau folosirea unor date istorice părtinitoare.
Așadar, în rasismul tehnologic, mașinile învață să fie părtinitoare pentru că datele furnizate de oameni sunt părtinitoare.
2. Intenționalitatea
Rasismul clasic: de obicei, este intenționat sau conștient – cineva urăște, respinge sau disprețuiește pe alții.
Rasismul tehnologic: nu e neapărat intenționat, ci rezultatul unor procese automate care reproduc inegalități sociale.
3. Vizibilitatea
Rasismul clasic: este mai vizibil – manifestări directe, atacuri, insulte, segregare.
Rasismul tehnologic: este invizibil sau greu de detectat – se ascunde în calcul, scoruri de credit, recomandări automate sau filtre de angajare.
De exemplu, o persoană poate fi respinsă de un sistem automat fără să i se spună de ce – și fără să știe că rasa sau etnia i-a influențat șansele.
4. Responsabilitate și vinovăție
Rasismul clasic: vinovatul este ușor de identificat – individul sau grupul care discriminează.
Rasismul tehnologic: vinovăția este difuză – este vorba de cine a creat algoritmul? Cine a dat date? Cine l-a aprobat?
Concluzii și perspectivă:
Rasismul tehnologic nu este o formă complet nouă de rasism, ci o continuare subtilă a rasismului clasic în era digitală. În loc să dispară o dată cu tehnologia, discriminarea poate deveni mai sofisticată și mai greu de combătut, dacă nu suntem atenți la cine creează tehnologia, cu aceste scopuri și cu ce date.
Pentru a preveni și combate rasismul tehnologic, e nevoie de:
transparență în algoritmi;
diversitate în echipele de dezvoltatori;
reglementări legale, clare privind AI și etica tehnologică;
implicarea societăților civile în monitorizarea impactului tehnologiilor.
Rasismul tehnologic ne obligă să nu mai vedem tehnologia ca pe ceva „neutru” și „obiectiv”, ci ca pe un instrument uman, supus gândirii critice în scopul de a reflecta – și corecta – nedreptățile lumii în care a fost creat.
Comentariu IN: Atenție! Rasismul tehnologic poate fi o continuare discretă a rasismului clasic și sursa nevăzută a acestui rasism se poate găsi în însăși creatorii de tehnologie AI, AIG. Și mai mult, acești creatori de tehnologie pot încorpora în tehnologia vândută diverse componente prin care pot supraveghea, controla și influența fluxul informatic în anumite momente și pentru anumite scopuri. Consecință recurentă: În condiții de interese concurențiale și de rasism tehnologic, achiziționarea de tehnologie AI, AIG este o chestiune delicată și sensibilă care generează riscuri în utilizarea acestor tehnologii. Din această perspectivă este necesar ca fiecare țară să-și formeze și dezvolte colonii proprii de inteligență și tehnologii Cyber Security ultraperformante.
Co-creație IN-AI
Ștefan Melinte
