Comentariu IN: Să nu uităm niciodată că rasismul tehnologic, atunci când se manifestă sub diverse forme generează anxietate și stres psihic pentru persoanele sau grupurile expuse acestui tip de agresivitate. Cine sunt subiecții expuși la rasism tehnologic și care este calea pentru a contracara orice formă de rasism tehnologic, cum se poate lupta împotriva rasismului tehnologic? Ca urmare a unor prompt-uri specifice, iată câteva din perspectivele AI despre grupurile afectate prin rasism tehnologic:
1. Cine sunt subiecții expuși la rasism tehnologic?
Subiecții expuși la rasism tehnologic sunt, în general, aceleași grupuri sociale vulnerabile sau discriminate istoric și în lumea reală, dar și noi categorii de persoane, în funcție de modul în care tehnologia este folosită.
Grupurile cele mai expuse includ:
a. Minorități etnice și rasiale
Exemple: persoane de culoare, romi, imigranți, arabi, asiatici etc.
Motivul : tehnologiile (mai ales algoritmii de recunoaștere facială sau deciziile automate) sunt antrenate pe seturi de date dominate de populații majoritare – ceea ce face ca minoritățile să fie slab reprezentate sau incorect tratate.
b. Persoanele din clase sociale defavorizate
Exemple: oameni cu venituri mici, din zone marginalizate, fără acces la educație sau tehnologie.
Motivul : algoritmii pot corela sărăcia cu riscul, ceea ce duce la discriminare în accesul la servicii (credite, joburi, sănătate).
c. Femeile și comunitățile LGBTQ+
Motivul : dacă modelele algoritmice au fost antrenate pe date sexiste sau homofobe, ele pot perpetua aceste inegalități (ex: femeile pot fi excluse de la roluri tehnice sau de conducere printr-un filtru AI de selecție).
d. Persoanele cu dizabilități
Motivul : multe sisteme automate nu sunt gândite să includă nevoi speciale (de exemplu, recunoaștere facială sau vocală pentru persoane cu trăsături atipice).
e. Refugiații, apatrizii, populațiile fără acte digitale
Motivul: sistemele automate de verificare identitară exclud persoanele fără „amprentă digitală” completă, afectând accesul la servicii sociale, drepturi legale sau gratuite.
f. Populațiile din Sudul Global sau țări în curs de dezvoltare
Motivul: tehnologiile dezvoltate în țările occidentale pot reflecta biasuri culturale, etnice și economice care nu corespund realității altor regiuni.
2. Care este calea pentru a contracara orice formă de rasism tehnologic?
Lupta împotriva rasismului tehnologic presupune acțiuni simultane la mai multe niveluri – tehnologic, juridic, social, educațional și etic.
A. Nivelul tehnologic
1. Crearea de algoritmi corecți și transparenți
Folosirea de date diverse și echilibrate în antrenarea modelelor.
Testarea constantă pentru detectarea biasului (părtinirii).
Introducerea de mecanisme de „explicabilitate” – algoritmii trebuie să explice deciziile luate.
2. Audit extern al algoritmilor
Implicarea unor instituții independente care verifică dacă un sistem AI discriminează.
Audit public, participativ, cu implicarea minorităților afectate.
B. La nivel legal și instituțional
1. Reglementări clare privind AI și nediscriminarea
Legi care interzic discriminarea algoritmică, la fel cum se interzice discriminarea umană.
Dreptul persoanei de a contesta o decizie automată (ex: refuz de angajare, credit etc.)
2. Responsabilitate juridică pentru companii
Firmele care dezvoltă sau folosesc AI să răspundă legal pentru efectele discriminatorii.
C. La nivel educațional și cultural
1. Diversitate în echipele care creează tehnologia
Includerea de femei, minorități, persoane din medii diferite în dezvoltarea AI.
2. Educație critică privind tehnologia
Oamenii trebuie să fie învățați că tehnologia nu este neutră.
Dezvoltarea gândirii critice: „Ce face acest algoritm? Pe ce date se bazează?”
D. La nivel civic și global
1. Implicarea societății civile
ONG-urile, jurnaliștii, activiștii pot semnala cazuri de abuz algoritmic.
2. Platforme deschise și etice
Promovarea de tehnologii etice, open-source, care respectă drepturile omului.
Concluzii:
Rasismul tehnologic poate părea un „efect colateral” al progresului digital, dar în realitate este o formă de inegalitate mascată de complexitate algoritmilor. Este esențial să înțelegem că fiecare „decizie automată” are un autor uman, o responsabilitate și un impact real asupra vieții oamenilor.
Contracararea rasismului tehnologic nu presupune renunțarea la tehnologie, ci umanizarea și democratizarea tehnologiei: o tehnologie care servește echitabil tuturor, nu doar celor care o creează.
Co-creație IN-AI
Ștefan Melinte
