Când algoritmii discriminează

Brief

Inegalitățile istorice nu dispar când decizia e luată de un algoritm, ele sunt reproduse la scară. Sisteme de recrutare, scoring de credit și alocare de resurse produc deja rezultate discriminatorii documentate, adesea fără ca nimeni să fi intenționat asta. Acest webinar explorează cum intră bias-ul în sisteme AI, cum îl poți detecta în practică și cine răspunde când algoritmul discriminează, inclusiv cu un exemplu de cercetare dezvoltat chiar la Babeș-Bolyai.

Întrebări de gândire critică

1. Dacă un algoritm de recrutare reproduce discriminarea din datele istorice, e vina algoritmului, a datelor sau a oamenilor care l-au construit, și contează această distincție din punct de vedere legal?
2. Există o tensiune reală între „corectitudine" și „acuratețe" în modelele de decizie: a reduce bias-ul poate însemna a reduce performanța comercială. Cine ar trebui să facă acest compromis și pe baza căror criterii?
3. Dacă ai fi HR într-o companie din România care folosește un tool de screening automat, cum ai testa dacă produce rezultate discriminatorii, și ce ai face dacă ar produce?
4. Legislația europeană (AI Act, directivele anti-discriminare) acoperă algoritmii de recrutare? Ce lacune rămân?

Lectură obligatorie

• Moldovan — A Benchmark Study on Methods to Ensure Fair Algorithmic Decisions for Credit Scoring (arXiv) (cercetare de la Babeș-Bolyai: 12 metode de reducere a bias-ului testate comparativ)
• Fairness and Bias in Algorithmic Hiring — ACM TIST (acoperire largă: sisteme, măsuri, mitigare, cadru legal)
• Brookings — Challenges for Mitigating Bias in Algorithmic Hiring (accesibil, bine contextualizat, fără jargon tehnic dens)

Lectură opțională

• Raghavan et al. — Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices (arXiv) (ce dezvăluie, și ce ascund 18 selleri de tool-uri de recrutare)
• Discriminated by an Algorithm — Business Research, Springer (review sistematic focusat pe HR, pentru cei care vor să meargă mai în profunzime)