Problema cutiei negre: când AI decide și nu poate explica de ce

Brief

Sisteme AI iau deja decizii care îți afectează accesul la credit, la un job sau la îngrijire medicală, fără să poată explica de ce. Acest webinar explorează ce înseamnă cu adevărat „explicabilitatea" în AI, unde se opresc garanțiile legale actuale și de ce transparența formală nu înseamnă întotdeauna înțelegere reală. Plecăm de la cazuri concrete și ajungem la întrebarea de fond: cine răspunde când algoritmul greșește?

Întrebări de gândire critică

1. Dacă un sistem AI îți respinge cererea de credit sau CV-ul, ai dreptul să știi de ce, și mai important, ai posibilitatea reală să contești decizia?
2. „Explicabilitatea" AI poate fi simulată: o explicație generată post-hoc poate părea convingătoare fără să reflecte cum a funcționat de fapt modelul. Cum distingem transparența reală de cea de suprafață?
3. Există un compromis real între performanța unui model și capacitatea lui de a fi explicat, și dacă da, cine ar trebui să decidă unde se trage linia în sănătate sau justiție?
4. GDPR și AI Act european oferă un „drept la explicație", cât de aplicabil este acesta în practică pentru un cetățean român obișnuit?

Lectură obligatorie

• Wachter, Mittelstadt & Russell — Counterfactual Explanations Without Opening the Black Box (arXiv) (articol fondator: cum oferi explicații fără să deschizi modelul)
• Tech Policy Press — Right to Explanation and Automated Decision-Making in GDPR and AI Act (cadrul legal european, Shapley Values, LIME)

Lectură opțională

• PMC — The Right to Explanation in AI (context medical) (mize specifice în sănătate)
• RAILS Blog — CJEU Dun & Bradstreet Austria & Art. 86 AI Act (jurisprudență recentă pentru cei interesați de drept)