Incident waarbij een AI-systeem één of meer responsible AI principles schendt → harm, regulatory attention of trust-schade.
Hoe snel een ethics event van intern incident naar publieke crisis escaleert — sneller dan de meeste technical risks.
Leading metric die principle degradation signaleert vóór een risk event → tijd om in te grijpen.
Deze 3 termen bouwen voort op de risk-taxonomie (les 6–10): velocity, KRI en exposure keren hier terug.
| Principle | Faalt wanneer… |
|---|---|
| Fairness | AI-outputs disparate outcomes produceren across protected groups |
| Transparency | decision rationale niet beschikbaar is voor affected parties |
| Accountability | geen named owner kan instaan voor AI-outcomes |
| Human oversight | consequential decisions doorgaan zonder meaningful review |
| Non-maleficence | foreseeable harm gebruikers of third parties bereikt |
| Privacy | personal data gebruikt wordt beyond its authorized purpose |
| Autonomy | AI-design individuele choice coerces of manipuleert |
disparate outcomes across protected groups
→anti-discrimination handhaving (+ evt. GDPR bij privacy)
→versterkt door media coverage
| Case | Wat ging mis | Impact & velocity |
|---|---|---|
| Hiring screening | Resume-ranking AI op historische data downrankte kandidaten uit underrepresented groups | Regulatory investigation, consent decree, $6M settlement · 18 maanden tot publieke exposure |
| Facial recognition | Law-enforcement-systeem misidentificeerde minderheden → wrongful detentions | Legal liability, technology bans in 3 steden, reputatieschade over de hele client base van de vendor |
| Healthcare risk scoring | Clinical model gaf lagere acuity scores aan minority patients met gelijke health indicators | Minder care access → physical harm + regulatory & licensure exposure |
| Principle(s) | Primary owner | Escalatie / co-owner |
|---|---|---|
| Fairness & Non-maleficence | AI risk officer | CRO (escalation authority) |
| Transparency & Accountability | AI owner / business unit head (per systeem) | — |
| Human oversight | Operations management (business line) | Risk officer (toetst adequacy) |
| Privacy | Chief privacy officer / DPO | CRO (ethics risk co-ownership) |
| Autonomy | Legal & compliance (bij consumer-facing products) | — |
Moderate score toegekend → verrast als media coverage een lokaal incident binnen 48u tot enterprise crisis maakt.
Enkel direct users geteld; third-party en societal harm gemist. Non-maleficence vereist béíde.
Eén event over fairness+privacy+non-maleficence als één moderate event gescoord i.p.v. drie compounding exposures, elk met eigen regulatory regime.
Alle drie hangen samen met de scoring-lessen (7): inherent-onderschatting + multi-label entries (les 6).
| Principle | Leading KRI | Wat het vroeg signaleert |
|---|---|---|
| Fairness | % AI-systemen met bias test results ouder dan 90 dagen | Stijgende trend = control decay vóór een violation |
| Transparency | Deployed systems zonder current model card on file | Transparantie-gap in opbouw |
| Accountability | Systems in inventory zonder named owner | Niemand kan instaan voor outcomes |
| Human oversight | Rate van human reviewers die AI-recommendations overriden | Dálende override rate → automation bias zet in |
| Non-maleficence | Harm impact assessments completed vs. systems awaiting pre-deployment review | Achterstand op harm-review |
Elk van deze indicators gaat áf vóór het risk event, niet erna.
| Technical risk | Ethics risk | |
|---|---|---|
| Gescoord op | Probability van system failure, data breach, performance degradation | Probability van principle violation + reputational velocity ná ontdekking |
| Velocity | Moderate | Hoog (story breekt → snel publiek) |
| Scope | Vaak begrensd door user population | Overstijgt vaak de directe populatie (third-party + societal harm) |
| Rollback | Patching/rollback beschikbaar | Rollback maakt geleden harm niet ongedaan |
Klik op je antwoord voor directe feedback.