Overzicht › Domein 1 · Foundations › Les 16 · AI Governance

Three Lines of Defense voor AI

Domein 1 · AI Governance lec 18 De 2nd line is waar governance-credibiliteit leeft — verkeerd ontworpen, en elke assessment is aanvechtbaar als structurally compromised.

Kerngedachte
Independence is de échte output van het three-lines-model — niet drie benoemde functies. Elke line ontleent zijn authority aan structurele onafhankelijkheid.

Het model

De drie lines

1ST LINE

Operators

Bezitten de controls in hun systemen — niet alleen bouwen.

→

2ND LINE

Independent risk oversight

Onafhankelijke beoordeling die 1st line zichzelf niet kan geven.

→

3RD LINE

Audit assurance

Onafhankelijke test van het hele governance-systeem.

🔑 Independence safeguards

Structurele, reporting-line- en resource-mechanismen die elke line laten assessen & challengen zonder druk om "mee te gaan".

🔑 Escalation path

De gedocumenteerde sequentie naar een rol met genoeg treatment authority. Independence maakt assessment geloofwaardig; escalation maakt authority bereikbaar.

Breder dan teams verwachten

First-line activities

Intake & risk scoring

Vóór development begint.

Sign-off gates

Bij elke lifecycle-checkpoint.

Ongoing monitoring

Outputs vs. defined thresholds.

Escalation

Als gedrag tolerances breacht.

Design failure
Teams die controls dráaien maar geen records bijhouden. De control gebeurde niet als ze geen evidence naliet. Bouw documentatie-eisen in het first-line-ontwerp — zodat 2nd line kan assessen en 3rd line kan testen.

Oversight die 1st line zichzelf niet kan geven

Vijf second-line design requirements

#	Requirement	Kern
1	Independent assessment	Eigen review — niet enkel first-line self-assessments endorsen (endorsing ≠ oversight)
2	Policy oversight	Bevestig compliance met enterprise AI-policy → vereist toegang tot first-line records
3	Challenge authority	Formele verwachting + authority om conclusies te challengen — anders is challenge een persoonlijke keuze, geen obligation
4	Escalation	Onopgeloste first-line-issues naar oversight committee/board i.p.v. open laten staan
5	Report program health	Aan senior management & board — onafhankelijk van first-line-rapportage

Designed-in, geen voorkeur

Independence safeguards: 2 dimensies

Structureel

Structural independence

2nd line zit buiten de hiërarchie van de teams die het overziet. Risk officer rapporteert aan de CRO (of equivalent) zónder via first-line-management te lopen. Een design requirement.

Resource

Resource independence

Eigen budget om assessments te commissioneren & external reviewers in te schakelen zonder first-line-goedkeuring. Budgetafhankelijkheid compromitteert elke assessment.

Wat te doen
Vereist je budget first-line-goedkeuring? Escaleer die design-gap naar de CRO en de board.

Waar AI-programma's falen

Drie AI-specifieke breakdowns

Meest consequentieel

Self-approval collapse

Model-teams keuren hun eigen production deployments goed zónder 2nd-line-review. De hoogste-risk-beslissing (deployment) zonder oversight.

Tijdsdruk

Speed pressure gate bypass

Snelle cycli → druk om gates te skippen. Fix: ontwerp gates snel genoeg om niet omzeild te worden (een 3-weken-gate wordt gebypassed).

Extern

Provenance gap

Third-party/open-source modellen → geen interne model owner voor technical integrity. Fix: ken een vendor oversight role toe met documented verify-eisen.

🔗 Link

"Geen interne model owner" sluit aan op les 15 (model owner) en les 3 (third-party model-risico).

Independence zonder bottleneck

Design patterns onder tijdsdruk

Pattern	Wat het doet
Risk-tiered review	Alleen high-risk systemen krijgen volledige independent assessment; lager-risk = expedited review met documented rationale
Preclearance pools	Teams adopteren pre-approved tool-categorieën zonder per-deployment-review → minder frictie voor routine adoptie
Documented exception process	Voor wat écht niet kan wachten: een bypass die tóch een audit trail bewaart
Post-deployment review window	Bij expedited deployments: commit aan review áchteraf om accountability te behouden

Coöperatief, met grenzen

Relatie met third-line audit

✅ Jouw verantwoordelijkheid

Audit-access steunen, governance-documentatie leveren, 2nd-line-records beschikbaar maken, interviews faciliteren — zonder first-line te coachen wat te zeggen.

⛔ Niet doen

Audit-scope beperken of materialen pre-filteren → interference finding.

Feedback loop
Findings op de 2nd-line zélf? Own de remediation en behandel ze als program-improvement. Het is de énige onafhankelijke beoordeling van je eigen governance-kwaliteit — weerstand = de enige verbeter-mechanisme weigeren.

Structureel, niet procedureel

Self-assessment vs. independent assessment

	First-line self-assessment	Second-line independent assessment
Geproduceerd door	Het team dat het systeem bezit	De risk-functie, zonder operational stake in deployment
Probleem / waarde	Inherent belang bij een gunstige uitkomst → geen substituut voor independent	Waar board, regulators & 3rd-line op steunen
Credibiliteit vereist	—	Evidence of challenge: documented disagreements, opgelegde condities, remediation-verzoeken vóór sign-off

Wat regulators lezen
Een record met enkel approvals toont geen independent review — het toont review die niets vond om te challengen. Test 2nd-line-credibiliteit op: reporting separation, recorded challenges, en zéro self-approvals in deployment review.

Begrippen uit deze les

Glossarium

Three lines of defense: 1st-line operators · 2nd-line independent oversight · 3rd-line audit assurance.
Independence safeguards: Structurele/reporting/resource-mechanismen die assess & challenge zonder druk borgen.
Escalation path: Gedocumenteerde route naar een rol met genoeg treatment authority.
Structural independence: 2nd line buiten de hiërarchie die het overziet; rapporteert aan CRO.
Resource independence: Eigen budget zonder first-line-goedkeuring.
Self-approval collapse: Model-teams keuren eigen deployments goed — meest consequentiële failure.
Gate bypass: Sign-off gates overgeslagen onder tijdsdruk; ontwerp gates snel genoeg.
Provenance gap: Geen interne model owner voor third-party/open-source → vendor oversight role.
Risk-tiered review: Alleen high-risk = volledige independent assessment; rest expedited.
Interference finding: Audit-scope beperken of materialen pre-filteren.
Evidence of challenge: Documented disagreements/condities — maakt independent assessment credibel.

Checkpoint

Quiz

Klik op je antwoord voor directe feedback.

VRAAG 1

Wat is de meest consequentiële three-lines-breakdown in de AI-lifecycle?

Self-approval collapse — model-teams keuren hun eigen production deployment goed zonder 2nd-line-review

Een typfout in de model card

Te veel KRI's monitoren

Een ethics board met te veel externe leden

Juist. De hoogste-risk governance-beslissing — deployment — wordt dan zonder onafhankelijke oversight genomen. Test 2nd-line-credibiliteit op zéro self-approvals in deployment review.

VRAAG 2

Een 2nd-line-record toont uitsluitend approvals, nooit een challenge. Wat concluderen regulators?

Dat de 2nd line uitstekend werkt

Dat het geen independent review aantoont — een credibele assessment toont evidence of challenge

Dat de 1st line geen records hoeft te houden

Dat audit overbodig is

Juist. Independent assessment vereist evidence of challenge: documented disagreements, opgelegde condities of remediation-verzoeken. Enkel approvals = review die niets vond om te challengen — en regulators lezen dat verschil.

← Terug naar overzicht