AI maakt fouten. Maar wie is er verantwoordelijk?

AI-systemen nemen steeds vaker beslissingen met impact. Denk aan het voorsorteren van sollicitaties, het detecteren van fraude of het ondersteunen van medische processen.

Maar wanneer zo’n systeem een fout maakt, wie spreken we dan aan?
De gebruiker? De ontwikkelaar? Of simpelweg “het systeem”?

Om die vraag te beantwoorden, helpt het soms om een stap terug te doen. En te kijken naar een ander domein waar verantwoordelijkheid al jarenlang een vaste plek heeft in de ontwerpfase: de publieke ruimte.

Een donker steegje, en de AI-parallel

Stel je een stad voor met een donker steegje waar regelmatig drugshandel plaatsvindt. De mensen die daar handelen zijn moreel aanspreekbaar: zij kiezen bewust voor illegaal gedrag. Maar zijn zij de enigen die verantwoordelijkheid dragen?

Nee.
Want, want ook de gemeente draagt verantwoordelijkheid. Niet omdat zij de handel faciliteert, maar omdat zij begrijpt dat de fysieke inrichting bijdraagt aan onveilig gedrag. Door betere verlichting, zichtlijnen of een andere inrichting kan het probleem worden verminderd.

Zo’n steegje is goed te vergelijken met een AI-systeem.

Het AI-model zelf is niet verantwoordelijk, aangezien het ook niet moreel aanspreekbaar is (het is niet bewust van goed en fout).

Maar zowel de gebruiker als de ontwikkelaar hebben invloed op de gevolgen:

De gebruiker is moreel aanspreekbar voor wat hij/zij met het systeem doet.
De ontwikkelaar neemt verantwoordelijkheid voor hoe het systeem is ontworpen, en hoe het gedragd faciliteert of begrenst.

Verantwoordelijk systeemontwerp: wat we kunnen leren van verkeerssituaties

Neem een ander voorbeeld: een schoolzone. We willen dat automobilisten daar maximaal 30 km/h rijden. Je zou een bord kunnen plaatsen en hopen dat iedereen zich eraan houdt.

Maar zo werkt het niet.

Mensen passen hun gedrag aan op hun omgeving. Daarom ontwerpen we de straat anders:

drempels
versmallingen
zebrapaden

Met andere woorden: we creëren een systeem dat gewenst gedrag faciliteert en ongewenst gedrag ontmoedigt.

Waarom doen we dat wél in het verkeer, maar nog te weinig bij AI-systemen?

AI is digitale infrastructuur

Veel AI-systemen worden gebouwd en gebruikt alsof ze neutraal zijn. Alsof de verantwoordelijkheid volledig bij de gebruiker ligt. Maar net als bij een verkeersonveilige straat is dat een te beperkte blik.

Ontwerpers van AI-systemen hebben invloed. Zij maken keuzes over:

hoe transparant een systeem is
welke data wordt gebruikt (en wie daarin wel of niet vertegenwoordigd is)
of gebruikers feedback krijgen bij fouten
of menselijke tussenkomst mogelijk is

AI is niet alleen technologie. Het is een digitale infrastructuur. En infrastructuur vraagt om verantwoordelijk ontwerp, monitoring en bijstelling.

Een andere manier van kijken naar verantwoordelijkheid

In de filosofie maken we onderscheid tussen:

Accountability (aanspreekbaarheid)
Responsibility (verantwoordelijkheid)

In de praktijk zijn beide nodig:

Gebruikers van AI moeten aanspreekbaar zijn op misbruik.
Ontwikkelaars moeten verantwoordelijkheid nemen voor hoe hun systemen in de wereld functioneren.

Dat betekent: testen, monitoren, bijsturen en ontwerpen vanuit morele intuïtie. Net zoals een stedenbouwkundige dat doet bij het inrichten van een wijk.

Tot slot

De vraag “wie is verantwoordelijk als AI een fout maakt?” heeft geen simpel antwoord. Maar dat betekent niet dat we er niets mee kunnen. Integendeel: het vraagt om ontwerpprincipes die verantwoordelijkheid verdelen in plaats van afschuiven.

Dus: als je AI inzet binnen je organisatie, stel jezelf niet alleen de vraag:

Wat kan het?

Maar ook:

Wat mag het?
En met welke intentie hebben wij dit systeem gevormd?

👉 Wil je AI verantwoord inzetten binnen jouw organisatie? Op onze website delen we inzichten, workshops en begeleiding jou op een toegankelijke wijze door de wereld van AI nemen.