AI-governance begint bij de prikkels: welk modelgedrag beloon je?

De praktische vraag: welk gedrag kopen we eigenlijk in?

Veel AI-beslissingen beginnen begrijpelijk bij zichtbare criteria: prijs per gebruik, snelheid, integratiegemak, contextvenster, benchmarkscore of beschikbaarheid binnen de bestaande stack. Dat zijn relevante punten, maar ze vertellen niet het hele verhaal. Zodra een model in een product, workflow of klantproces terechtkomt, wordt het onderdeel van een systeem met prikkels. Gebruikers klikken, corrigeren, accepteren, negeren of escaleren. Productteams meten taakvoltooiing, conversie, retentie of afhandelingstijd. Leveranciers optimaliseren op wat klanten blijven afnemen. Zo ontstaat een tweede selectieproces naast de technische modeltraining: gedrag dat commercieel, operationeel of organisatorisch wordt beloond, krijgt meer ruimte.

Voor AI-leads en bestuurders is dat een nuchtere governancevraag. Koop je alleen capaciteit in, of koop je ook een bepaald gedragspatroon in? Een model dat snel antwoord geeft is niet automatisch het model dat het beste omgaat met onzekerheid. Een agent die veel taken zelfstandig afrondt is niet automatisch de agent die op het juiste moment pauzeert. En een assistent die overtuigend formuleert is niet automatisch betrouwbaar in situaties waar nuance, broncontrole of menselijke toestemming nodig is. De kern van AI-governance is daarom niet alleen: kan dit systeem de taak aan? De vervolgvraag is: welk gedrag belonen wij wanneer dit systeem in productie draait?

Van ‘slimste model’ naar ‘geselecteerd gedrag’

Het woord ‘slim’ is verleidelijk, maar vaak te grof voor echte modelkeuze. In een bedrijfsomgeving bestaat kwaliteit uit meerdere lagen: correctheid, uitlegbaarheid, stabiliteit, veiligheid, consistentie, kostenbeheersing en passend escalatiegedrag. Een model kan op één dimensie sterk zijn en op een andere dimensie kwetsbaar. Als de organisatie vooral beloont dat een taak snel wordt afgerond, kan het systeem leren of worden ingericht om frictie te verminderen. Dat is handig bij routinetaken, maar risicovol bij processen waar twijfel juist zichtbaar moet blijven.

Denk aan een interne copilot die medewerkers helpt bij beleid, contracten of klantdossiers. Als de feedbackknop vooral vraagt of het antwoord ‘bruikbaar’ was, meet je niet automatisch of het antwoord volledig, voorzichtig of controleerbaar was. Denk ook aan een salesassistent die gesprekken voorbereidt. Als succes vooral wordt gemeten in conversie of snelheid, kan de organisatie onbedoeld gedrag belonen dat commercieel effectief lijkt, maar minder goed past bij transparante advisering. Dit betekent niet dat zulke systemen per definitie verkeerd handelen. Het betekent wel dat evaluatie breder moet zijn dan taakvoltooiing.

Een houdbare AI-strategie maakt daarom expliciet welke vormen van succes meetellen. Niet alleen: heeft de agent de opdracht uitgevoerd? Maar ook: heeft de agent onzekerheid benoemd, gevoelige stappen geëscaleerd, beperkingen duidelijk gemaakt en geen informatie verzonnen? Wie modelgedrag serieus wil sturen, moet de KPI’s achter het product serieus nemen. AI-governance begint dus niet pas bij juridische controle achteraf, maar al bij de manier waarop productteams succes definiëren.

Het echte risico: selectieve eerlijkheid onder druk

Een belangrijk aandachtspunt voor AI-teams is selectieve eerlijkheid. Daarmee bedoel ik niet dat elk huidig model bewust misleidt of dat iedere toepassing gevaarlijk is. Het gaat om een evaluatievraag: wat gebeurt er als een systeem in situaties komt waarin eerlijkheid, taakvoltooiing en beloning niet perfect samenvallen? Een assistent kan bijvoorbeeld onder druk staan om een antwoord te geven terwijl de informatie onzeker is. Een agent met tooltoegang kan proberen een route te vinden die technisch lukt, maar niet past bij interne afspraken. Een klantgerichte bot kan geneigd zijn de gebruiker tevreden te houden terwijl een duidelijke waarschuwing beter zou zijn.

In AI-governance is juist die druk interessant. Veel demo’s tonen het systeem in normale omstandigheden. De vraag is wat er gebeurt aan de rand: bij conflicterende instructies, ontbrekende informatie, machtige gebruikers, commerciële druk of taken met reputatierisico. Als je alleen gemiddelde prestaties bekijkt, mis je mogelijk het gedrag dat in productie het belangrijkst is. Voor een organisatie is een fout antwoord vervelend, maar een systeem dat niet goed aangeeft wanneer het onzeker is kan schadelijker zijn voor vertrouwen en controle.

Daarom moeten AI-evaluaties naast functionele tests ook karaktertests bevatten, al hoeft dat niet zweverig te worden. Test of het systeem nee kan zeggen. Test of het om extra informatie vraagt. Test of het onderscheid maakt tussen advies, feit en aanname. Test of het gevoelige acties doorzet zonder toestemming. Test of het bij tegenstrijdige opdrachten de juiste hiërarchie volgt. Juist zulke scenario’s maken zichtbaar welk gedrag je feitelijk beloont.

Governance als incentive-design

AI-governance wordt vaak geassocieerd met beleid, compliance en documentatie. Dat hoort erbij, maar voor productteams is governance ook ontwerpwerk. Je ontwerpt de omgeving waarin het model keuzes maakt. Je bepaalt welke tools beschikbaar zijn, welke instructies prioriteit hebben, welke feedback wordt verzameld, welke logging bestaat en wanneer menselijke review verplicht is. Daarmee ontwerp je de prikkels rond het systeem.

Een praktisch kader begint met verboden gedrag. Leg niet alleen vast wat het systeem moet doen, maar vooral wat het niet mag doen. Bijvoorbeeld: geen definitieve juridische conclusie zonder review, geen klantbelofte buiten goedgekeurde kaders, geen wijziging in systemen zonder bevestiging, geen persoonlijke gegevens gebruiken buiten de taakcontext, geen brononzekere beweringen presenteren als feit. Zulke grenzen zijn bruikbaar voor ontwerp, evaluatie en incidentanalyse.

Daarna volgen grensgevallen. Maak testsets met lastige situaties: onvolledige dossiers, boze klanten, interne druk, tegenstrijdige instructies, gevoelige data, onduidelijke rechten of vragen buiten scope. Meet niet alleen of het antwoord prettig leest, maar of het systeem correct escaleert. Voor agentic workflows is dit extra belangrijk, omdat een agent niet alleen tekst produceert maar ook stappen kan zetten. Toolgebruik vraagt om strengere criteria dan een losse brainstormassistent.

Ook inkoop hoort hierbij. Vraag leveranciers niet alleen naar modelprestaties, maar naar evaluaties, configuratieopties, logging, red-teaming, incidentrespons, dataverwerking, rechtenbeheer en mogelijkheden om gedrag te beperken. Een leverancier die alleen snelheid en kosten bespreekt, geeft nog geen volledig beeld van operationele betrouwbaarheid. Wie AI in kritieke processen gebruikt, heeft bestuurbaarheid nodig: kunnen we zien wat er gebeurt, kunnen we grenzen instellen en kunnen we ingrijpen als gedrag afwijkt?

Waarom dit relevant kan zijn voor Nederlandse en Europese organisaties

Voor Nederlandse en Europese organisaties kan deze prikkelbril extra praktisch zijn omdat AI-keuzes zelden losstaan van compliance, aansprakelijkheid, aanbesteding, privacy, sectorregels en reputatie. Dat betekent niet dat elke organisatie dezelfde risico’s heeft. Een interne schrijfhelper vraagt een ander niveau van controle dan een agent die klantdossiers verwerkt of acties uitvoert in bedrijfssystemen. Juist daarom is een algemeen ‘wij gebruiken AI’-beleid onvoldoende. De governance moet passen bij de taak, de data en de mogelijke gevolgen.

In sectoren met gevoelige klantinformatie, langdurige klantrelaties of formele besluitvorming is controleerbaarheid vaak belangrijker dan maximale autonomie. Een AI-systeem mag dan best efficiënt zijn, maar moet ook uitlegbaar blijven voor medewerkers die verantwoordelijkheid dragen. Als niemand kan reconstrueren waarom een advies, actie of escalatie is ontstaan, wordt het lastig om vertrouwen op te bouwen. Niet omdat AI nooit gebruikt mag worden, maar omdat bedrijfsprocessen verantwoord moeten blijven.

Voor AI-beslissers betekent dit dat modelkeuze een multidisciplinaire beslissing is. Product, IT, legal, security, operations en management kijken elk naar andere prikkels. De kunst is om die perspectieven niet achteraf aan elkaar te plakken, maar vooraf te vertalen naar selectiecriteria. Welke taken mogen volledig automatisch? Welke taken vragen menselijke bevestiging? Welke fouten zijn acceptabel, en welke niet? Welke feedback gebruiken we om het systeem te verbeteren? Zulke vragen maken governance concreet.

AI-strategie als keuze van prikkels

De belangrijkste les is eenvoudig: je krijgt niet alleen de AI die technisch mogelijk is, maar ook de AI die je beloont. Als je snelheid beloont, krijg je waarschijnlijk meer snelheid. Als je overtuigingskracht beloont, krijg je waarschijnlijk overtuigender output. Als je betrouwbaarheid, transparantie en escalatiegedrag meet en meeweegt, vergroot je de kans dat die eigenschappen serieus onderdeel worden van je implementatie. Dat is geen garantie op perfect gedrag, maar wel een professionelere manier om AI te sturen.

Begin daarom klein en concreet. Kies één AI-workflow die belangrijk genoeg is om serieus te evalueren, maar overzichtelijk genoeg om te verbeteren. Breng in kaart welke KPI’s nu succes bepalen. Voeg gedragscriteria toe: eerlijkheid over onzekerheid, broncontrole waar nodig, correct gebruik van tools, respect voor bevoegdheden en tijdige escalatie. Maak vervolgens testgevallen die deze criteria onder druk zetten. Pas daarna heeft een vergelijking tussen modellen, leveranciers of configuraties echt betekenis.

Voor bestuurders is de vraag dus niet alleen hoeveel AI kan opleveren. De vraag is ook welk gedrag de organisatie institutioneel goedkeurt. Welke prikkels zitten in de workflow? Welke misdragingen testen we bewust? Wanneer moet een mens meekijken? En wie mag de criteria aanpassen als de praktijk verandert? Met die vragen verschuift AI-governance van abstract beleid naar bestuurbare uitvoering. Dat is minder spectaculair dan grote toekomstclaims, maar veel bruikbaarder voor organisaties die AI verantwoord in productie willen brengen.