Laat een AI-agent pas handelen na een aparte controlevraag
De productiekeuze: scheid voorstellen van uitvoeren
Kies voor een action-boundary tussen de agent en elk systeem dat iets verandert. De agent formuleert eerst wat hij wil doen, voor welk doel, met welke gegevens en namens welke gebruiker of workflow. De controlelaag beslist vervolgens over uitvoeren, weigeren of escaleren. Dat is geen uitspraak dat een prompt waardeloos is; het is een ontwerpkeuze voor het moment waarop een voorstel een echte systeemactie wordt. De NIST-concepttekst plaatst het vraagstuk bij agents die autonoom taken uitvoeren en toegang krijgen tot uiteenlopende datasets, tools en applicaties; daarin zijn identificatie- en autorisatiecontroles genoemd als manier om risico's te beperken. De aangeleverde MCP-publicatie noemt daarnaast scoped authorization, herkomstregistratie, invoer-/uitvoercontroles en inline policy enforcement als voorgestelde controles. Gebruik die passages als richting voor de grens, niet als bewijs dat één specifieke architectuur alle risico's wegneemt.
Wat de controlelaag per actie moet kunnen beoordelen
Laat de laag ten minste vier vragen beantwoorden: mag deze actor deze actie uitvoeren, past de actie bij de huidige context, raakt zij een verboden of gevoelige bron, en vraagt het risico om een menselijk besluit? Autorisatie kan hierbij op attributen steunen: de NIST ABAC-publicatie omschrijft ABAC als een logische toegangscontrolemethode waarbij toestemming voor operaties wordt bepaald door evaluatie. In een agentflow kunnen relevante attributen bijvoorbeeld de rol, tenant, tool, gegevensklasse, actie en goedkeuringsstatus zijn. Leg harde grenzen als expliciete regels vast, zoals verboden acties, toegestane bestemmingen en verplichte escalaties. Voeg alleen een contextuele beoordeling toe waar de betekenis van de voorgenomen actie werkelijk ertoe doet. De ACP-studie beschrijft een admission-controlprotocol met statische risicoscores en toestandsinformatie over uitvoeringstraces; de beschreven test is een specifiek experiment en geen algemene prestatie- of veiligheidsbelofte voor uw omgeving.
Maak de grens werkbaar met een actiekaart
Gebruik voor één agentworkflow een actiekaart als beslisregister. Noteer per actie: eigenaar, actor of identiteit, doel, doelresource, gebruikte data, vereiste attributen, harde policy, risiconiveau, uitkomst (toestaan, weigeren of escaleren) en loglocatie. Het praktische hulpmiddel luidt: “Leg per voorgenomen agentactie vast: doel, actor, resource, benodigde rechten, policy-uitkomst, risiconiveau en eigenaar van de escalatie.” Begin met de actie die het meest direct een extern systeem of klantgegeven kan raken; zo ontstaat een toetsbare grens zonder meteen de hele agentstack te herontwerpen. De beperking is: “Deze aanpak is een architectuur- en governancepatroon, geen garantie dat een agent geen fout, misbruik of onverwachte context tegenkomt.” Dat is belangrijk, omdat bronpassages controles en risico's beschrijven, maar geen individueel juridisch, financieel of professioneel advies geven en geen volledige implementatie-evaluatie voor uw organisatie vervangen.
Verder lezen
Bronnen
- [2603.18829] Agent Control Protocol: Admission Control for Agent Actions
- [Concept Paper] Accelerating the Adoption of Software and Artificial Intelligence Agent Identity and Authorization | CSRC
- Guide to Attribute Based Access Control (ABAC) Definition and Considerations | NIST
- [2511.20920] Securing the Model Context Protocol (MCP): Risks, Controls, and Governance
- Bronvideo
- Bronvideo (historische verwijzing)
