Een AI-agent vraagt om een dreigingsmodel per actie
De keuze: modelleer risico rond de actie, niet alleen rond het antwoord
Kies voor elke agentworkflow een dreigingsmodel dat begint bij de concrete actie die de agent mag voorbereiden of uitvoeren. NIST beschrijft AI-agents als systemen die kunnen plannen en autonome acties kunnen nemen met effect op systemen of omgevingen; daarbij horen volgens NIST unieke beveiligingsuitdagingen. Dat maakt een tekstantwoord en een handeling via een tool niet gelijkwaardig: de tweede stap verdient een expliciete controlegrens. Praktisch betekent dit dat een team per actie bepaalt welke invoer onbetrouwbaar kan zijn, welke gegevens of tool beschikbaar komen en welke uitkomst nog door een mens moet worden beoordeeld. Dit is een ontwerpkeuze voor de eigen workflow, geen uitspraak dat iedere agent of iedere toepassing aan dezelfde wettelijke verplichting voldoet.
Leg identiteit, bevoegdheid en bewijsvoering naast elkaar
NIST vraagt in zijn conceptwerk expliciet aandacht voor identificatie, autorisatie, auditing en non-repudiation van AI-agents, plus maatregelen tegen prompt-injectiontechnieken. Gebruik die onderwerpen als vier aparte ontwerpvragen: namens wie handelt de agent, wat mag die identiteit doen, welk spoor van de handeling blijft achter en hoe is achteraf vast te stellen wie waarvoor verantwoordelijk was. Een bruikbaar hulpmiddel is een actieregister met vijf velden: actie; handelende identiteit; toegestane tool of gegevensbron; vereiste logregel; menselijke beslisser bij uitzondering. Vul het eerst voor één actie met merkbare impact in, bijvoorbeeld het doorzetten van een wijziging. Zo wordt duidelijk waar een te ruime bevoegdheid, ontbrekende logging of een ongedefinieerde escalatie zit. Noteer voor elke agentactie de eigenaar, de toegestane identiteit, de minimale bevoegdheid, het verplichte logbewijs en de menselijke escalatiegrens.
Gebruik Europese verplichtingen alleen waar de classificatie dat rechtvaardigt
De Europese Commissie noemt voor high-risk AI-systemen onder meer risicobeheersing, gegevenskwaliteit, documentatie, traceerbaarheid, transparantie, menselijk toezicht, nauwkeurigheid, cybersecurity en robuustheid. Voor zover een toepassing daadwerkelijk als high-risk AI-systeem in deze context valt, is logging dus niet slechts een technisch gemak maar onderdeel van de beschreven traceerbaarheid en controle. De bronnen beoordelen geen specifieke agent, toolketen of organisatie. De NIST-passages zijn een verzoek om informatie en conceptgerichte verkenning, geen afgeronde technische norm; de Europese passages gaan specifiek over high-risk AI-systemen. Daarom geeft dit artikel geen individueel juridisch, financieel of professioneel advies en vervangt het geen classificatie of conformiteitsbeoordeling voor een concrete toepassing.
