Kennisbank / Agentic AI-systemen
De vraag die elke ondernemer stelt zodra AI toegang krijgt tot echte systemen: wat als het iets doet wat ik niet wilde?
Het antwoord is niet "AI minder laten kunnen". Het is de grens op de juiste plek leggen, en die grens ook echt afdwingen.
De bruikbaarste scheidslijn is niet hoe belangrijk een actie is, maar of je hem kunt terugdraaien.
Vrij, want omkeerbaar: lezen, zoeken, analyseren, samenvatten, een concept schrijven, een rapport maken, een website bekijken. Gaat er iets mis, dan gooi je het resultaat weg en ben je een paar minuten kwijt.
Eerst goedkeuring, want onomkeerbaar: iets verwijderen, een bericht versturen namens jou, publiceren, een betaling doen, een deploy starten, DNS wijzigen, met inloggegevens werken. Gaat het hier mis, dan is de schade er al voordat je het merkt.
Die tweedeling doet meer werk dan een lange lijst regels, omdat hij ook geldt voor situaties die je niet had bedacht.
Dit is het punt waar de meeste implementaties tekortschieten. Ze zetten de regel in de instructie aan het AI-model: "vraag altijd toestemming voordat je iets verwijdert".
Zo'n instructie is een verzoek. Een taalmodel weegt hem mee, maar kan hem ook anders interpreteren, zeker in een situatie die net iets afwijkt of als de opdracht erboven urgenter klinkt.
Een grens in de uitvoeringslaag is iets anders. Daar wordt de actie letterlijk tegengehouden voordat hij plaatsvindt, ongeacht wat het model erover denkt. Het model kan vragen, maar niet uitvoeren. Dat verschil is de reden dat je zoiets met een gerust hart op je eigen infrastructuur laat draaien.
Praktisch betekent dit: vraag bij een leverancier of implementatiepartner niet óf er goedkeuring is, maar wáár die zit. Zit hij in de prompt, dan is het geen garantie.
Er zit een valkuil in de andere richting. Vraagt een systeem overal toestemming voor, dan klik je binnen een week overal blind op "toestaan", en dan is de poort niets meer waard.
Wij hadden dat zelf: het systeem vroeg toestemming om een DNS-record te lezen. Onschuldig, maar precies daarmee train je jezelf om niet meer te kijken. Sindsdien winnen leeswerkwoorden van onderwerpen: dat een actie over DNS of betalingen gaat, maakt hem nog niet risicovol; dat hij iets verandert wel.
Drie kenmerken van een bruikbare goedkeuringsvraag:
Toestemming vooraf is de helft. De andere helft is dat je achteraf kunt herleiden wat er is gebeurd.
Leg vast welke acties zijn uitgevoerd, met welke gegevens, op welk moment en op wiens verzoek. Niet voor de bureaucratie, maar omdat de eerste vraag bij een onverwachte uitkomst altijd is: wat is er precies gebeurd? Zonder logboek is het antwoord een reconstructie, en dat kost meer tijd dan de automatisering opleverde.
Dit is ook wat een audit of een klant wil zien. Een AI-systeem dat niet kan uitleggen wat het deed, is in een zakelijke omgeving lastig te verdedigen.
Naast goedkeuring is er een tweede laag: dingen die het systeem simpelweg niet kan bereiken, hoe je het ook vraagt.
Dat laatste principe is breder toepasbaar dan alleen bij techniek: beschrijven wat wél mag is bijna altijd veiliger dan opsommen wat niet mag.
Werkt het systeem met persoonsgegevens, dan gelden dezelfde regels als voor elke andere verwerking. Drie dingen die in de praktijk het vaakst misgaan:
In ons eigen systeem is de grens ingebouwd, niet ingesproken. Verwijderen, publiceren, deployen, DNS wijzigen en werken met betaalgegevens vragen altijd eerst expliciete goedkeuring, met de exacte actie erbij. Geen antwoord binnen de tijd betekent niet uitvoeren. Elke schrijfactie en elk commando wordt vastgelegd.
Daarnaast is het systeem eerlijk over zichzelf: onderdelen zonder echte meting staan grijs in plaats van groen. Een dashboard dat "alles in orde" meldt omdat het niets gemeten heeft, is erger dan geen dashboard.
Hoe dat er in de praktijk uitziet, staat in de case AI DevOps Center. Wil je dit voor je eigen organisatie goed inrichten? Bekijk AI agents & automatisering of plan een gesprek.
dGEN Productions, AI agency en business-automation partner uit Eindhoven. info@dgenproductions.nl · 06-87413056