De meest gehoorde klacht over AI-assistenten is dat je alles steeds opnieuw moet vertellen. Dat is geen instelling die verkeerd staat. Een taalmodel heeft van zichzelf geen geheugen. Het krijgt bij elke vraag een stapel tekst mee en beantwoordt die vraag. Sluit je het gesprek, dan is die stapel weg.
Alles wat op geheugen lijkt, is dus gebouwd: iemand heeft besloten welke informatie er bij een volgende vraag opnieuw wordt meegegeven. Hoe dat gebeurt, bepaalt of een assistent aanvoelt als een collega of als een uitzendkracht die elke ochtend opnieuw begint. Zie wat is een AI-agent voor het bredere plaatje.
Het gespreksvenster. De lopende conversatie. Groot, maar eindig, en hij verdwijnt aan het eind. Prima voor één taak, waardeloos voor volgende week.
De samenvatting. Bij een lang gesprek wordt het oudste deel samengevat. Goedkoop en handig, maar een samenvatting gooit weg wat op dat moment onbelangrijk leek, en juist dat detail heb je later nodig.
Zoeken op betekenis. Alle eerdere teksten worden opgeslagen als getallenreeksen die betekenis vastleggen. Bij een nieuwe vraag worden de stukken opgehaald die daar het dichtst bij liggen. Dit is de meest gebruikte vorm, en de basis van RAG-assistenten.
Vastgelegde feiten. Losse uitspraken die als feit bewaard worden: deze klant werkt met dat pakket, deze afspraak geldt vanaf die datum. Kort, controleerbaar en aan te passen.
De meeste bruikbare systemen combineren de laatste twee.
Zoeken op betekenis is sterk in "waar ging het ook alweer over" en zwak in twee dingen die er dagelijks toe doen.
Het eerste is verandering in de tijd. Stel, er staat in juni "het tarief is X" en in september "het tarief is Y". Beide fragmenten lijken evenveel op de vraag "wat is het tarief". Zonder extra logica krijg je er een van, en soms allebei, en dan kiest het model er zelf een. Dat is het moment waarop een assistent zelfverzekerd iets verouderds zegt.
Het tweede is verband tussen dingen. "Welke afspraken hebben we met de partij die dat ene project deed" vraagt om het volgen van een lijn tussen personen, projecten en afspraken. Losse fragmenten kennen elkaar niet.
Een kennisgraaf bewaart geen stukken tekst maar feiten met een richting: deze persoon werkt bij dat bedrijf, dit project gebruikt die koppeling, deze afspraak vervangt die eerdere. Elk feit heeft een moment waarop het waar werd en kan een moment krijgen waarop het niet meer geldt.
Daarmee zijn precies de twee zwakke plekken hierboven op te lossen. Een nieuw feit vervangt het oude in plaats van ernaast te gaan liggen, en een vraag kan een lijn volgen in plaats van op gelijkenis te leunen.
Wat het kost, is werk vooraf: er moet uit tekst gehaald worden wat een feit is, en dat kost verwerkingstijd. Wij zijn bij ons eigen systeem tegen dezelfde les aangelopen die iedereen tegenkomt: aanbieden en verwerken zijn twee verschillende momenten. Het systeem zei dat een herinnering was doorgegeven terwijl hij pas in de wachtrij stond, en de verwerking duurde daarna nog minuten. Wie dat verschil niet meeneemt, toetst zijn geheugen op iets dat nog niet bestaat.
Praktisch betekent dat: gebruik een kennisgraaf voor wat langer moet gelden en waar verbanden in zitten, en zoeken op betekenis voor de rest.
Een geheugen dat alleen groeit, wordt vanzelf slechter. Drie mechanismen houden het bruikbaar.
Vervallen. Een feit dat vervangen wordt, krijgt een einddatum en verdwijnt uit de antwoorden zonder uit de geschiedenis te verdwijnen.
Wegen. Wat vaak gebruikt wordt, komt makkelijker naar boven. Wat maanden onaangeraakt bleef, zakt weg.
Scheiden. Wat de assistent van jou weet, hoort niet in het geheugen van een andere gebruiker. Dit is geen nette-vorm-kwestie maar een privacy-eis, zeker als er persoonsgegevens in zitten.
Bij een assistent voor je eigen organisatie werkt dit onderscheid goed. Leg als feit vast: hoe klanten heten en wat zij afnemen, welke afspraken en tarieven gelden en sinds wanneer, welke systemen jullie gebruiken, en hoe jullie schrijven en communiceren.
Laat in documenten staan: handleidingen, procedures, offertesjablonen en achtergrondstukken. Die haal je op wanneer ze nodig zijn, en ze hoeven niet als losse feiten uit elkaar gehaald te worden.
En leg vast wie mag wijzigen. Een geheugen waar iedereen ongezien in kan schrijven, wordt binnen een kwartaal onbetrouwbaar. Zie wanneer mag AI zelf handelen.
Geheugen is geen gratis toevoeging, en de kosten zitten op drie plekken.
Opslag en verwerking. Elk stuk tekst dat doorzoekbaar wordt, moet eerst worden omgezet. Dat is goedkoop per stuk en telt op bij grote archieven.
Meer tekst per vraag. Opgehaalde herinneringen gaan mee in elke vraag aan het model, en je betaalt per verwerkte hoeveelheid tekst. Een systeem dat bij elke vraag tien fragmenten meestuurt, is structureel duurder dan een systeem dat er twee meestuurt die kloppen.
Onderhoud. Feiten die verouderen, dubbele herinneringen, en de vraag of wat er staat nog waar is. Dit is menselijk werk en het verdwijnt niet.
Daar staat tegenover dat een assistent zonder geheugen elke keer opnieuw context meekrijgt die iemand moet typen. De vergelijking is dus niet "met geheugen kost geld en zonder niet", maar waar je die kosten neerlegt: bij het systeem of bij de gebruiker.
Stel maandelijks dezelfde tien vragen waarvan jij het antwoord weet, waaronder twee waarbij het antwoord onlangs veranderde. Een assistent die de oude versie geeft, heeft geen geheugenprobleem maar een verversingsprobleem, en dat is te repareren.
Wat wij daarbij in de praktijk tegenkwamen, staat in waarom je AI-assistent alles vergeet. Zie verder multi-agent systemen voor wat er gebeurt als meerdere agents hetzelfde geheugen delen, en van losse tools naar een AI-systeem voor de plek van geheugen in het geheel.
dGEN Productions, AI agency en business-automation partner uit Eindhoven. info@dgenproductions.nl · 06-87413056