Een taalmodel onthoudt niets tussen gesprekken. Alles wat op geheugen lijkt, is gebouwd. Welke vormen er zijn, waarom zoeken op betekenis tekortschiet bij veranderende feiten, en wat een kennisgraaf toevoegt.
De meest gehoorde klacht over AI-assistenten is dat je alles steeds opnieuw moet vertellen. Dat is geen instelling die verkeerd staat. Een taalmodel heeft van zichzelf geen geheugen: het krijgt bij elke vraag een stapel tekst mee, beantwoordt die vraag, en als het gesprek sluit is de stapel weg.
Alles wat op geheugen lijkt, is dus gebouwd. Iemand heeft besloten welke informatie er bij een volgende vraag opnieuw wordt meegegeven. Hoe dat gebeurt, bepaalt of een assistent aanvoelt als een collega of als een uitzendkracht die elke ochtend opnieuw begint.
Het gespreksvenster. De lopende conversatie. Groot, maar eindig, en aan het eind verdwijnt hij. Prima voor één taak, waardeloos voor volgende week.
De samenvatting. Bij een lang gesprek wordt het oudste deel samengevat. Goedkoop en handig, maar een samenvatting gooit weg wat op dat moment onbelangrijk leek, en dat is precies het detail dat je later nodig hebt.
Zoeken op betekenis. Alle eerdere teksten worden opgeslagen in een vorm die betekenis vastlegt, en bij een nieuwe vraag worden de stukken opgehaald die daar het dichtst bij liggen. Dit is de meest gebruikte vorm en de basis van RAG-assistenten.
Vastgelegde feiten. Losse uitspraken die als feit bewaard worden: deze klant werkt met dat pakket, deze afspraak geldt vanaf die datum. Kort, controleerbaar en aan te passen.
Zoeken op betekenis is sterk in waar-ging-het-ook-alweer-over en zwak in twee dingen die er dagelijks toe doen.
Het eerste is verandering in de tijd. Staat er in juni dat het tarief X is en in september dat het Y is, dan lijken beide fragmenten evenveel op de vraag wat het tarief is. Zonder extra logica krijg je er een van, soms allebei, en dan kiest het model zelf. Dat is het moment waarop een assistent zelfverzekerd iets verouderds zegt.
Het tweede is verband. Een vraag als welke afspraken we hebben met de partij die dat project deed, vraagt om het volgen van een lijn tussen personen, projecten en afspraken. Losse fragmenten kennen elkaar niet.
Een kennisgraaf bewaart geen stukken tekst maar feiten met een richting: deze persoon werkt bij dat bedrijf, dit project gebruikt die koppeling, deze afspraak vervangt die eerdere. Elk feit heeft een moment waarop het waar werd, en kan een moment krijgen waarop het niet meer geldt.
Daarmee zijn precies die twee zwakke plekken op te lossen. Een nieuw feit vervangt het oude in plaats van ernaast te gaan liggen, en een vraag kan een lijn volgen in plaats van op gelijkenis te leunen.
Wat het kost is werk vooraf: uit tekst moet gehaald worden wat een feit is, en dat kost verwerkingstijd. Zie het geheugen van een AI-agent voor de afweging per situatie.
Bij ons eigen systeem hebben we het hele geheugen naar zo'n graaf verplaatst, en daar leerden we iets dat in geen enkele handleiding stond: aanbieden en verwerken zijn twee verschillende momenten.
Het systeem meldde dat een herinnering was doorgegeven, terwijl hij op dat moment pas in de wachtrij stond. Tien herinneringen waren in een seconde aangeboden en na ruim vier minuten pas verwerkt. Wie dat verschil niet kent, toetst zijn geheugen op iets dat nog niet bestaat en concludeert dat het niet werkt.
De tweede les was strenger: een geheugen dat naar de verkeerde groep schrijft, is erger dan geen geheugen. Wij hadden even twee scheidingen naast elkaar staan, en een deel van de herinneringen belandde in de verkeerde. Eén scheiding tegelijk, en controleer na het schrijven waar het terechtkwam.
Een geheugen dat alleen groeit, wordt vanzelf slechter. Drie mechanismen houden het bruikbaar.
Vervallen: een feit dat vervangen wordt, krijgt een einddatum en verdwijnt uit de antwoorden zonder uit de geschiedenis te verdwijnen. Wegen: wat vaak gebruikt wordt komt makkelijker naar boven, wat maanden onaangeraakt bleef zakt weg. Scheiden: wat de assistent van jou weet, hoort niet in het geheugen van een andere gebruiker. Dat laatste is een privacy-eis en geen nette vorm.
Leg als feit vast: hoe klanten heten en wat zij afnemen, welke afspraken en tarieven gelden en sinds wanneer, welke systemen jullie gebruiken, en hoe jullie schrijven.
Laat in documenten staan: handleidingen, procedures, sjablonen en achtergrondstukken. Die haal je op wanneer ze nodig zijn.
En leg vast wie mag wijzigen. Een geheugen waar iedereen ongezien in kan schrijven, is binnen een kwartaal onbetrouwbaar. Zie wanneer mag AI zelf handelen.
Omdat de hele conversatie in dat ene gesprek wordt meegestuurd. Buiten dat gesprek bestaat hij niet meer, tenzij er iets is gebouwd dat hem bewaart.
Nee. Elke opgehaalde herinnering gaat mee in de vraag, en je betaalt per verwerkte hoeveelheid tekst. Twee kloppende fragmenten verslaan tien vage.
Dat hoort te kunnen, en het hoort te wijzigen en te wissen te zijn. Kan dat niet, dan is dat een ontwerpfout en geen functie.
Dan is er geen geheugenprobleem maar een verversingsprobleem. Feiten horen een einddatum te kunnen krijgen.
Stel maandelijks dezelfde tien vragen waarvan jij het antwoord weet, waaronder twee waarbij het antwoord onlangs veranderde. Zie van losse tools naar een AI-systeem.
Met de vraag welke twintig feiten een collega over jouw bedrijf zou moeten weten op zijn eerste dag. Dat lijstje is je geheugen, en het is korter dan de meeste mensen verwachten.
Wilt u een assistent die uw afspraken onthoudt, neem contact op.
dGEN Productions, AI agency en business-automation partner uit Eindhoven. info@dgenproductions.nl · 06-87413056