Wat gebeurt er technisch als een agent een apparaat aanstuurt? Van referentiebestand tot lees- en schrijfcommando, en waar de controles zitten die voorkomen dat er iets beweegt dat niet mag.
De vraag die na de aankondiging van MHS het vaakst terugkomt is niet wat het is, maar wat er nu eigenlijk gebeurt als een agent een machine bedient. Dit stuk loopt dat stap voor stap door, zonder code, en laat zien waar de controles zitten.
Voordat er iets beweegt, hoort er een referentiebestand te bestaan. Daarin staat wat het apparaat kan meten, wat er verstelbaar is en welke veiligheidsgrenzen gehandhaafd worden. Een robotarm krijgt daar zijn maximale snelheid en toegestane hoeken, een laser zijn maximale vermogen.
Het bijzondere is de vorm. De MHS-driver bevat velden waarin dat in gewone taal wordt ingevuld. Je kunt dat zelf typen, of een agent stelt je er vragen over en vult het in op basis van je antwoorden.
Dat is niet alleen gemak. Een taalmodel leest geen technische tabel maar wel een beschrijving, en dat is precies de reden dat deze standaard voor dit soort modellen werkt.
Omdat elk apparaat op dezelfde manier beschreven is, kan een agent opvragen wat er beschikbaar is zonder dat iemand hem dat vooraf vertelt. Dat is het verschil tussen een agent die weet dat er een thermometer is, en een agent aan wie je moet uitleggen dat hij op adres zoveel een getal kan lezen.
Diezelfde ontdekbaarheid is wat coördinatie mogelijk maakt. Bij de University of Washington konden instrumenten een plaat aan elkaar doorgeven zonder dat er iemand tussen stond, en dat is het punt waarop losse automatisering normaal vastloopt.
De aansturing zelf is opvallend simpel. Er zijn twee soorten commando's. Lezen, bijvoorbeeld: geef de temperatuur. En schrijven, bijvoorbeeld: zet de temperatuur.
Alles wat een agent doet, is een reeks van die twee. Meet, beoordeel, verstel, meet opnieuw. Dat klinkt karig en het is precies waarom het werkt: hoe kleiner de woordenschat, hoe minder er per apparaat verschilt.
Hier zit de toegevoegde waarde ten opzichte van een gewoon script. Een script voert een reeks uit. Een agent kijkt naar de uitkomst en past aan.
Bij Genentech bepaalde het model zelf de optimale doorstroomsnelheid voor een eiwitmeting, en kwam het op een ander antwoord uit voor water dan voor stroperige monsters. Niemand had die twee waarden vooraf ingevuld; ze rolden uit het meten zelf.
Dat is het verschil tussen automatisering en een agent, en het is hetzelfde verschil dat we bij software zien. Zie wat is een AI-agent.
Dit is het deel dat in samenvattingen wegvalt en dat er het meest toe doet.
De grenzen uit het referentiebestand worden afgedwongen ónder de agent. Ze zijn dus geen instructie die genegeerd kan worden maar een muur. Bij een van de partners weigerde de opstelling zes verschillende situaties voordat er iets bewoog: een ontbrekende plaat, een gedraaide plaat, een lezer die nog bezig was, en een camera die niet meer aangesloten was.
Let op wat die vier gemeen hebben: geen ervan is een fout van de agent. Het zijn omstandigheden in de fysieke wereld die de agent niet kán zien. De bewaking hoort daarom te zitten waar de wereld gemeten wordt, en niet waar over de wereld nagedacht wordt. Zie wie is verantwoordelijk als een agent een machine bedient.
Twee momenten horen langs een mens te gaan.
Het eerste is elke handeling die onomkeerbaar is. Bij software is dat een verzending of een betaling; bij hardware is die lijst langer, want veel fysieke handelingen zijn per definitie niet terug te draaien.
Het tweede is een storing. Een proces dat stil faalt is gevaarlijker dan handwerk, want je vertrouwt op iets dat niet gebeurde. Zorg dat een melding terechtkomt waar iemand hem ziet, ook buiten kantooruren. Zie AI die uit zichzelf werkt.
Een taalmodel heeft de fysieke wereld leren kennen uit tekst en beeld en heeft nooit iets vastgehouden. Dat levert een herkenbaar patroon op: fysieke oorzaken worden voor softwarefouten aangezien.
Bij Genentech gebeurde precies dat toen er schuim in de monsters ontstond. Bij QuEra werkte de agent uitstekend zolang alles via de besturing liep, maar zodra er iets aan de opstelling zelf haperde wist hij niet waar te beginnen.
Dat is geen reden om het niet te doen. Het is een reden om de rolverdeling vooraf te benoemen: de agent doet het herhaalbare, de mens doet het oordeel over de fysieke wereld.
Dat kan, en het is vaak goedkoper dan elke handeling door het model te laten uitvoeren. Het model genereert dan een script dat de machine bedient.
Dan klopt de grens niet, en dat is precies waarom dat bestand in versiebeheer hoort en niet in iemands map.
Niet als de grens onder de agent wordt afgedwongen. Dat is het hele punt van de plek waar hij staat.
In de preview werden er meerdere parallel bediend, en juist die coördinatie is de moeilijke helft.
Nee. Een PLC voert een vast programma uit. Een agent beoordeelt de uitkomst en past aan, binnen grenzen die vastliggen.
De denkwijze. Grens onder de agent, onomkeerbaar langs een mens, storing die iemand bereikt. Dat geldt ook voor de software die je vandaag koppelt.
Wij bouwen agents met precies die drie regels erin. Wil je weten hoe dat er bij jou uitziet, neem contact op of lees wat MHS is.
dGEN Productions, AI agency en business-automation partner uit Eindhoven. info@dgenproductions.nl · 06-87413056