Hoe werkt een AI agent? De agent-loop uitgelegd

Agent of workflow?

Anthropic maakt in de gids Building effective agents (december 2024) een onderscheid dat bij elke bouwkeuze helpt:

• Workflow: taalmodellen en tools volgen een pad dat vooraf in code vastligt.
• Agent: het taalmodel stuurt zelf het proces en kiest zelf welke tools het gebruikt.

Een workflow is voorspelbaar. Een agent is flexibeler en past bij taken waarvan je vooraf niet weet hoeveel stappen nodig zijn.

De bouwsteen: een taalmodel met uitbreidingen

Elke agent begint bij wat Anthropic een augmented LLM noemt: een taalmodel met drie uitbreidingen.

• Retrieval: het model zoekt informatie op, bijvoorbeeld in je eigen documenten.
• Tools: het model laat acties uitvoeren, zoals een API aanroepen of een bestand lezen.
• Geheugen: het model houdt bij wat het moet onthouden.

De agent-loop stap voor stap

1. Opdracht. Je stuurt het model een taak en een lijst tools die het mag gebruiken. Elke tool heeft een naam, een omschrijving en de invoer die hij verwacht.
2. Keuze. Het model antwoordt met tekst, of met een verzoek om een tool aan te roepen met bepaalde invoer.
3. Uitvoering. Jouw code voert de tool uit en stuurt het resultaat terug naar het model.
4. Beoordeling. Het model leest het resultaat en kiest de volgende stap: nog een tool, of een eindantwoord.
5. Stoppen. De loop eindigt als het model geen tool meer aanroept, of als jouw code een grens bereikt, zoals een maximum aantal stappen.

Het model voert zelf niets uit. Het vraagt om een actie en jouw code beslist of en hoe die gebeurt. Daar zit je controle.

In pseudocode ziet dat er zo uit:

berichten = [taak]
herhaal maximaal 20 keer:
    antwoord = model(berichten, tools)
    als antwoord geen tool-aanroep bevat:
        geef antwoord terug en stop
    resultaat = voer_tool_uit(antwoord.tool, antwoord.invoer)
    berichten = berichten + [antwoord, resultaat]

Wanneer kies je een agent?

Volgens Anthropic passen agents bij open problemen waarbij je het aantal stappen niet kunt voorspellen en het pad niet vooraf kunt vastleggen. Voor veel toepassingen is één goede modelaanroep met opgezochte informatie en voorbeelden genoeg. Begin daarom simpel en voeg pas stappen toe als het resultaat daar beter van wordt.

Framework of zelf bouwen?

Anthropic adviseert te beginnen met de API van het taalmodel zelf, omdat je veel patronen in een paar regels code schrijft. Gebruik je een framework, zorg dan dat je begrijpt wat de code eronder doet. Anders wordt fouten zoeken lastig.

Zelf een agent bouwen

Een praktisch stappenplan staat in Een AI agent bouwen in 6 stappen. In de 1-op-1 training AI agent bouwen bouw je in 3 uur een agent voor je eigen case.