RAG in één minuut
Denk aan een medewerker die eerst de juiste cataloguspagina opent en daarna antwoord geeft. RAG organiseert zo'n combinatie van opzoeken en formuleren in software. Een verkeerde cataloguspagina blijft een verkeerde basis, hoe overtuigend het antwoord ook klinkt.
RAG met een eenvoudig voorbeeld
Een klant vraagt of een bepaalde bureaulamp vandaag op voorraad is en wat deze kost. Een LLM zonder toegang tot actuele bedrijfsgegevens kan daar geen betrouwbare actuele voorraad uit afleiden. Met RAG haalt de toepassing eerst de relevante informatie op. Zij koppelt de productcode aan de juiste variant, leest een actuele bron en geeft het resultaat mee aan het model.
Connectors kunnen de toegang tot de catalogus of documenten verzorgen. Zij bepalen welke bron met welke accountrechten bereikbaar is. RAG voegt daar selectie en gebruik van relevante informatie aan toe. Een werkende verbinding garandeert dus nog geen actuele bron of correct antwoord.
- 1 · Ophalen
Zoek de juiste productvariant, prijs en voorraad in een toegestane bron.
- 2 · Context toevoegen
Geef het resultaat, de datum en de bron mee aan het taalmodel.
- 3 · Antwoord maken
Laat het model de gevonden gegevens begrijpelijk formuleren en ontbrekende informatie benoemen.
Stel dat de bron vermeldt: model L24, zwart, drie stuks beschikbaar, prijs inclusief btw. Het antwoord moet precies die variant en prijsvoorwaarden volgen. Het mag niet de voorraad van de witte uitvoering overnemen of een bezorgdatum verzinnen. Voor sterk veranderlijke gegevens kan een rechtstreekse database- of API-opvraag geschikter zijn dan een periodiek bijgewerkte documentenindex. Niet iedere implementatie noemt zo'n gereedschapsopvraag RAG, maar het principe van ophalen vóór formuleren is hetzelfde.
Een ander dagelijks voorbeeld is een vraag over een retourprocedure. De toepassing zoekt in het geldende beleid, haalt de relevante passage op en laat het model uitleggen welke stappen daarin staan. Als de bron geen uitzondering voor zakelijke klanten vermeldt, moet het antwoord die uitzondering niet uit algemene aannames aanvullen. Geef het document en de versie aan, zodat een medewerker de uitleg kan controleren.
Technisch bekeken
Een veelgebruikte RAG-keten begint vóór de vraag van de gebruiker. Documenten worden ingelezen, opgeschoond en verdeeld in bruikbare stukken. Die stukken krijgen metadata, bijvoorbeeld een productcode, datum, taal of toegangsrecht. De keuze van de stukgrootte is belangrijk: een losse zin kan een voorwaarde verliezen, terwijl een heel handboek veel irrelevante informatie meebrengt.
Embeddings en zoeken. Een embedding zet tekst of andere inhoud om in een vector: een reeks getallen die een aangeleerde representatie vormt. Een vectorzoekopdracht kan inhoud vinden met verwante betekenis, ook als niet exact dezelfde woorden voorkomen. Vergelijkbare vectoren bewijzen echter niet dat twee producten identiek zijn of dat een passage de vraag werkelijk beantwoordt.
Een vector database kan zulke representaties opslaan en doorzoeken. Ze is geen verplicht onderdeel van iedere RAG-toepassing. Zoeken op trefwoorden, databasefilters en hybride zoekmethoden zijn ook mogelijk. Een exacte artikelcode is vaak een sterk selectiesignaal; voor een omschreven probleem kan zoeken op betekenis nuttiger zijn. Een extra rangschikkingsstap kan de gevonden passages nader ordenen.
Vervolgens worden geselecteerde passages in de Context Window geplaatst, samen met de vraag en instructies. Ze nemen tokens en verwerkingsruimte in. Meer documenten toevoegen is niet automatisch beter: tegenstrijdige of irrelevante tekst kan de bruikbare passage moeilijker vindbaar maken. Bronlabels en duidelijke grenzen helpen onderscheid maken tussen documentinhoud en de opdracht van de toepassing.
| Werkwijze | Wat verandert? | Waarvoor bruikbaar? |
|---|---|---|
| RAG tijdens gebruik | Het model ontvangt opgehaalde informatie in zijn context. | Een antwoord onderbouwen met specifieke of recente gegevens. |
| Training of fine-tuning | Modelgewichten worden aangepast via een leerproces. | Gedrag, patronen of taakprestaties aanpassen. |
| Beide gecombineerd | Een aangepast model werkt met een aparte ophaalketen. | Specialistische taken met bedrijfsbronnen; beide onderdelen moeten worden getest. |
Het onderzoeksartikel van Lewis en collega's uit 2020 beschrijft een invloedrijke combinatie van een generator en een externe kennisbron. Dat concrete onderzoek bevat ook training van onderdelen van het systeem. Het betekent niet dat iedere hedendaagse RAG-opvraag een trainingstaak is. De term wordt inmiddels gebruikt voor verschillende ontwerpen die retrieval met generatie combineren.
Waar kunnen fouten ontstaan?
Een antwoord kan mislukken doordat de juiste bron ontbreekt, het systeem een verkeerde passage selecteert of het model de juiste passage verkeerd leest. Zelfs een correct opgehaalde tekst kan zelf een fout bevatten. Dit zijn verschillende oorzaken die verschillende oplossingen vragen. Alleen het taalmodel vervangen lost een slecht bijgehouden catalogus niet op.
Heeft het systeem het juiste document en de juiste versie gevonden?
Wordt iedere belangrijke claim daadwerkelijk door die bron ondersteund?
RAG kan het risico op Hallucination verkleinen door relevante feiten beschikbaar te maken. Het is geen garantie op foutloze antwoorden. Een bronverwijzing kan naar een echt document wijzen terwijl de genoemde prijs niet in dat document staat. Controleer daarom de relatie tussen claim en passage, niet alleen of de link geopend kan worden.
- Test vragen met een bekend antwoord, inclusief varianten en uitzonderingen.
- Voeg vragen toe waarvan het antwoord ontbreekt; verwacht dan een duidelijke beperking.
- Controleer of ingetrokken documenten en gewijzigde prijzen tijdig verdwijnen of worden bijgewerkt.
- Pas toegangsrechten toe vóór informatie bij het model terechtkomt.
- Meet apart of de juiste bron is gevonden en of het uiteindelijke antwoord klopt.
Voor een bruikbaar bedrijfsproces horen ook afspraken over onzekerheid erbij. Laat de toepassing bij ontbrekende voorraad geen beschikbaarheid beloven, maar een medewerker of een actuele voorraadcontrole inschakelen. Houd de bronversie bij wanneer een besluit moet worden teruggezocht. Zo blijft zichtbaar welke gegevens de basis vormden, zonder te doen alsof een vloeiende formulering op zichzelf bewijs is.