Retrieval-augmented generation (RAG)
Retrieval-augmented generation (RAG) is een manier om een AI te laten antwoorden vanuit een gekozen set documenten. Het doorzoekt die documenten eerst op de relevante stukjes en schrijft dan het antwoord met alleen wat het vond. Dit vermindert verzonnen feiten.
Normale AI-modellen antwoorden vanuit wat ze tijdens hun training oppikten. Dat klinkt prima totdat ze met volle overtuiging iets fouts beweren. RAG lost dit op door het model eerst een specifieke stapel bronnen te geven om te lezen. Dus in plaats van uit het geheugen te gokken, haalt het de juiste passages op en bouwt het antwoord daarop.
Elke keer dat je iets vraagt, gebeuren er twee stappen. Eerst vindt het systeem de delen van je documenten die bij je vraag passen. Daarna geeft het die delen aan het model en zegt: antwoord hieruit. Het model wordt meer een samensteller van feiten dan de bron van feiten, en daarom blijven de antwoorden dichter bij de waarheid.
Één ding om op te letten: RAG is alleen zo goed als wat het ophaalt. Als de juiste passage nooit gevonden wordt, of je documenten dekken de vraag niet, kan het antwoord alsnog mager of fout zijn. Het verlaagt verzonnen feiten flink. Het wist ze niet.
Maya leert voor een examen biochemie. Ze vraagt haar AI-tool om de citroenzuurcyclus uit te leggen. Met RAG haalt het de exacte alinea's uit haar collegedia's en legt het uit in die termen, in plaats van willekeurige details van het bredere internet erbij te slepen die haar professor nooit heeft gegeven.