Retrieval-augmented generation (RAG)
Retrieval-augmented generation (RAG) er en måde at få en AI til at svare ud fra et bestemt sæt dokumenter. Den søger først i dokumenterne efter de relevante stumper og skriver så svaret med kun det, den fandt. Det skærer ned på opdigtede fakta.
Normale AI-modeller svarer ud fra det, de opsnappede under træningen. Det lyder fint, indtil de selvsikkert påstår noget forkert. RAG løser det ved at give modellen en bestemt bunke kilder at læse først. Så i stedet for at gætte ud fra hukommelsen henter den de rigtige afsnit og bygger svaret oven på dem.
Der sker to trin, hver gang du spørger om noget. Først finder systemet de dele af dine dokumenter, der matcher dit spørgsmål. Så giver det dem til modellen og siger: svar ud fra det her. Modellen bliver mere en samler af fakta end kilden til fakta, og derfor holder svarene sig tættere på sandheden.
En ting at holde øje med: RAG er kun så god som det, den henter. Bliver det rigtige afsnit aldrig fundet, eller dækker dine dokumenter ikke spørgsmålet, kan svaret stadig blive tyndt eller forkert. Det sænker mængden af opdigtede fakta meget. Det fjerner dem ikke.
Maya læser til en biokemieksamen. Hun beder sit AI-værktøj forklare citronsyrecyklussen. Med RAG henter det de præcise afsnit fra hendes forelæsnings-slides og forklarer det i de termer, i stedet for at trække tilfældige detaljer ind fra resten af internettet, som hendes underviser aldrig har undervist i.