Retrieval-augmented generation (RAG)
Retrieval-augmented generation (RAG) er en måte å få en AI til å svare ut fra et utvalgt sett med dokumenter. Den søker først i dokumentene etter de relevante bitene, og skriver så svaret bare ut fra det den fant. Det kutter ned på oppdiktede fakta.
Vanlige AI-modeller svarer ut fra det de plukket opp under treningen. Det høres greit ut helt til de selvsikkert sier noe som er feil. RAG løser det ved å gi modellen en bestemt haug med kilder å lese først. Så i stedet for å gjette fra hukommelsen henter den de riktige avsnittene og bygger svaret på dem.
To steg skjer hver gang du spør om noe. Først finner systemet de delene av dokumentene dine som passer til spørsmålet. Så gir det delene til modellen og sier: svar ut fra dette. Modellen blir mer en montør av fakta enn kilden til fakta, og det er derfor svarene holder seg nærmere sannheten.
En ting å passe på: RAG er bare like god som det den henter. Blir det riktige avsnittet aldri funnet, eller dekker ikke dokumentene dine spørsmålet, kan svaret fortsatt bli tynt eller feil. Det senker oppdiktede fakta mye. Det fjerner dem ikke.
Maya leser til en biokjemieksamen. Hun ber AI-verktøyet forklare sitronsyresyklusen. Med RAG henter det de nøyaktige avsnittene fra lysarkene hennes og forklarer den i de begrepene, i stedet for å dra inn tilfeldige detaljer fra det store internett som foreleseren aldri underviste i.