RAG (Retrieval-Augmented Generation) er en metode, hvor en AI-model slår op i jeres egne dokumenter, før den svarer. Modellen henter de relevante tekststykker frem og bruger dem som grundlag for svaret i stedet for kun at trække på det, den blev trænet på. Det er teknikken bag AI, der kan svare på spørgsmål om jeres virksomhed.
Sådan fungerer det
Først indekseres materialet: dokumenter deles op i mindre stykker, og hvert stykke får en matematisk repræsentation, der gør det muligt at søge på betydning frem for på eksakte ord.
Når nogen stiller et spørgsmål, findes de mest relevante stykker frem og sendes med til sprogmodellen sammen med spørgsmålet. Modellen formulerer derefter svaret ud fra netop det materiale – og kan henvise til, hvor det stammer fra.
Forskellen fra en almindelig sprogmodel er altså ikke modellen selv, men at den får jeres kontekst med. Det er også sådan Microsoft 365 Copilot arbejder, når den svarer ud fra jeres mails, filer og møder.
Hvornår er det relevant for en SMV?
RAG giver mening, når viden findes skriftligt, men er svær at finde frem til i praksis:
- Personalhåndbog, procedurer og kvalitetsdokumenter, som ingen orker at bladre i.
- Tilbud og kontrakter, hvor en sælger skal finde tidligere formuleringer hurtigt.
- Support- og produktdokumentation, der skal bruges af nye medarbejdere.
Forudsætningen er, at rettighederne er i orden. En AI, der slår op i SharePoint, ser præcis det, brugeren selv må se – hverken mere eller mindre. Er der rod i delingerne, bliver rodet synligt med det samme, og det er en sikkerhedsopgave før det er en AI-opgave.
Typiske faldgruber
Rettigheder som ingen har set efter i årevis. RAG opfinder ikke adgang, men den gør det pinligt tydeligt, hvis et lønark ligger et sted, alle kan læse. Ryd op først – fx med Microsoft Purview.
Forældet materiale. Modellen kan ikke se, at en procedure er tre år gammel. Svaret bliver lige så forkert som kilden.
Troen på, at RAG fjerner fejl helt. Det reducerer opfundne svar markant, men fjerner dem ikke. Kildehenvisninger skal være slået til, så svaret kan kontrolleres.
For meget på én gang. Start med ét afgrænset område og mål, om svarene faktisk bruges, før hele filarkivet indekseres.
Relaterede begreber
RAG hænger sammen med resten af AI-begreberne:
Ofte stillede spørgsmål om RAG
Nej. Ved RAG bliver materialet ikke trænet ind i modellen – det slås op og sendes med som kontekst i det enkelte svar. I erhvervstjenester som Microsoft 365 Copilot forbliver jeres data i jeres eget miljø og bruges ikke til at træne den underliggende model.
Finjustering ændrer selve modellen og kræver tid, data og gentagelse ved hver opdatering. RAG lader modellen være og udskifter i stedet det materiale, den slår op i. For de fleste virksomheder er RAG både billigere og lettere at holde opdateret.
Kun hvis rettighederne allerede tillader det. Opslaget sker i brugerens navn, så adgangen er den samme som i SharePoint og OneDrive. Derfor er en gennemgang af delinger og rettigheder det første skridt, ikke det sidste.
Skal vi kigge på det sammen?
Overvejer I AI oven på jeres egne dokumenter? Vi driver IT for danske SMV’er og gennemgår gerne jeres opsætning, før I beslutter noget. Ingen salgstale, ingen binding.
Uforpligtende · Eller ring 70 26 48 50