Præcise svar
Svar bygger på jeres egne kilder, ikke modellens generelle træning. Færre hallucinationer, flere svar der faktisk kan bruges.
Guide
RAG — Retrieval-Augmented Generation
RAG er teknologien der lader en sprogmodel svare på jeres egne dokumenter, med kildehenvisninger du kan verificere. Sådan virker det, og sådan bruger PrivateGPT det i jeres eget Azure-miljø.
Hvad er RAG?
AI der svarer på jeres egne data — ikke bare det den blev trænet på
Retrieval-Augmented Generation (RAG) er en arkitektur der kombinerer to trin: at finde det relevante materiale i jeres egne kilder, og at generere et svar der bygger på det materiale.
I stedet for at en sprogmodel svarer alene ud fra hvad den er trænet på, får den præsenteret de mest relevante uddrag fra jeres dokumenter, hjemmesider eller SharePoint — og genererer et svar med dem som grundlag. Modellen ser altså ikke hele jeres videnbase, kun det den skal bruge lige nu.
Det er både grunden til at RAG er nøjagtigt, at det virker på store dokumentmængder, og at PrivateGPTs RAG kan køre i jeres eget Azure-miljø under jeres kontrol.
Sådan virker det
Fire trin fra spørgsmål til svar
Indeksering
Jeres dokumenter opdeles i mindre bidder (chunks) og omdannes til embeddings — matematiske vektorer der repræsenterer betydningen. De gemmes i et søge- eller vektorindeks sammen med metadata der kan bruges til filtrering — fx kilde, dokumentbibliotek, workspace, assistent-scope og adgangsrelaterede oplysninger.
Retrieval
Når en bruger stiller et spørgsmål, konverteres det til samme vektor-format. Systemet finder de mest relevante bidder — semantisk match, ikke bare keyword — filtreret efter det scope og de rettigheder brugeren og assistenten har adgang til.
Reranking
En anden model gennemgår kandidaterne og rangerer dem efter faktisk relevans for spørgsmålet, ikke bare vektor-lighed. Det er her moderne RAG adskiller sig fra tidligere generationer.
Generation
Sprogmodellen får spørgsmålet plus de top-rangerede bidder som kontekst og genererer et svar der bygger på materialet — med kildehenvisninger tilbage til dokumenterne.
Fordele
Derfor bruger virksomheder RAG
Kildehenvisninger
Hvert svar peger tilbage på det materiale det bygger på. Brugeren kan verificere direkte.
Opdateret uden omtræning
Ny viden kan bruges så snart dokumentet er indekseret. Det kræver ikke omtræning af modellen, men afhænger af den valgte sync- og indekseringsfrekvens.
Data forbliver hos jer
I PrivateGPT kører RAG i jeres eget Azure-miljø. Dokumenter, indeks og adgangsstyring forbliver under jeres kontrol, og dokumenterne bruges ikke til modeltræning — kun den nødvendige kontekst bruges pr. svar.
Respekterer adgangsrettigheder
Filtrering på rettigheder sker inden materialet når modellen. Brugeren ser kun det de i forvejen har adgang til.
Skalerer med jeres data
RAG gør det muligt at arbejde med store dokumentbiblioteker, fordi systemet kun henter de mest relevante uddrag til hvert spørgsmål. Den konkrete skala afhænger af arkitektur, datakilder, indeksering og drift.
Moderne RAG
Hvad der er kommet til de senere år
Grundprincippet er stadig retrieval + generation. Men teknikken har udviklet sig markant — hvor RAG i 2023 handlede om at finde tekstuddrag der lignede spørgsmålet, gør moderne RAG langt mere for at ramme rigtigt.
Hybrid søgning
Kombination af semantisk vektor-søgning og klassisk keyword-søgning (BM25). Semantik forstår hvad brugeren mener, keywords fanger navne, koder og eksakt terminologi. Sammen slår de hver enkelt metode.
Reranking
En cross-encoder-model rangerer kandidater efter faktisk relevans, ikke bare vektor-lighed. Fanger nuancer semantisk søgning misser.
Query-omskrivning
Brugerens spørgsmål omformuleres inden retrieval — udvidet med synonymer, splittet i flere del-spørgsmål, eller kontekst-tilføjet fra samtalens historik. Bedre input giver bedre resultater.
Adgangsfiltrering ved retrieval
Filtreringen sker inden materialet præsenteres for modellen, ikke i responsen. Data brugeren ikke må se, når aldrig frem til sprogmodellen.
Grounded svar med citations
Moderne RAG returnerer ikke bare et svar, men også hvilke uddrag der ligger bag hver påstand. Brugeren kan følge kilden i ét klik.
Agentic / multi-hop
Komplekse spørgsmål besvares ikke i ét retrieval-kald. Systemet henter, ræsonnerer, henter igen — indtil det har det materiale der skal til.
Hvornår passer RAG?
RAG er stærkt, men ikke svaret på alt
RAG passer især til
- Videnstunge opgaver hvor svaret findes i jeres dokumenter
- Domæner hvor viden opdateres løbende — nye politikker, kontrakter, versioner
- Situationer hvor kildehenvisninger er nødvendige (compliance, jura, revision)
- Miljøer med differentierede adgangsrettigheder
- Chatbots, søgning og intern videndeling på tværs af afdelinger
Overvej alternativer når
- Viden ændrer sig i realtid — så bør systemet integrere direkte med kildesystemet, ikke kun med en indekseret kopi
- Svarene skal være 100 % deterministiske — så er en regelmotor mere velegnet end en sprogmodel
- Opgaven kræver reel domæne-ekspertise ud over det jeres dokumenter dækker — så kan fine-tuning være en overvejelse (oftere som supplement til RAG end erstatning)
RAG i PrivateGPT
Sådan bruger platformen det
PrivateGPT er bygget op omkring RAG som en af de centrale platform-features. Det er tilgængeligt både for enkeltbrugere og som fundament for jeres egne assistenter.
PrivateGPT kan benytte både Azure AI Search og Qdrant som søge- og vektorlag, afhængigt af kundens setup. Uanset søgelag håndterer PrivateGPT selve RAG-pipelinen: dokumentindlæsning, chunking, embeddings, retrieval, filtrering, kildehåndtering, assistent-scope og adgangsstyring.
En HR-assistent kan for eksempel være koblet til HR-politikker og onboardingmateriale, mens en juridisk assistent arbejder med kontraktskabeloner og compliance-dokumenter.
- Semantisk søgning i SharePoint, uploadede filer, hjemmesider og interne videnskilder
- Understøttelse af både Azure AI Search og Qdrant som søge-/vektorlag
- Indeksering af store SharePoint-dokumentbiblioteker eller udvalgte mapper, sites og filtrerede dokumentudsnit
- Hybrid søgning med semantik og keyword/BM25, hvor det er relevant
- Mulighed for reranking i relevante workflows
- Filtrering baseret på bruger, assistent, workspace og datakilde
- Kildehenvisninger på RAG-baserede svar, hvor kilder er tilgængelige
- Assistenter kan tildeles specifikke RAG-kilder og scopes
- Indekset kan opdateres automatisk eller planlagt, afhængigt af datakilde og opsætning
Klar til at se det i praksis?
På 30 minutter viser vi RAG på jeres egne dokumenter
Book en demo — vi tager udgangspunkt i et par af jeres reelle dokumenter og viser hvordan RAG svarer på jeres egne spørgsmål, med kildehenvisninger, adgangsstyring og alt hvad der hører til.