Du kender AI - men hvad er RAG?

Problemet med ChatGPT er ikke at den er dum. Problemet er at den ikke kender din virksomhed.

Spørg den om din prisliste, og den gætter. Spørg den om jeres interne processer, og den finder på noget plausibelt. Spørg den om en specifik kontrakt du underskrev i 2024, og den ved det selvfølgelig ikke - den har aldrig set den.

Det er her RAG kommer ind.

Hvad RAG betyder

RAG står for Retrieval-Augmented Generation. Det er et teknisk begreb for en meget praktisk ide: i stedet for at AI-modellen svarer ud fra det den er trænet på, søger systemet først i et specifikt dokumentbibliotek - og giver det fundne materiale til AI'en som grundlag for svaret.

Resultatet er en AI der svarer ud fra dine dokumenter, din viden og dine data. Ikke ud fra hvad internettet generelt mener.

Et konkret eksempel

Forestil dig at du har 500 siders produktdokumentation, en håndfuld standardkontrakter og tre års mailkorrespondance med kunder. Med RAG kan du stille et system spørgsmål som:

"Hvad er vores standardpolitik for returvarer?"
"Har vi nogensinde lavet aftaler med Klient X om rabatter?"
"Hvad stod der i servicebetingelserne vi opdaterede i marts?"

Og systemet svarer korrekt - fordi det finder det relevante afsnit i dine egne dokumenter og bruger det som kilde. Ikke fordi det gætter.

Forskellen fra at "træne sin egen AI"

Mange hører om RAG og tror det er det samme som at fine-tune eller træne en AI-model. Det er det ikke - og det er faktisk den vigtige pointe.

At træne en model er dyrt, tidskrævende og kræver enorme mængder data. RAG kræver ingen af delene. Du tager en eksisterende stærk model - f.eks. en open source-model der kører lokalt - og kobler den til en søgemotor der kan finde frem i dine dokumenter. Modellen er den samme. Det der ændrer sig er hvad den ser inden den svarer.

Det er som forskellen på at lære en ny medarbejder alt fra bunden versus at give en kompetent medarbejder adgang til din vidensbase. Det andet er langt hurtigere - og virker bedre.

Hvem det er relevant for

RAG er relevant for enhver virksomhed der har information spredt over dokumenter, databaser eller systemer som medarbejdere bruger tid på at lede i. Et par eksempler:

Advokatfirmaer: Søg i tidligere sager, kontrakter og afgørelser frem for at gennemlæse mapper manuelt.

Tekniske virksomheder: En intern assistent der kan svare på spørgsmål om jeres produkter, specifikationer og vedligeholdelsesvejledninger.

Kundeservice: Et system der svarer kunder ud fra jeres faktiske politikker og produktinformation - aldrig opfundet, altid korrekt.

Håndværksvirksomheder med standardprojekter: Søg i tidligere tilbud og projektbeskrivelser for at generere nye tilbud hurtigere.

Hvad det kræver at bygge

Et RAG-system kræver tre dele: en AI-model der kan generere svar, en søgekomponent der kan finde relevante dokumenter, og en pipeline der forbinder de to. Det er ikke et hobbyistprojekt - men det er heller ikke et flerårigt IT-projekt.

For de fleste virksomheder er det noget der kan sættes op på et par uger, kobles til de dokumenttyper der er mest relevante, og derefter bruges som et internt søge- og svarsystem der faktisk kender virksomheden.

Vil du vide hvad det vil kræve at bygge et RAG-baseret søge- og svarsystem til din virksomhed? Læs om AI og automatisering eller kontakt mig - jeg laver en konkret vurdering inden for 24 timer.