Generativ AI og sprogmodeller er kommet meget langt de seneste 2+ år. AI chatbots såsom ChatGPT og Copilot kan rigtig meget, men et afgørende benspænd er hallucinationer. Hallucinationer sker, når en AI bare finder på. Disse falske fakta kan nogle gange være meget svære at spotte, hvis man ikke selv ved, at det man får er faktuelt forkert.
Ud over hallucinationer, som stadig kan forekomme, så er det også vigtigt at tage i betragtning, hvilket grundlag af information de store sprogmodeller er trænet på. Jo mere en niche du arbejder indenfor, desto større er risikoen for, at en almindelig sprogmodel ikke har tilstrækkelig viden om dit fagområde. Dette gælder især også, fordi vi i Danmark er et lille land, som ikke i lige så høj grad er repræsenteret i modellernes vidensgrundlag. Modellerne kan også være påvirket af, at de er trænet på et specifikt tidspunkt, og derfor kan have svært ved at følge med i nye udviklinger.
Som du måske kan genkende at have oplevet, vil disse begrænsninger i praksis kunne resultere i, at en AI chatbot:
– ikke kan give dig konkrete og detaljerede informationer om dit fagområde
– giver dig information, som måske er gældende i lande som USA, men ikke er gældende i Danmark
– giver dig forkert information som er forældet
– ikke kan instruere dig i og hjælpe med nye systemer
– og selvfølgelig at den ikke kan skræddersy svar specifikt til arbejdsgangene i din organisation
Hvad er ”RAG”? Og hvad er fordelene ved RAG?
RAG er en metodik til at bygge generativ AI, som har nogle fordele frem for de almindelige sprogmodeler, vi alle efterhånden er bekendte med. RAG står for „Retrieval Augmented Generation‟. Det betyder, at modellen ikke kun genererer tekst ved hjælp af AI, men også beriges med yderligere information fra eksterne kilder. Hvilken information den søger i, er op til dig. Med en RAG-tilgang, kan du forbinde din sprogmodel til en vidensdatabase med dokumenter, som indeholder lige præcis de informationer som du har brug for at kunne stille spørgsmål til. Det vidensgrundlag kan du så frit opdatere efter behov, og din chatbot vil altid være ajourført.
Data som brændstof: Data er hjertet i AI. Uden kvalitetsdata kan selv den mest avancerede AI-model ikke levere præcise eller relevante resultater.
Modeller som hjernen: AI-modeller, hvad enten det er sprogmodeller eller billedgenkendelsesmodeller, fungerer ved at genkende mønstre i data. Det, der ser ud som „intelligens,‟ er i virkeligheden blot mønstergenkendelse på højeste niveau.
Ved du ikke, hvordan du skal komme i gang med AI?
Hent vores byggevejledning, “Sådan kommer du i gang med AI”.
En RAG-tilgang kan derfor overkomme de 3 store begrænsninger almindelige sprogmodeller har:
- Hallucinationer
- Manglende område-specifik viden
- Forældet viden
Hallucinationer reduceres, når man supplerer modellen med relevante dokumenter fra en vidensbase, da sprogmodellen ikke længere skal gætte sig til, hvad det rigtige svar er. Modellen får adgang til verificerbare kilder, hvilket øger præcisionen i svaret og gør det lettere at spore, hvor informationen kommer fra.
Område-specifik viden kan sikres, da du selv kan fodre modellen med præcis den information, den skal bruge – om det så er domænespecifikke eksterne kilder, eller om det er jeres interne dokumenter skræddersyet til jeres organisation.
Forældet viden er fortid, når chatbotten søger direkte i de aktuelle dokumenter. Afhængigt af hvilken datakilde man bruger, kan chatbotten sættes op til selv at tjekke, om der er kommet ændringer i dokumenterne, for altid at svare med udgangspunkt i ajourført information.
Fordelene ved SharePoint som datakilde
Der er mange forskellige platforme man kan bruge som datakilde til en RAG-chatbot, og hvilken database der er bedst at vælge, varierer fra organisation til organisation. Vi mener dog at det i mange tilfælde vil give rigtig god mening at bruge SharePoint som videnskilde. Det kan der være mange fordele ved, bl.a. at:
- Mange organisationer i forvejen benytter SharePoint, og fx allerede har deres viden og dokumentation liggende her.
- Brugerstyring, og kontrol af, hvem der skal have lov at ændre i data, er nemt og simpelt.
- Vedligehold af data er nemt og lettilgængeligt.
- Brugerdefinerede kolonner med jeres specifikke meta-data på dokumenter kan anvendes, er nemt at administrere, og kan bruges til at berige chatbottens søgning.
- SharePoint datakilden bliver løbende tjekket for ændringer, tilføjelser, og sletning, som synkroniseres ind i chatbottens vidensgrundlag.
- En SharePoint datakilde kan dobbelt-udnyttes ved at have interne Copilot-agenter som udnytter samme vidensdatabase.
Eksempler på brugsscenarier med RAG-chatbots
Hvornår giver det så mening at bruge RAG?
Det giver mening at bruge RAG til virksomhedschatbots, når man har et fagområde med stærk viden, som de gængse sprogmodeller ikke nødvendigvis er kloge på. Det kan fx være til “firma-bots”, som er specifikke for ens egen forretning, eller hvis man ønsker at tale med en model, som er mere specifikt sporet ind på det arbejdsområde, man beskæftiger sig med. RAG-baserede chatbots kan både bruges til interne eller eksterne behov og projekter.
Eksempler på interne brugsscenarier er bl.a.:
- En HR-assistent, som har viden om virksomhedens HR-dokumenter, personalehåndbog, MUS-guidelines, kursusoversigter, mm.
- En chatbot som kan vejlede om arbejdsgange, sagshåndtering, og intern dokumentation.
- En onboarding-chatbot, som støtte i oplæringsforløb, og hjælp til selvhjælp for nye medarbejdere, praktikanter, og studentermedhjælpere.
Eksempler på eksterne brugsscenarier er bl.a.:
- En faglig AI assistent, som agerer vidensbank for medlemmer og medlemsorganisationer, hvis man fx er en medlemsejet forening.
- En faglig AI assistent, til virksomheders kunder, hvor man stiller sin branchespecifikke viden til rådighed på sit website, f.eks. viden om materialer i byggebranchen.
- En kundeservice AI assistent, som er et meget klassisk brugsscenarie, men nu kan være bedre og mere fleksible end før.
- En produkt AI assistent til at hjælpe kunder med hurtigt at søge svar i jeres vejledninger, og manualer til specifikke produkter, fx om hvordan produktet skal indstilles eller vedligeholdes.
Opsummering
Ved at forbinde din chatbot til din egen datakilde, kan du bygge en sikker løsning, som er nem at vedligeholde, så du sikrer, at chatbotten altid har adgang til opdateret og relevant viden. Med en RAG-tilgang til din virksomheds AI assistent, har du mulighed for at øge servicen til dine medarbejdere, kunder eller medlemmer, samtidig med at reducere arbejdsbelastningen i din organisation.
Lyder det interessant?
Kontakt Claus Nissum Holm for en uforpligtende snak — vi kan helt sikkert hjælpe dig!
