Transformation af vidensadgang med RAG og AWS

Udfordring

Hvert tilbud og hver kontrakt begyndte med en søgning. Kontraktdokumenterne lå i SharePoint-mapper, som hvert team organiserede på sin egen måde, udkast lå i S3, og aftalehistorikken lå i Salesforce. For at finde det rigtige dokument skulle man kende kundens navn og mappen og derefter finde ud af, hvilken version der var den gældende – eller spørge den kollega, der vidste det.

Dette førte til:

• tid brugt på at søge flere steder efter ét svar
• kontraktdata kopieret fra forældede versioner
• langsommere behandlingstid for tilbud og kontrakter

Kunden havde brug for ét sted at spørge, med svar, som folk kunne kontrollere mod kilden.

Løsningen vi leverede

Crunch-IS udviklede et Retrieval-Augmented Generation (RAG)-system designet til at forene og forenkle adgangen til virksomhedens viden.

I sin kerne integrerer løsningen AWS Kendra som den primære semantiske søgemaskine, beriget med LLM-funktioner via AWS Bedrock til kontekstbevidst forespørgsel og opsummering.

Data fra SharePoint, Salesforce og S3 synkroniseres løbende via AWS Step Functions, hvilket sikrer, at alle kilder forbliver opdaterede og søgbare.

Sådan ser et svar ud. En bruger skriver et spørgsmål som »Hvad er vores standardbetalingsbetingelser for virksomhedskontrakter?« Assistenten giver et kort svar og oplister derefter de dokumenter, den brugte, hver med et link til den oprindelige fil. Filtre indsnævrer resultaterne efter kunde, dokumenttype eller kilde. Grænsefladen byggede vi med React.js og Nest.js.

Hvem ser hvad. Assistenten svarer kun ud fra dokumenter, som brugeren har adgang til. Spørger du om en fil, du ikke har adgang til, svarer den, at den ikke har nogen sådan information.

Del af en bredere AI-assistent til virksomheden. Vidensbasen er ét værktøj i kundens AI-assistent til virksomheden, som giver salgs-, marketing-, HR-, juridiske og projektteams deres egne AI-værktøjer uden at sende virksomhedens dokumenter til offentlige AI-tjenester. Den samme vidensbase kører MSA- og compliance-tjek på en kunde. Assistenten genererer også RFP-dokumenter ud fra virksomhedens egne skabeloner og gennemgår præsentationer i forhold til de interne retningslinjer.

Implementeringstilgang

For at sikre ydeevne, skalerbarhed og sikkerhed implementerede vi løsningen på en cloud-native AWS-arkitektur:

• AWS ECS – håndterede containeriseret implementering af mikrotjenester til effektiv skalering.
• AWS Step Functions – orkestrerede automatiserede ETL-arbejdsgange til kontinuerlig dataindtagelse.
• AWS RDS (PostgreSQL) – sikrede pålidelig datapersistens og struktureret metadatastyring.
• AWS Amplify – strømlinede CI/CD og implementering for den brugervendte app.

Arkitekturen holder indekset i takt med hvert kildesystem, anvender hver brugers adgangsrettigheder på hvert svar og kan tage nye kilder, såsom Google Drive eller uploadede filer, ind gennem den samme pipeline.

Kundens resultater

Salgs- og leveringsteams starter nu med et spørgsmål, ikke en søgning:

• 60 % hurtigere arbejde med firmadokumenter – salgs- og leveringsteams finder tilbud, kontrakter og projektdokumenter i én søgning i stedet for at lede på tværs af systemer.
• Ét sted at spørge – én vidensbase erstattede dokumenter spredt over systemer og teammapper.
• Svar, der kan kontrolleres – hvert svar linker til sine kilder, så et faktum kan bekræftes, før det kommer ind i en kontrakt.
• Færre afbrydelser – folk finder selv dokumentet i stedet for at spørge den kollega, der ved, hvor det ligger.
• Hurtigere onboarding – nyansatte spørger assistenten i stedet for deres kolleger.