Transformasjon av kunnskapstilgang med RAG og AWS

Utfordring

Hvert tilbud og hver kontrakt begynte med et søk. Kontraktsdokumentene lå i SharePoint-mapper som hvert team organiserte på sin egen måte, utkast lå i S3 og avtalehistorikken i Salesforce. For å finne riktig dokument måtte man kjenne kundens navn og mappen, og deretter finne ut hvilken versjon som var gjeldende – eller spørre kollegaen som visste det.

Dette førte til:

• tid brukt på å søke flere steder etter ett svar
• kontraktsdata kopiert fra utdaterte versjoner
• tregere behandlingstid for tilbud og kontrakter

Kunden trengte ett sted å spørre, med svar folk kunne kontrollere mot kilden.

Løsningen vi leverte

Crunch-IS utviklet et Retrieval-Augmented Generation (RAG)-system designet for å forene og forenkle tilgang til bedriftskunnskap.

I kjernen integrerer løsningen AWS Kendra som den primære semantiske søkemotoren, beriket med LLM-funksjoner gjennom AWS Bedrock for kontekstbevisst spørring og oppsummering.

Data fra SharePoint, Salesforce og S3 synkroniseres kontinuerlig gjennom AWS Step Functions, noe som sikrer at alle kilder forblir oppdaterte og søkbare.

Slik ser et svar ut. En bruker skriver et spørsmål som «Hva er standard betalingsvilkår i våre bedriftskontrakter?» Assistenten gir et kort svar og lister deretter opp dokumentene den brukte, hvert med en lenke til originalfilen. Filtre snevrer inn resultatene etter kunde, dokumenttype eller kilde. Grensesnittet bygde vi med React.js og Nest.js.

Hvem ser hva. Assistenten svarer bare ut fra dokumenter brukeren har tilgang til. Spør du om en fil du ikke har tilgang til, svarer den at den ikke har slik informasjon.

Del av en bredere AI-assistent for bedriften. Kunnskapsbasen er ett verktøy i kundens AI-assistent for bedriften, som gir salgs-, markedsførings-, HR-, juridiske og prosjektteam egne AI-verktøy uten å sende bedriftens dokumenter til offentlige AI-tjenester. Den samme kunnskapsbasen kjører MSA- og compliance-kontroller på en kunde. Assistenten lager også RFP-dokumenter ut fra selskapets egne maler og gjennomgår presentasjoner opp mot interne retningslinjer.

Implementeringstilnærming

For å sikre ytelse, skalerbarhet og sikkerhet distribuerte vi løsningen på en skybasert AWS-arkitektur:

• AWS ECS – håndterte containerisert distribusjon av mikrotjenester for effektiv skalering.
• AWS Step Functions – orkestrerte automatiserte ETL-arbeidsflyter for kontinuerlig datainnhenting.
• AWS RDS (PostgreSQL) – sikret pålitelig datalagring og strukturert metadatabehandling.
• AWS Amplify – effektiviserte CI/CD og distribusjon for den brukervendte appen.

Arkitekturen holder indeksen i takt med hvert kildesystem, bruker hver brukers tilgangsrettigheter på hvert svar og kan ta inn nye kilder, som Google Drive eller opplastede filer, gjennom den samme pipelinen.

Kundens resultater

Salgs- og leveranseteamene starter nå med et spørsmål, ikke et søk:

• 60 % raskere arbeid med firmadokumenter – salgs- og leveranseteamene finner tilbud, kontrakter og prosjektdokumenter i ett søk i stedet for å lete på tvers av systemer.
• Ett sted å spørre – én kunnskapsbase erstattet dokumenter spredt over systemer og teammapper.
• Svar som kan kontrolleres – hvert svar lenker til kildene, slik at et faktum kan bekreftes før det havner i en kontrakt.
• Færre avbrytelser – folk finner dokumentet selv i stedet for å spørre kollegaen som vet hvor det ligger.
• Raskere onboarding – nyansatte spør assistenten i stedet for kollegaene sine.