Transformation av kunskapsåtkomst med RAG och AWS

Utmaning

Varje offert och varje kontrakt började med en sökning. Kontraktsdokumenten låg i SharePoint-mappar som varje team organiserade på sitt eget sätt, utkast låg i S3 och affärshistoriken i Salesforce. För att hitta rätt dokument behövde man känna till kundens namn och mappen och sedan lista ut vilken version som var aktuell – eller fråga kollegan som visste.

Detta ledde till:

• tid som gick åt till att söka på flera ställen efter ett enda svar
• kontraktsdata som kopierades från inaktuella versioner
• längre handläggningstider för offerter och kontrakt

Kunden behövde ett ställe att fråga, med svar som går att kontrollera mot källan.

Lösningen vi levererade

Crunch-IS utvecklade ett Retrieval-Augmented Generation (RAG)-system utformat för att förena och förenkla åtkomsten till företagets kunskap.

I sin kärna integrerar lösningen AWS Kendra som den primära semantiska sökmotorn, berikad med LLM-funktioner genom AWS Bedrock för kontextmedveten frågehantering och sammanfattning.

Data från SharePoint, Salesforce och S3 synkroniseras kontinuerligt genom AWS Step Functions, vilket säkerställer att alla källor förblir uppdaterade och sökbara.

Så ser ett svar ut. En användare skriver en fråga som ”Vilka är våra standardvillkor för betalning i företagsavtal?” Assistenten ger ett kort svar och listar sedan de dokument den använde, vart och ett med en länk till originalfilen. Filter avgränsar resultaten efter kund, dokumenttyp eller källa. Gränssnittet byggde vi med React.js och Nest.js.

Vem ser vad. Assistenten svarar bara utifrån dokument som användaren har behörighet att se. Frågar du om en fil som du inte har behörighet att öppna svarar den att den inte har någon sådan information.

Del av en bredare AI-assistent för företaget. Kunskapsbasen är ett verktyg i kundens AI-assistent för företaget, som ger sälj-, marknadsförings-, HR-, juridik- och projektteam egna AI-verktyg utan att företagets dokument skickas till publika AI-tjänster. Samma kunskapsbas kör MSA- och compliancekontroller av en kund. Assistenten tar också fram RFP-dokument utifrån företagets egna mallar och granskar presentationer mot de interna riktlinjerna.

Implementeringsmetod

För att säkerställa prestanda, skalbarhet och säkerhet distribuerade vi lösningen på en molnbaserad AWS-arkitektur:

• AWS ECS – hanterade containeriserad distribution av mikrotjänster för effektiv skalning.
• AWS Step Functions – orkestrerade automatiserade ETL-arbetsflöden för kontinuerligt dataintag.
• AWS RDS (PostgreSQL) – säkerställde tillförlitlig datapersistens och strukturerad metadatahantering.
• AWS Amplify – effektiviserade CI/CD och distribution för den användarvända appen.

Arkitekturen håller indexet i takt med varje källsystem, tillämpar varje användares åtkomsträttigheter på varje svar och kan ta in nya källor, som Google Drive eller uppladdade filer, genom samma pipeline.

Kundens resultat

Sälj- och leveransteamen börjar nu med en fråga, inte en sökning:

• 60 % snabbare arbete med företagsdokument – sälj- och leveransteamen hittar offerter, avtal och projektunderlag med en enda sökning i stället för att leta i flera system.
• Ett ställe att fråga – en enda kunskapsbas ersatte dokument som var utspridda över system och teammappar.
• Svar som går att kontrollera – varje svar länkar till sina källor, så att ett faktum kan verifieras innan det hamnar i ett kontrakt.
• Färre avbrott – medarbetarna hittar dokumenten själva i stället för att fråga kollegan som vet var de finns.
• Snabbare onboarding – nyanställda frågar assistenten i stället för sina kollegor.