Transformation des Wissenszugangs mit RAG und AWS

Herausforderung

Jedes Angebot und jeder Vertrag begann mit einer Suche. Vertragsdokumente lagen in SharePoint-Ordnern, die jedes Team auf seine eigene Weise organisierte, Entwürfe in S3 und die Geschäftshistorie in Salesforce. Um das richtige Dokument zu finden, musste man den Namen des Kunden und den Ordner kennen und dann herausfinden, welche Version aktuell war – oder den Kollegen fragen, der es wusste.

Dies führte zu:

• Zeitaufwand für die Suche an mehreren Orten nach einer einzigen Antwort
• Vertragsdaten, die aus veralteten Versionen übernommen wurden
• längeren Durchlaufzeiten bei Angeboten und Verträgen

Der Kunde benötigte einen zentralen Ort für Fragen, mit Antworten, die sich anhand der Quelle überprüfen lassen.

Gelieferte Lösung

Crunch-IS hat ein Retrieval-Augmented Generation (RAG)-System entwickelt, das den Zugriff auf das Unternehmenswissen vereinheitlichen und vereinfachen soll.

Im Kern integriert die Lösung AWS Kendra als primäre semantische Suchmaschine, angereichert mit LLM-Funktionen über AWS Bedrock für kontextbezogene Abfragen und Zusammenfassungen.

Daten aus SharePoint, Salesforce und S3 werden kontinuierlich über AWS Step Functions synchronisiert, damit alle Quellen aktuell und durchsuchbar bleiben.

So sieht eine Antwort aus. Ein Nutzer tippt eine Frage ein, etwa „Welche Standard-Zahlungsbedingungen gelten für unsere Unternehmensverträge?“ Der Assistent antwortet kurz und listet dann die verwendeten Dokumente auf, jeweils mit einem Link zur Originaldatei. Filter grenzen die Ergebnisse nach Kunde, Dokumenttyp oder Quelle ein. Die Benutzeroberfläche haben wir mit React.js und Nest.js entwickelt.

Wer was sieht. Der Assistent antwortet nur auf Basis von Dokumenten, die der Nutzer sehen darf. Fragen Sie nach einer Datei, für die Sie keine Berechtigung haben, antwortet er, dass ihm dazu keine Informationen vorliegen.

Teil eines umfassenderen KI-Assistenten für Unternehmen. Die Wissensdatenbank ist ein Werkzeug im KI-Assistenten des Kunden, der Vertriebs-, Marketing-, HR-, Rechts- und Projektteams eigene KI-Tools bereitstellt, ohne Unternehmensdokumente an öffentliche KI-Dienste zu senden. Dieselbe Wissensdatenbank führt MSA- und Compliance-Prüfungen zu einem Kunden durch. Außerdem erstellt der Assistent RFP-Dokumente aus den unternehmenseigenen Vorlagen und prüft Präsentationen anhand der hauseigenen Regeln.

Ansatz für die Implementierung

Um Leistung, Skalierbarkeit und Sicherheit zu gewährleisten, haben wir die Lösung auf einer Cloud-nativen AWS-Architektur bereitgestellt:

• AWS ECS – übernahm die containerisierte Bereitstellung von Microservices für eine effiziente Skalierung.
• AWS Step Functions – orchestrierte automatisierte ETL-Workflows für die kontinuierliche Datenaufnahme.
• AWS RDS (PostgreSQL) – gewährleistete zuverlässige Datenpersistenz und strukturierte Metadatenverwaltung.
• AWS Amplify – optimierte CI/CD und Bereitstellung für die Benutzeranwendung.

Die Architektur hält den Index mit jedem Quellsystem synchron, wendet bei jeder Antwort die Zugriffsrechte des jeweiligen Nutzers an und kann neue Quellen wie Google Drive oder hochgeladene Dateien über dieselbe Pipeline aufnehmen.

Die Ergebnisse des Kunden

Vertriebs- und Delivery-Teams beginnen jetzt mit einer Frage statt mit einer Suche:

• 60 % schnellere Arbeit mit Unternehmensdokumenten – Vertriebs- und Delivery-Teams finden Angebote, Verträge und Projektunterlagen mit einer einzigen Suche, statt sie in verschiedenen Systemen zusammenzusuchen.
• Ein Ort für alle Fragen – eine zentrale Wissensdatenbank ersetzte Dokumente, die über Systeme und Teamordner verstreut waren.
• Überprüfbare Antworten – jede Antwort verlinkt auf ihre Quellen, sodass sich ein Fakt prüfen lässt, bevor er in einen Vertrag einfließt.
• Weniger Unterbrechungen – Mitarbeitende finden Dokumente selbst, statt den Kollegen zu fragen, der weiß, wo sie liegen.
• Schnelleres Onboarding – neue Mitarbeitende fragen den Assistenten statt ihre Kollegen.