Wie man Cloud-agnostische KI-Agenten erstellt: Architektur für AWS, Azure & Google Cloud

KI-Agenten (autonome Systeme, die von LLMs angetrieben werden) werden schnell zu einem Eckpfeiler moderner Software. Sie planen, denken und handeln unabhängig und verändern die Art und Weise, wie Unternehmen Arbeitsabläufe automatisieren, Entscheidungen treffen und mit Daten interagieren.

Laut Microsoft sind KI-Agenten einer der wichtigsten KI-Trends für 2025. Sie befinden sich bereits auf dem Höhepunkt des KI-Hype-Zyklus und ziehen in der gesamten Branche große Aufmerksamkeit auf sich. Da Unternehmen eine skalierbare, plattformübergreifende KI-Agentenarchitektur implementieren möchten, wird die Einführung einer Cloud-unabhängigen Architektur zu einer entscheidenden Strategie, um die Bindung an einen bestimmten Anbieter zu vermeiden und die Leistung zu maximieren.

In diesem Leitfaden zeigen wir Ihnen, wie Sie KI-Agenten in AWS, Azure und Google Cloud entwickeln, bereitstellen und skalieren können, mit Architekturdiagrammen, Tools und bewährten Verfahren.

Was ist ein Multi-Agenten-System (MAS)?

Bevor wir uns mit der Architektur eines KI-Agentensystems und seiner Implementierung in der Cloud beschäftigen, ist es wichtig, das Konzept eines Multi-Agentensystems zu verstehen, da es in dieser Diskussion immer wieder auftauchen wird.

Ein Multi-Agenten-System ist ein System, in dem mehrere KI-Agenten unabhängig voneinander oder gemeinsam arbeiten, um komplexe Aufgaben zu erfüllen. Jeder Agent hat seine eigenen Fähigkeiten (z.B. Planung, Schlussfolgerungen oder Ausführung von Aktionen) und kann mit anderen Agenten, Tools oder Benutzern interagieren.

In MAS können Agenten parallel arbeiten, Speicher oder Kontext gemeinsam nutzen und sich über eine Orchestrierungsschicht koordinieren. Diese Architektur ermöglicht Skalierbarkeit, Flexibilität und ein ausgefeilteres Verhalten als ein einzelner Agent, der allein arbeitet.

Die Minimalarchitektur von intelligenten Agenten in der KI verstehen

Aus Sicht des Systemdesigns umfasst eine minimale Multi-Agenten-Architektur in der Regel die folgenden Kernkomponenten:

Abbildung 1. Grundlegende Multi-Agenten-Architektur.

1. Benutzer – die Person oder das externe System, das über natürliche Sprache oder strukturierte Eingaben mit der Plattform interagiert.
2. Benutzeroberfläche (UI ) – die Frontend-Schicht (Chat-Fenster, Webanwendung, API), die die Benutzereingaben erfasst und die Ausgaben des Agenten anzeigt.
3. Agenten-Orchestrierung – die Middleware, die für das Routing von Aufgaben, die Verwaltung der parallelen oder sequentiellen Agentenausführung, die Fehlerbehandlung und die Zustandsübergänge zuständig ist. Diese Schicht wird häufig mit Orchestrierungs-Frameworks wie LangChain, CrewAI usw. aufgebaut.
4. KI-Agenten – autonome Einheiten, die für die Erledigung von Aufgaben verantwortlich sind. Jeder Agent folgt in der Regel einer Schleife: (1) Planung – zerlegt komplexe Ziele in Teilaufgaben unter Verwendung von LLM-Eingabeaufforderungen oder deterministischer Logik; (2) Schlussfolgerungen – trifft kontextbewusste Entscheidungen, die oft durch Gedankenketten-Eingabeaufforderungen oder Tool-Feedback-Schleifen verbessert werden; (3) Aktion – führt Entscheidungen über API-Aufrufe, Datenbankabfragen oder Plugin-Aufrufe aus. Agenten können parallel arbeiten und ihren Zustand über Speicher oder Nachrichtenwarteschlangen gemeinsam nutzen.
5. Große Sprachmodelle (LLMs ) – Basismodelle (GPT, Claude, Gemini), die für das Sprachverständnis, die Generierung, das Schlussfolgern und die Entscheidungsfindung verwendet werden.
6. Tools – externe Dienste, die die Agenten aufrufen können (APIs, Code-Interpreter, Plugins, Datenbanken usw.)
7. Speicher – dauerhafter oder sitzungsbasierter Datenspeicher, der es den Agenten ermöglicht, den Kontext beizubehalten, vergangene Aktionen abzurufen oder auf langfristiges Wissen zuzugreifen. Das Gedächtnis ist wichtig für Interaktionen über mehrere Runden, Koordination und Lernen.

Übergreifende Überlegungen zur Skalierung von KI-Agenten in der Produktion

Die Entwicklung einer KI-Agentenarchitektur erfordert die Einbettung wichtiger systemweiter Funktionen, die sicherstellen, dass Ihre Cloud-unabhängige Lösung in realen Umgebungen funktionieren kann.

Im Folgenden finden Sie die wichtigsten übergreifenden Aspekte, die bei allen Komponenten Ihrer Architektur berücksichtigt werden müssen:

Sicherheit

Die Absicherung aller Ebenen des KI-Agentensystems ist unerlässlich. Dies umfasst:

1. Verschlüsselung der Kommunikation zwischen Agenten, Tools und Speicherebenen
2. Verwaltung von API-Schlüsseln, Token und Geheimnissen mit sicheren Tresoren
3. die Durchsetzung von Grenzkontrollen, um unbefugten Tool-Zugriff oder Prompt-Injection-Angriffe zu verhindern.

Skalierbarkeit

Multi-Agenten-Systeme müssen horizontal skaliert werden können, um eine höhere Arbeitslast zu bewältigen. Dies beinhaltet:

1. Ausführung von Agenten in containerisierten oder serverlosen Umgebungen mit automatischer Skalierung
2. Entkopplung von Diensten mithilfe von Warteschlangen und ereignisgesteuerten Architekturen
3. effiziente Verwaltung der LLM-Nutzung zur Reduzierung von Latenzzeiten und Kosten

Beobachtbarkeit

Die Einsicht in das Verhalten von Agenten ist entscheidend für die Fehlersuche, Überwachung und Optimierung der Leistung. Zu den bewährten Verfahren gehören:

1. Implementierung einer strukturierten Protokollierung über Agenten und Orchestrierungsschichten hinweg
2. Nutzung der verteilten Rückverfolgung, um Entscheidungswege und Abhängigkeiten zu verstehen
3. Einrichtung von Dashboards und Warnmeldungen für Anomalien oder Modellabweichungen

Zugriffskontrolle (IAM)

Ein robustes Identitäts- und Zugriffsmanagementsystem (IAM) gewährleistet dies:

1. nur autorisierte Benutzer, Agenten und Tools können auf bestimmte Daten und Funktionen zugreifen
2. Rollenbasierte Zugriffsrichtlinien werden für alle Komponenten durchgesetzt
3. Aktionen werden zur Einhaltung von Vorschriften und zur Nachvollziehbarkeit protokolliert

Diese Bedenken müssen bei jeder Cloud-agnostischen Infrastruktur frühzeitig berücksichtigt werden, insbesondere wenn intelligente Agenten über mehrere Clouds hinweg eingesetzt werden.

Abbildung 2. Multi-Agenten-Referenzarchitektur für Unternehmen

Was sind die Vorteile einer Cloud-agnostischen KI-Agentenarchitektur?

Eine Cloud-agnostische KI-Agentenarchitektur ermöglicht es Unternehmen, intelligente Agenten zu entwickeln und einzusetzen, die nahtlos über mehrere Cloud-Plattformen hinweg arbeiten, ohne an einen einzigen Anbieter gebunden zu sein. Die wichtigsten Vorteile sind:

Vermeiden von Anbieterbindung

Sie behalten die Flexibilität, den Anbieter zu wechseln oder mehrere Clouds zu nutzen, was das langfristige Risiko und die Abhängigkeit von proprietären Ökosystemen reduziert.

Optimieren für Kosten und Leistung

Sie können Arbeitslasten an die kostengünstigste oder leistungsstärkste Plattform weiterleiten, je nach Echtzeitnachfrage oder Servicepreis.

Verbesserung der Ausfallsicherheit und Verfügbarkeit

Durch die Verteilung von Workloads auf verschiedene Clouds verringern Sie das Risiko von Ausfallzeiten oder Serviceunterbrechungen in einer einzelnen Umgebung.

Beschleunigung der globalen Bereitstellung

In einigen Regionen gibt es möglicherweise eine bessere Infrastruktur oder eine bessere Unterstützung für die Einhaltung von Vorschriften auf bestimmten Plattformen. Ein Cloud-agnostisches Design bietet Ihnen mehr Reichweite und Anpassungsfähigkeit.

Unterstützung von Hybrid- und Multi-Cloud-Strategien

Für Unternehmen mit unterschiedlichen Teams, Systemen oder Compliance-Zonen gewährleistet die Cloud-Agnostizierung die architektonische Konsistenz bei allen Implementierungen.

Cloud-agnostische KI-Agentenarchitektur für AWS, Azure und Google Cloud

Während die Kernkomponenten eines KI-Agentensystems konsistent bleiben, variieren die spezifischen Dienste und Integrationsmuster zwischen den Cloud-Plattformen.

Jeder Cloud-Anbieter unterstützt unterschiedliche Tools, aber ein wirklich cloud-agnostischer Ansatz ermöglicht es den Teams, die Portabilität, Konsistenz und Leistung über verschiedene Plattformen hinweg zu erhalten.

In den folgenden Abschnitten erfahren Sie, wie Sie eine Cloud-agnostische Architektur auf Amazon Web Services (AWS), Microsoft Azure und Google Cloud Platform (GCP) implementieren können, wobei wir die wichtigsten Services, Bereitstellungsmuster und bewährten Sicherheitsverfahren hervorheben.

Bereitstellung von KI-Agenten auf AWS

Amazon Web Services bietet eine robuste Suite von verwalteten Tools für die Bereitstellung, Orchestrierung und Skalierung von KI-Agenten in der Produktion. Nachfolgend finden Sie eine Aufschlüsselung, wie jede architektonische Komponente auf die AWS-eigenen Services abgebildet wird.

Benutzer-Interaktion

Die Benutzerinteraktion wird über Services wie Amazon Cognito abgewickelt, der die Benutzerauthentifizierung und den Identitätsverbund verwaltet, einschließlich SSO und Social Logins. In Verbindung mit AWS Amplify können Entwickler sichere, skalierbare Weboberflächen erstellen, die sich nahtlos mit Backend-Services verbinden und Benutzern die Interaktion mit KI-Agenten über Chatfenster oder Dashboards ermöglichen.

Orchestrierungsschicht

Die Orchestrierungsschicht wird in der Regel mit Amazon ECS (Elastic Container Service) implementiert, mit dem containerisierte Workflows parallel oder nacheinander ausgeführt werden können. Dies ermöglicht eine robuste Koordination zwischen mehreren Agenten und stellt sicher, dass die Aufgaben effizient und unabhängig voneinander ausgeführt werden.

KI-Agenten

Das Herzstück des Systems sind die KI-Agenten. Diese Agenten können mit AWS Lambda gehostet werden, das serverlose Logik ausführt, z. B. Aufgaben zerlegt, kontextabhängige Entscheidungen trifft oder externe Tools aufruft.

LLMs

Für Sprach- und Schlussfolgerungsaufgaben bietet AWS Amazon Bedrock an, eine vollständig verwaltete Plattform, die über eine API Zugriff auf Basismodelle wie Anthropic Claude, Meta LLaMA und AWS Nova bietet (wodurch die Notwendigkeit der Infrastrukturverwaltung entfällt).

Werkzeuge

Um die Interaktion in der realen Welt zu ermöglichen, verlassen sich Agenten auf eine Reihe von Tools. Benutzerdefinierte APIs und Arbeitsabläufe können über Lambda-Funktionen ausgeführt werden, während vortrainierte KI-Dienste wie:

• Amazon Rekognition – Bild-/Videoanalyse (Objekterkennung, Gesichtserkennung)
• Textract – OCR und Extraktion von Formulardaten
• Comprehend – Textklassifizierung, Entity-Extraktion, Stimmungsanalyse

Für komplexere oder isolierte Tool-Ausführungsumgebungen kann Amazon ECS auch benutzerdefinierte Code-Interpreter oder Sandbox-Dienste hosten.

Speicher

Ein effektives Gedächtnis ist für das Behalten und Abrufen von Kontexten unerlässlich. AWS bietet mehrere Services, die dies unterstützen:

• AWS Kendra – semantische Suche auf Dokumentenebene für RAG-Pipelines.
• AWS Neptune – Graphdatenbank, die in Graph RAG für strukturierte Beziehungsanalysen verwendet wird.
• AWS S3 – Objektspeicher für die Speicherung unstrukturierter oder halbstrukturierter Daten wie Dokumente, Einbettungen, Protokolle oder Wissensquellen, die RAG und Graph RAG unterstützen.
• AWS RDS – relationale Datenbank für strukturierten Speicher oder Metadaten.
• AWS DynamoDB – schneller Key-Value-Speicher für Agentenstatus/Sitzungsinformationen.
• AWS OpenSearch – Volltext- oder vektorbasierte Suchmaschine zur Unterstützung von RAG

Übergreifende Belange

Schließlich werden übergreifende Belange wie Sicherheit, Beobachtbarkeit und Zugriffskontrolle nativ innerhalb des AWS-Ökosystems behandelt:

• IAM (Identity and Access Management) – fein abgestufte Zugriffskontrolle für Benutzer, Dienste und Agenten.
• KMS (Key Management Service) – verschlüsselt sensible Daten, API-Schlüssel und Speicherinhalte.
• CloudWatch – Protokolle, Metriken und Überwachung von Agentenaktivitäten und Orchestrierungsabläufen.
• CloudTrail – Prüfprotokolle für alle Interaktionen und API-Aufrufe.
• GuardDuty – Bedrohungserkennung zur Überwachung von Anomalien und zur Sicherung der Infrastruktur.
• Key Management Services – zentrale Verwaltung von Verschlüsselungsschlüsseln, die in verschiedenen Diensten verwendet werden.

Abbildung 3. AWS Multi-Agenten-Referenzarchitektur

Implementierung von KI-Agenten auf Azure

Microsoft Azure bietet eine ausgereifte und flexible Plattform für den Einsatz von KI-Agenten, die über eine tiefe Integration in das Ökosystem der Cloud-Dienste und des Basismodells verfügt. Die Azure-Architektur eignet sich gut für Multi-Agenten-Systeme der Enterprise-Klasse und bietet Skalierbarkeit, Modularität und eine starke Governance.

Benutzer-Interaktion

Die Interaktion mit dem Benutzer beginnt mit Microsoft Entra External ID, das die Benutzerauthentifizierung und den Identitätsverbund verwaltet und sowohl SSO für Unternehmen als auch Anmeldevorgänge für Verbraucher unterstützt. Auf dem Frontend bietet Azure Static Web Apps eine schnelle, global verteilte Hosting-Umgebung für Agentenschnittstellen, die sicher mit Backend-APIs und -Diensten verbunden sind.

Orchestrierungsschicht

Die Orchestrierungsschicht in Azure wird in der Regel von Azure Container Apps betrieben, die skalierbare containerisierte Microservices unterstützen. In diesen Containern wird die Orchestrierungslogik ausgeführt, die regelt, wie Agenten kommunizieren, Aufgaben delegieren und Zustände verwalten (und das alles bei automatischer Skalierung je nach Bedarf).

KI-Agenten

Die KI-Agenten selbst werden in der Regel mit Azure Functions implementiert, so dass die Planungs-, Argumentations- oder Aktionslogik der einzelnen Agenten als isolierte, serverlose Komponenten ausgeführt werden können.

LLMs

Für Sprach- und Schlussfolgerungsfähigkeiten bietet der Azure OpenAI Service Zugriff auf führende Basismodelle wie GPT-4o, GPT-4-turbo, GPT-3.5 und DALL-E, und zwar über eine vollständig verwaltete, konforme Schnittstelle.

Werkzeuge

Um reale Operationen zu ermöglichen, können Agenten verschiedene Tools über serverlose Azure Functions oder containerisierte Microservices, die auf Azure Container Apps gehostet werden, aufrufen.

Für kognitive Aufgaben bietet Azure leistungsstarke vorgefertigte Dienste:

• Azure AI Vision – liefert OCR, Objekterkennung und räumliche Analyse
• Azure Cognitive Services – erweitert die Fähigkeiten der Agenten um Spracherkennung, Übersetzung, Erkennung von Anomalien und mehr.

Diese Tools ermöglichen es Agenten, mit multimodalen Daten und externen Systemen auf flexible, skalierbare Weise zu interagieren.

Speicher

Für den Speicher- und Kontextabruf unterstützt Azure mehrere Backends:

• Cosmos DB – NoSQL-Schlüsselwert-/Dokumentenspeicher für Sitzungsdaten oder Speicherzustände. Deckt Graph-Anwendungsfälle (über Apache Gremlin) und Vektor-Anwendungsfälle über DiskANN ab.
• Azure SQL Database – strukturierter Speicher für relationalen Speicher oder Metadaten.
• Azure Blob Storage – speichert Dokumente, Einbettungen, Protokolle oder Langzeitspeicher-Snapshots.
• Azure AI Search – ermöglicht die Vektorsuche für RAG-basierte Abfragen und Kontextinjektion.

Übergreifende Belange

Azure bietet auch umfassende Unterstützung für übergreifende Belange:

• Entra, Azure RBAC – fein abgestufte Zugriffskontrolle für Benutzer, Dienste und Agenten.
• Azure Key Vault – zentralisierte Verwaltung von Geheimnissen, API-Schlüsseln und Verschlüsselungsschlüsseln.
• Application Insights + Azure Monitor – bietet Beobachtbarkeit durch Protokollierung, Tracing und Leistungsüberwachung.
• Microsoft Defender for Cloud – Sicherheitsüberwachung und Durchsetzung der Compliance.
• Microsoft Purview – Datenverwaltung, Klassifizierung und Zugriffskontrolle über Speicherebenen hinweg.

Abbildung 4. Azure Multi-Agenten-Referenzarchitektur

Ausführen von KI-Agenten auf der Google Cloud Platform (GCP)

Google Cloud Platform bietet eine moderne, entwicklerfreundliche Umgebung für die Entwicklung und Skalierung von KI-Agenten. GCP ist für seine starke KI-Forschung bekannt und kombiniert leistungsstarke Basismodelle mit flexibler serverloser Rechenleistung, was es zu einer guten Wahl für Cloud-agnostische, produktionsreife Multi-Agenten-Systeme macht.

Benutzer-Interaktion

Die Benutzerinteraktion in GCP wird über Firebase Authentication abgewickelt, das eine Vielzahl von Anmeldemethoden unterstützt (einschließlich E-Mail/Passwort, OAuth und Social Sign-Ins), während Firebase Hosting als sichere und leistungsstarke Frontend-Schicht für webbasierte Agentenschnittstellen dient.

Orchestrierungsschicht

Das Herzstück der Agentenorchestrierung ist Cloud Run, ein vollständig verwalteter Service, der containerisierte Workflows mit automatischer Skalierung ausführt. Cloud Run übernimmt die zustandslose Orchestrierungslogik: Routing von Aufgaben, Verwaltung der Agentenkoordination und Aufrechterhaltung der Fehlertoleranz – und abstrahiert dabei von der Komplexität der Infrastruktur.

KI-Agenten

KI-Agenten auf GCP werden in der Regel mit Cloud Functions implementiert, die Agentenlogik wie Planung, Schlussfolgerungen oder Toolaufrufe in leichtgewichtigen, ereignisgesteuerten Einheiten kapseln. Ergänzt werden diese Funktionen durch Vertex AI, Googles einheitliche KI-Plattform, die nahtlosen Zugriff auf hochmoderne Basismodelle bietet, darunter Gemini, Gemma und Imagen. Diese Modelle ermöglichen fortschrittliches logisches Denken, Generierung und multimodale Verarbeitung in jedem Agenten.

Werkzeuge

• Cloud-Funktionen – führt benutzerdefinierte Logik aus oder ruft APIs auf.
• Cloud Run – hostet containerisierte Tools oder Interpreter (z.B. Python Sandbox).
• Vision AI – Bild- und Videoanalyse (OCR, Kennzeichnung, Erkennung).
• Translation AI – mehrsprachige Übersetzungsdienste.
• Natural Language API – Sentiment-Analyse, Entity-Extraktion, Klassifizierung, Syntax-Parsing.

Speicher

Für die Speicher- und Kontextverwaltung bietet GCP mehrere Speicher- und Abrufoptionen:

• Cloud Storage – speichert Dokumente, Einbettungen und unstrukturierten Speicher.
• Vertex AI Search – semantische Suchmaschine für die RAG-ähnliche Kontextabfrage.
• Cloud SQL – relationale Datenspeicherung (z.B. strukturierter Speicher, Metadaten).
• Firestore – NoSQL-Schlüsselwert- oder dokumentenbasierter Speicher.
• Spanner + Graph (über Erweiterungen) – Unterstützung für Graph-basiertes Reasoning (für GraphRAG Anwendungsfälle).

Übergreifende Belange

Übergreifende Belange werden durch die Google-eigene Sicherheits- und Beobachtungsfunktion behandelt:

• Cloud IAM – verwaltet Identität und Zugriff für Benutzer und Agenten.
• Key Management Service (KMS) – verwaltet Verschlüsselungsschlüssel und Geheimnisse.
• Cloud Security Command Center – bietet Bedrohungserkennung und Einblicke in die Sicherheit.
• Cloud Monitoring & Logging – Beobachtbarkeit von Agentenaktionen, Modellnutzung und Systemzustand.

Abbildung 5. GCP-Referenzarchitektur für Multi-Agenten

Fazit

Da Unternehmen sich darum bemühen, autonome KI-Agenten in ihre Cloud-native Infrastruktur zu integrieren, ist die Wahl einer Cloud-unabhängigen Architektur ein strategisches Muss.

AWS, Azure und GCP bieten jeweils eine Vielzahl von nativen Services für die Erstellung, Orchestrierung und Skalierung von KI-Agenten. Jeder Cloud-Anbieter bietet ein ausgereiftes und sich weiterentwickelndes Ökosystem von Diensten an, die robuste Multiagentensysteme in der Produktion betreiben können.

Wir von Crunch-IS helfen Ihnen bei der Entwicklung und Implementierung von KI-Agentenarchitekturen, die auf Ihre Infrastruktur zugeschnitten sind. Wenn Sie herausfinden möchten, welcher Ansatz für Ihr Unternehmen der richtige ist, vereinbaren Sie einen kostenlosen Beratungstermin mit unserem Team, um loszulegen.