Steuern Sie das Verhalten und die Kosten von KI-Agenten mit Amazon Bedrock AgentCore.

Einleitung: Warum die Steuerung durch KI-Agenten im Jahr 2025 unerlässlich ist

Da KI-gestützte Agenten zunehmend autonom agieren und komplexe, mehrstufige Aufgaben ausführen können, stehen Unternehmen vor einer grundlegenden Herausforderung: Wie lässt sich sicherstellen, dass sich ein KI-Agent wie erwartet verhält, ohne Budgets zu überschreiten oder unbeabsichtigte Entscheidungen zu treffen? Dies ist nicht nur eine technische Frage, sondern auch eine Frage der Governance und des Vertrauens. Amazon Bedrock AgentCore bietet neue Funktionen, die genau diese Herausforderungen angehen und Entwicklern und Betriebsteams leistungsstarke Werkzeuge an die Hand geben, um das Agentenverhalten über einzelne Aktionen oder Tool-Aufrufe hinaus zu steuern.

In modernen KI-Architekturen führen Agenten nicht mehr einfach nur eine Eingabeaufforderung aus und geben eine Antwort zurück. Sie planen, schlussfolgern, rufen externe Tools auf, greifen auf Datenbanken zu, führen Code aus und treffen iterative Entscheidungen. Diese erhöhte Komplexität birgt entsprechende Risiken: Ein Agent kann übermäßig viele Ressourcen verbrauchen, in Endlosschleifen geraten, kostspielige Entscheidungen treffen oder von den Absichten des Auftraggebers abweichen. Neue Funktionen in Amazon Bedrock AgentCore adressieren genau diese Szenarien und bieten Teams detaillierte Kontrolle und Transparenz über den gesamten Lebenszyklus eines Agenten.

Was ist Amazon Bedrock AgentCore und in welchem ​​Kontext wird es eingesetzt?

Amazon Bedrock AgentCore ist eine Sammlung von Diensten und Basiselementen von AWS zum Erstellen, Orchestrieren und Betreiben von KI-Agenten im Produktionsmaßstab. Im Gegensatz zu herkömmlichen KI-Frameworks, die sich auf isolierte Interaktionen konzentrieren, ist AgentCore für die Verarbeitung komplexer, mehrstufiger Workflows mit persistentem Zustand , Integrationen mit externen Systemen und vollständigem Agentenlebenszyklusmanagement ausgelegt.

Die Plattform umfasst wesentliche Komponenten wie: eine Laufzeitumgebung für die Agentenausführung, Langzeit- und Kurzzeitspeicher, ein Gateway für den Zugriff auf externe Tools und APIs, eine sichere Sandbox für die Codeausführung sowie – in dieser neuen Version – erweiterte Funktionen zur Verhaltenskontrolle und zum Kostenmanagement . Alle diese Komponenten basieren auf den AWS-Sicherheitsprinzipien und erfüllen die in Unternehmensumgebungen erforderlichen Compliance-Standards.

Neue Möglichkeiten zur Steuerung des Agentenverhaltens

Budgetgrenzen und Kostenkontrolle auf Sitzungsebene

Eines der kritischsten Themen beim produktiven Einsatz von KI-Agenten ist die Kostenvorhersagbarkeit . Ein Agent, der ein Teilproblem dutzende Male iteriert, große Sprachmodelle mit langen Eingabeaufforderungen aufruft und intensive Rechenressourcen beansprucht, kann innerhalb kurzer Zeit erhebliche Kosten verursachen. Amazon Bedrock AgentCore bietet nun die Möglichkeit, explizite Budgetgrenzen auf Sitzungs- oder Aufgabenebene festzulegen , sodass Unternehmen klare Ausgabenobergrenzen definieren können.

Diese Grenzwerte funktionieren durch die Echtzeitüberwachung des Tokenverbrauchs, der API-Aufrufe an Modelle und der genutzten Rechenressourcen. Nähert sich ein Agent dem definierten Grenzwert, kann das System verschiedene Reaktionen auslösen: Warnung und Fortsetzung mit einem effizienteren Modell , kontrolliertes Anhalten mit Rückgabe von Teilergebnissen oder Eskalation an einen menschlichen Operator zur weiteren Genehmigung. Diese Flexibilität ist entscheidend für Geschäftsszenarien, in denen finanzielle Vorhersagbarkeit ebenso wichtig ist wie technische Leistungsfähigkeit.

Aus Implementierungssicht werden Budgetlimits über deklarative Richtlinien in JSON oder YAML konfiguriert, die zentral über AWS IAM verwaltet und mit AWS Cost Explorer integriert werden können, um vollständige Transparenz über die von Agenten verursachten Ausgaben auf Organisationsebene zu gewährleisten.

Mechanismen zur Steuerung der Anzahl der Schritte und Iterationen

Neben den finanziellen Kosten kann ein unkontrollierter KI-Agent aufgrund exzessiver Verarbeitungsschleifen Zeitressourcen beanspruchen und Systeme zum Absturz bringen. AgentCore führt nun konfigurierbare Grenzwerte für die maximale Anzahl der Schritte ein, die ein Agent in einer Sitzung ausführen kann, sowie Kontrollmöglichkeiten für die Rekursionstiefe von Agenten, die Unteragenten aufrufen.

Diese Beschränkungen bedeuten nicht einfach nur abrupte Leistungseinbrüche. Die Plattform implementiert ein intelligentes System für einen sanften Leistungsabfall : Nähert sich ein Agent der definierten Schrittgrenze, kann er angewiesen werden, den aktuellen Fortschritt zusammenzufassen, ein Teilergebnis mit einer klaren Erklärung der Situation zurückzugeben oder, sofern die Geschäftslogik dies zulässt, den Kontext an eine neue Instanz mit zurückgesetztem Budget zu übergeben. Dieser Ansatz erhält den Wert der bis dahin vom Agenten geleisteten Arbeit, anstatt ihn durch einen abrupten Stopp vollständig zu verlieren.

Umfassende Verhaltensrichtlinien und Leitplanken

Amazon Bedrock bietet bereits Funktionen zur Steuerung modellgenerierter Inhalte. In AgentCore werden diese Funktionen auf die Verhaltensebene des Agenten erweitert , nicht nur auf die Ebene der Textausgabe. Das bedeutet, dass Sie Richtlinien definieren können, die festlegen, welche Tools ein Agent in welcher Reihenfolge, mit welchen Parametern und unter welchen Bedingungen aufrufen darf.

Sie können beispielsweise eine Richtlinie konfigurieren, die Folgendes festlegt: Der Agent darf das Datenbank-Schreibtool erst nach dem Aufruf des Validierungstools aufrufen oder er darf innerhalb von 60 Sekunden nicht mehr als drei Aufrufe an externe APIs durchführen. Diese detaillierten Verhaltensrichtlinien ermöglichen es Unternehmen, komplexe Geschäftslogik direkt auf der Ebene der Orchestrierungsplattform zu implementieren, ohne sie in Agenten-Prompts oder Anwendungscode kodieren zu müssen.

Verhaltenskontrolle über eine einzelne Aktion hinaus

Langfristiges Status- und Kontextmanagement

Eine der grundlegenden Innovationen von AgentCore besteht darin, Agenten als Entitäten mit persistentem Zustand zu behandeln , anstatt als speicherlose Funktionen, die für jede Anfrage instanziiert und zerstört werden. Die neuen Funktionen erweitern diese Vision, indem sie eine präzisere Kontrolle darüber ermöglichen, wie der Zustand während der Ausführung einer komplexen Aufgabe verwaltet, gespeichert und abgerufen wird.

Das Speichersystem von AgentCore unterstützt jetzt automatisches Speichern von Prüfpunkten in konfigurierbaren Intervallen oder an explizit im Workflow definierten Punkten. Das bedeutet: Fällt ein Agent beispielsweise in Schritt 47 eines 50-stufigen Prozesses aus, kann er die Arbeit am letzten gültigen Prüfpunkt fortsetzen, ohne die gesamte vorherige Arbeit wiederholen zu müssen. Aus Kosten- und Zuverlässigkeitssicht ist diese Funktion für langlaufende Aufgaben, wie die Analyse großer Datensätze oder die Orchestrierung komplexer Automatisierungs-Workflows, von entscheidender Bedeutung.

Der Agentenkontext wird in einem strukturierten Format gespeichert, das Folgendes umfasst: die Historie der durchgeführten Aktionen , die Zwischenergebnisse jedes aufgerufenen Tools, die vom Agenten getroffenen Verzweigungsentscheidungen und deren Begründung sowie Metadaten zu den verbrauchten Ressourcen. Dieser Detaillierungsgrad ermöglicht nicht nur die Fehlerbehebung, sondern auch die vollständige Überprüfung des Verhaltens des Agenten nach der Ausführung.

Steuerung der menschlichen Zustimmungsprozesse

In Unternehmensumgebungen ist die vollständige Autonomie von Agenten aus Compliance-Gründen nicht immer erwünscht oder zulässig. AgentCore führt daher nun Mensch-in-the-Loop-Checkpoints als zentrale Elemente der Agenten-Orchestrierung ein. Diese ermöglichen die Definition von Punkten im Agenten-Workflow, an denen die Ausführung angehalten wird, bis ein menschlicher Bediener die vorgeschlagene Aktion geprüft und genehmigt hat.

Der Genehmigungsmechanismus ist nativ in AWS-Dienste wie Amazon SNS für Benachrichtigungen integriert und kann über standardisierte APIs mit externen Ticket- oder Workflow-Systemen verbunden werden. Der Agent behält seinen vollständigen Status während der Wartezeit bei, und konfigurierbare Timeouts ermöglichen die Definition klarer Richtlinien für den Fall, dass die Genehmigung nicht innerhalb des festgelegten Zeitraums erfolgt: Eskalation, Abbruch der Aufgabe oder Fortsetzung mit einem alternativen Plan.

Erweiterte Transparenz und Beobachtbarkeit

Vollständige Nachvollziehbarkeit der Agentenentscheidungen

Ein KI-Agent, der komplexe Entscheidungen trifft, muss nicht nur ausgeführt, sondern auch nachvollzogen und analysiert werden. AgentCore bietet jetzt eine detaillierte Nachverfolgbarkeit der gesamten Entscheidungskette eines Agenten, nativ integriert in AWS CloudWatch und AWS X-Ray . Jede Agentenaktion generiert strukturierte Protokolle, die Folgendes umfassen: die an das Modell gesendete Eingabeaufforderung, die Rohantwort, die Entscheidung zur Werkzeugauswahl, die Aufrufparameter und das empfangene Ergebnis.

Diese Protokolle sind hierarchisch organisiert und bilden die Baumstruktur der Planung des Agenten ab. Sie sehen nicht nur, was der Agent getan hat, sondern auch warum: wie der ursprüngliche Plan aussah, wie er sich im Laufe der Zeit angepasst hat und welche Alternativen er vor der Entscheidung in Betracht gezogen hat. Diese Transparenz der Entscheidungsprozesse ist unerlässlich für die Fehlersuche, die Verbesserung von Eingabeaufforderungen und den Nachweis der Einhaltung von Vorschriften in regulierten Branchen.

Leistungs- und Kostenkennzahlen in Echtzeit

Zu den neuen Funktionen gehört ein dediziertes Dashboard zur Überwachung von Agenten, das über die AWS-Konsole und programmatische APIs verfügbar ist. Zu den angezeigten Metriken gehören: Anzahl der pro Sitzung verbrauchten Token , durchschnittliche Latenz pro Ausführungsschritt, Erfolgsrate der Tool-Aufrufe, geschätzte Kosten in Echtzeit sowie Vergleiche mit historischen Benchmarks.

Mithilfe dieser Metriken lassen sich in CloudWatch automatische Alarme konfigurieren , die Korrekturmaßnahmen auslösen, sobald ein Agent vom erwarteten Verhalten abweicht. Beispielsweise kann ein Alarm so eingestellt werden, dass das Betriebsteam benachrichtigt wird, wenn die Fehlerrate eines Agents innerhalb von fünf Minuten 10 % überschreitet oder die kumulierten Kosten einer Sitzung einen vordefinierten Schwellenwert überschreiten.

Technische Architektur und Integration in das AWS-Ökosystem

Integration mit AWS IAM zur Zugriffskontrolle

Sicherheit und Zugriffskontrolle sind grundlegende Bestandteile jeder Unternehmensplattform. AgentCore ist tief in AWS Identity and Access Management (IAM) integriert und ermöglicht Ihnen die Definition detaillierter Richtlinien, die steuern, auf welche Ressourcen ein Agent zugreifen, welche Aktionen er ausführen und unter welchen Bedingungen. Agenten werden mit dedizierten IAM-Rollen ausgeführt und folgen dem Prinzip der minimalen Berechtigungen.

Diese Integration ermöglicht die Implementierung fortschrittlicher , kontextbasierter Zugriffskontrollszenarien : Ein Agent kann je nach Benutzer, der die Sitzung initiiert hat, den Daten in der Anfrage oder dem Systemzustand zum Zeitpunkt der Ausführung unterschiedliche Berechtigungen besitzen. In Kombination mit neuen Funktionen zur Verhaltenskontrolle ermöglicht dies die Entwicklung leistungsstarker und gleichzeitig von Grund auf sicherer KI-Systeme.

Kompatibilität mit gängigen Agenten-Frameworks

Amazon Bedrock AgentCore ist keine eigenständige Lösung, sondern wurde für die Zusammenarbeit mit gängigen Frameworks des Open-Source-Ökosystems entwickelt. Die native Unterstützung für LangGraph-, LlamaIndex- und Strands-Agents ermöglicht es Teams, ihre bestehenden Agents auf die von AWS verwaltete Plattform zu migrieren und von den Kontroll- und Überwachungsfunktionen von AgentCore zu profitieren, ohne die Geschäftslogik neu schreiben zu müssen.

Die Integration erfolgt über native SDKs für Python und JavaScript mit voller Unterstützung für async/await und moderne Programmiermuster. Die APIs sind versioniert und abwärtskompatibel, wodurch die Stabilität von Anwendungen im Produktivbetrieb auch bei Plattform-Updates mit neuen Funktionen gewährleistet wird.

Reale Anwendungsfälle und Auswirkungen auf die Produktion

Automatisierung von Finanzprozessen bei gleichzeitig strenger Kostenkontrolle

Im Finanzsektor werden KI-Agenten zur Automatisierung von Buchhaltungsabstimmungsprozessen, Risikoanalysen und Compliance-Berichten eingesetzt. Die neuen Funktionen von AgentCore sind in diesem Zusammenhang besonders relevant: Budgetlimits gewährleisten die Vorhersagbarkeit der Betriebskosten, Prüfpunkte mit menschlicher Genehmigung ermöglichen die Überprüfung wichtiger Entscheidungen vor deren Umsetzung, und die vollständige Nachvollziehbarkeit erfüllt die Prüfungsanforderungen der Finanzaufsichtsbehörden.

Ein konkretes Szenario: Ein Agent, der Tausende von Transaktionen zur Betrugserkennung verarbeitet, kann so konfiguriert werden, dass er bei einem ungewöhnlichen Muster automatisch stoppt und eine menschliche Überprüfung anfordert, anstatt potenziell betrügerische Transaktionen weiter zu verarbeiten. Die Gesamtkosten der Sitzung werden in Echtzeit überwacht und mit dem Wert der verarbeiteten Transaktionen verglichen, wodurch eine klare ROI-Kennzahl bereitgestellt wird.

Forschung und Datenanalyse im großen Maßstab

Im Bereich der Datenforschung und -analyse werden KI-Agenten eingesetzt, um große Datensätze zu analysieren, Hypothesen zu generieren und diese iterativ zu testen. Kostenmanagement ist in diesem Kontext entscheidend, da unkontrollierte Analysen enorme Ressourcen verbrauchen können. Konfigurierbare Schrittgrenzen und Budgets ermöglichen es Forschern, die Parameter einer Analysesitzung klar zu definieren und sicherzustellen, dass der Agent innerhalb der Grenzen seiner zugewiesenen Ressourcen arbeitet.

Die Checkpointing-Funktion ermöglicht das Speichern wertvoller Zwischenergebnisse, selbst wenn die vollständige Untersuchung nicht in einer einzigen Sitzung abgeschlossen werden kann. Diese Kontinuität der Arbeit verwandelt AgentCore von einem einfachen Aufgabenausführer in eine Kollaborationsplattform zwischen Menschen und KI-Agenten für langfristige Projekte.

Die Zukunft kontrollierbarer und transparenter KI-Agenten

Die neuen Funktionen von Amazon Bedrock AgentCore stellen einen wichtigen Schritt zur Weiterentwicklung von KI-Agentenplattformen für den Produktiveinsatz dar. Verhaltenskontrolle über einzelne Aktionen hinaus, Kostenmanagement auf Sitzungsebene, Statusprüfung und Genehmigungsmechanismen durch menschliche Benutzer sind nicht einfach nur zusätzliche Funktionen, sondern spiegeln eine kohärente Vision wider, wie KI-Agenten in einer verantwortungsvollen Unternehmensumgebung agieren sollten.

Da Unternehmen KI-Agenten in immer kritischeren Prozessen einsetzen, gewinnen Vertrauen, Transparenz und Vorhersagbarkeit ebenso an Bedeutung wie die reine Modellleistung. AWS positioniert AgentCore als Antwort auf diesen Bedarf und bietet eine verwaltete Plattform, die die Leistungsfähigkeit von Modellen der nächsten Generation mit den für einen verantwortungsvollen Produktiveinsatz erforderlichen Kontrollmechanismen kombiniert.

Für technische Teams, die Agentenorchestrierungsplattformen evaluieren, ist AgentCore einen genaueren Blick wert, insbesondere wenn das Unternehmen bereits im AWS-Ökosystem tätig ist und hohe Anforderungen an Sicherheit, Compliance und Kostenplanbarkeit stellt . Investitionen in das Verständnis und die korrekte Konfiguration dieser Funktionen können entscheidend dafür sein, ob ein KI-Projekt im Produktivbetrieb scheitert oder nachhaltigen und skalierbaren Mehrwert bietet.