Der Anbieter der weltweit bekannten Plattform, die sich umfassend mit dem Human-Risk-Management und KI-Agenten befasst, KnowBe4, führt den Agent-Risk-Manager ein. Das branchenweit erste Verteidigungssystems, das darauf ausgelegt ist, das Verhalten autonomer KI-Agenten zu sichern, zu überwachen und zu steuern. Der Agent-Risk-Manager ist ein Eckpfeiler der KnowBe4-HRM+-Plattform und verändert grundlegend, wie Unternehmen die Risiken der menschlichen und KI-Belegschaft quantifizieren und mindern.
Mit dem Wandel der Arbeitsabläufe von KI-unterstützt zu agentengesteuert ist eine neue Sicherheitslücke entstanden. Während andere sich auf statisches Code-Scanning oder grundlegende API-Sicherheit konzentrieren, befasst sich der Agent-Risk-Manager von KnowBe4 mit den Risiken, die mit dem Verhalten von Agenten verbunden sind, und verhindert unbefugte Aktionen wie die Weitergabe sensibler Informationen, identifiziert indirekte Prompt-Injektionen, inventarisiert Agenten und vieles mehr.
„Die Branche hat Jahre damit verbracht, den menschlichen Faktor zu sichern, doch heute sind KI-Agenten die neuesten Mitglieder unserer Belegschaft“, sagt Greg Kras, Chief Product Officer bei KnowBe4. „Die Absicherung der Eingabeaufforderung ist jedoch nur die halbe Miete. Unser Agent-Risk-Manager konzentriert sich auf die Ausgaben und Aktionen dieser Agenten und stellt sicher, dass sie, während sie sich durch Ihr Netzwerk bewegen, nicht zur ultimativen Schatten-IT oder zu einer Hintertür für raffinierte Prompt-Injection-Angriffe werden.“
Der Agent-Risk-Manager bietet eine operative Echtzeit-Ebene, die das Verhalten der Agenten nach ihrer Bereitstellung steuert.
Zu den wichtigsten Funktionen des Agent-Risk-Managers gehören:
- Verhaltensschutz: Echtzeitüberwachung der Agentenaktionen, um unbefugten Datendiebstahl oder die autonome Ausführung nach einem Jailbreak zu verhindern.
- Agentic-Identity-Governance: Identifiziert Zugriffsberechtigungen und Tools, auf die der Agent Zugriff hat.
- Adversarial Simulation for Agents: Stresstests für KI-Agenten gegen die neuesten Prompt-Injection- und Social-Engineering-Taktiken, die von Hackern eingesetzt werden.
- Auf der Grundlage branchenführender Daten: Nutzt 15 Jahre Verhaltensdaten, um vorherzusagen, wann ein Agent von sicheren Betriebsparametern abweicht.
„Wir bewegen uns von einer Welt des menschlichen Risikos hin zu einem universellen Risiko“, fuhr Kras fort. „Ob es sich nun um einen Menschen handelt, der durch einen Deepfake getäuscht wird, oder um einen KI-Agenten, der durch eine böswillige Eingabeaufforderung manipuliert wird – KnowBe4 ist die einzige Plattform, die beide schützen kann.“
Zu den Funktionen des Agent Risk Managers gehören:
- Erkennung von Prompt-Injection: Eine auf maschinellem Lernen basierende Analyse, die Jailbreaks, Logik-Overrides und indirekte Injektionen in Benutzernachrichten und Tool-Ausgaben identifiziert.
- Erkennung sensibler Informationen: Nutzt über 20 Klassifikatoren, um nach personenbezogenen Daten und Anmeldedaten zu suchen, und schwärzt sensible Daten automatisch, bevor sie das Audit-Protokoll erreichen.
- Erkennung unbegrenzten Verbrauchs: Überwacht Ressourcenmissbrauch und „aus der Kontrolle geratene“ Agenten, um übermäßige API-Aufrufe, Datenabfragen und Rechenkosten zu verhindern.
- Agenten-Inventar: Katalogisiert Agenten und Tools mandantenübergreifend automatisch ohne manuelle Eingabe und verfolgt Tool-Definitionen sowie Zeitstempel der Aktivitäten.
- Auditprotokoll: Ein filterbarer, konformitätsfähiger Datensatz aller Agentenaktionen und Erkennungen, der für eine schnelle Reaktion auf Vorfälle und forensische Überprüfungen konzipiert ist.
- Integrationsmanagement: Zentralisiertes Lebenszyklusmanagement für mehrere Mandanten mit automatischer Konnektivitäts- und Berechtigungsprüfung.
- Geführte Einarbeitung: Eine optimierte, schrittweise Einrichtung, die die Erkennung des ersten Agenten innerhalb von Minuten ermöglicht, ohne dass professionelle Dienstleistungen erforderlich sind.
#KnowBe4
