Check Point etabliert Intelligenzebene, um agentenbasierte Systeme zu sichern

Check Point Software Technologies hat „Check Point AI Defense Plane“ vorgestellt. Diese einheitliche KI-Sicherheitssteuerungsebene unterstützt Unternehmen dabei, die Vernetzung, Bereitstellung und den Betrieb von KI im gesamten Unternehmen zu steuern. Da sich KI-Systeme von Assistenten zu autonomen Akteuren entwickeln, die auf Daten zugreifen, Tools aufrufen und eigenständig handeln, bietet die Lösung die erforderliche Intelligenzebene, um agentenbasierte Systeme zu sichern.

„Unternehmen adaptieren agentenbasierte Systeme im großen Maßstab. KI beschränkt sich nicht mehr nur auf die Generierung von Inhalten. Sie beginnt, auf Systeme zuzugreifen, Tools zu nutzen, Aktionen zu verketten und mit zunehmender Autonomie zu agieren. Das verändert auch die Anforderungen an das dahinterliegende Sicherheitsmodell“, sagt David Haber, VP, AI Security bei Check Point Software Technologies. „Die Herausforderung besteht nicht mehr nur darin, was KI sagt, sondern darin, was KI eigenhändig tun kann. Unternehmen benötigen mehr als nur Modellsicherheit. Sie benötigen Laufzeitkontrolle darüber, wie sich KI in realen Umgebungen verhält. AI-Defense-Plane bietet diese Kontrolle über Mitarbeiter, Anwendungen und KI-Agenten hinweg.“

Wenn Unternehmen KI-Systeme in die Produktionsumgebung integrieren, erweitert sich die Angriffsfläche über Eingabeaufforderungen und Modelle hinaus. Sie umfasst dann agentische Workflows, delegierte Aktionen, nicht-menschlichen Zugriff und Schattenagenten, die in realen Geschäftsumgebungen operieren.

Die KI-Sicherheitssteuerungsebene basiert auf der KI-Sicherheitsplattform von Check Point und wird durch Technologien von Threatcloud-AI sowie durch die jüngsten Übernahmen von Lakera und Cyata ergänzt. Sie vereint Erkennung, Governance, Observability, Laufzeitkontrolle und kontinuierliche Validierung über den gesamten Lebenszyklus der KI-Ausführung hinweg.

Das Herzstück der Lösung ist die KI-native Sicherheits-Engine. Dabei handelt es sich um eine Engine, die Entscheidungen in Echtzeit trifft und auf der Analyse von Millionen von KI-Interaktionen, Adversarial-Tests und Live-Bedrohungsinformationen basiert. So schafft sie einen Sicherheitskreislauf, der sich mit der Weiterentwicklung der KI-Systeme kontinuierlich weiter verstärkt. Die Plattform bietet adaptiven Schutz in weniger als 50 Millisekunden in über 100 Sprachen und ermöglicht so eine Prävention in Maschinen-Geschwindigkeit, während Angriffe zunehmend automatisiert werden.

Während sich die meisten Ansätze auf Modell-Sicherheitsvorkehrungen konzentrieren, sorgt Check Point dafür, dass das tatsächliche Verhalten der KI in der Produktion abgesichert ist. Die „AI Defense Plane“ wurde entwickelt, um Kontrollen dort durchzusetzen, wo KI-Risiken für Unternehmen konkret werden: zur Laufzeit, in Live-Umgebungen und über die Arbeitsabläufe hinweg, die KI mit den Geschäftsabläufen verbinden.

AI-Defense-Plane umfasst drei Hauptmodule:

• Workforce-AI-Security: Bietet Transparenz, Governance und Schutzmaßnahmen zur Laufzeit hinsichtlich der Nutzung KI-gestützter Anwendungen durch Mitarbeiter. Das Modul setzt Richtlinien in Echtzeit durch, verringert das Risiko der Offenlegung sensibler Daten und ermöglicht sichere Produktivität bei genehmigten und nicht genehmigten KI-Tools.
• AI-Application & Agent-Security: Bietet Erkennung, Bestandsaufnahme und Laufzeitsteuerung für KI-Anwendungen und agentenbasierte Systeme, die im gesamten Unternehmen eingebettet sind. Unternehmen können feststellen, wo KI vorhanden ist, nachvollziehen, auf welche Daten und Tools sie zugreifen kann, ihr Verhalten bewerten und die Berechtigungen sowie Vertrauensbeziehungen steuern, die die Ausführung der Agenten bestimmen.
• KI-Red-Teaming: Ermöglicht kontinuierliche Adversarial-Tests von Eingabeaufforderungen, Schlussfolgerungspfaden, Workflows, Tool-Nutzung und Agentenverhalten. KI-Red-Teaming hilft Unternehmen, ausnutzbare Schwachstellen frühzeitig aufzudecken und die digitale Resilienz zu stärken, während KI-Systeme vom Prototyp in die Produktion übergehen.

„Red-Teaming ist für agentische Systeme unverzichtbar geworden“, sagt George Davis, Produktleiter bei Sierra. „Wenn die KI Infrastruktur abfragt, Workflows auslöst und mit sensiblen Daten interagieren kann, ist das Risiko nicht mehr nur theoretischer Natur. Unternehmen benötigen kontinuierliche Tests, um zu verstehen, wie diese Systeme manipuliert werden können, wo Kontrollen versagen und wie widerstandsfähig sie im Produktionsbetrieb sind.“

#CheckPoint