Vor kurzem hat Nvidia gemeinsam mit Microsoft, Cisco, Crowdstrike, Palo Alto Networks und vielen weiteren Unternehmen die „Open Secure AI Alliance“ gegründet. Hinter dieses Bündnis stellt sich auch KnowBe4. Ziel der Allianz ist, offene Werkzeuge zu entwickeln und bereitzustellen, mit denen sich KI im Zeitalter autonomer Agenten absichern lässt. Warum KnowBe4 die Open-Secure-AI-Alliance unterstützt, erläutert Matt Duren, SVP of AI & Data bei KnowBe4.
Die Allianz stellt die richtige Frage, und ihre Antwort verdient Wiederholung. Sicherheit entscheidet sich am gesamten Agenten-Stack, an Identitäten, Berechtigungen, Harnesses, Leitplanken, Protokollen und Evaluierung. Ob ein Modell als Open-Weight-Modell vorliegt, dessen Parameter frei heruntergeladen werden können, oder als geschlossenes Modell, ist dabei nur einer von vielen Faktoren.
Das sehen wir genauso. Genau deshalb haben wir in den vergangenen Jahren jenen Teil dieses Stacks entwickelt, der dem tatsächlichen Verhalten von Agenten am nächsten kommt, sobald diese in einem realen Unternehmen zum Einsatz kommen.
Für uns besteht die moderne Belegschaft aus Menschen und KI-Agenten, und hinter dem nächsten Sicherheitsvorfall kann jede der beiden Seiten stehen. Modell- und Harness-Sicherheit beantworten die Frage, ob einem System grundsätzlich zu trauen ist. Doch eine zweite Frage wiegt ebenso schwer: Was genau tut ein bestimmter Agent gerade jetzt, in dieser konkreten Umgebung, mit diesen Berechtigungen?
Für die Antwort darauf haben wir den „Agent Risk Manager“ entwickelt. Diese produktionsreife Governance-Ebene für autonome KI-Agenten verschafft Sicherheitsteams in Echtzeit den Überblick darüber, worauf ein Agent zugreift, welche Daten er bewegt und ob eine Prompt-Injection ihn umgelenkt hat. Sie funktioniert unabhängig davon, ob das zugrunde liegende Modell offen oder geschlossen ist. Entwickelt haben wir ihn, weil uns in der Praxis immer wieder dasselbe Muster begegnete, auf das auch die Open-Secure-AI-Alliance verweist. Als der OpenAI-Agent aus seiner Umgebung ausbrach und Hugging Face angriff, lag die Ursache nicht im Modell selbst. Das eigentliche Problem war sein Verhalten, das niemand im Blick hatte, bis der Schaden bereits eingetreten war.
Dieses Muster kennen wir gut. Seit über 15 Jahren steht bei uns der Mensch in der Organisation im Mittelpunkt der Sicherheit, und die Lehre daraus lässt sich unmittelbar übertragen: Man prüft nicht nur, wer jemand ist, bevor er eine Stelle antritt, sondern achtet auch darauf, was er tut, sobald er sie ausübt. KI-Agenten zählen heute ebenfalls zur Belegschaft, und für sie sollte derselbe Maßstab gelten.
Eine offene, gemeinsam genutzte Infrastruktur für die Verteidigung gegen KI-gestützte Bedrohungen ist genau die Investition, die jetzt gefordert ist. Und die Kontrolle über das Verhalten von Agenten gehört ebenso in diese Diskussion wie die Sicherheit der Modelle selbst. Unser Auftrag ist die Absicherung der modernen, digitalen Belegschaft also der Menschen wie der KI-Agenten gleichermaßen. Es ist daher zu begrüßen, dass sich die Branche zusammenschließt, um KI mit offenen, gemeinsamen Werkzeugen sicherer zu machen.
#KnowBe4
