Check Point Software Technologies hat kürzlich mit Lakera einen schweizerischen Spezialisten für den Schutz von Large-Language-Models akquirierte, integriert nun die Sicherheitsfunktionen in seine Web-Application-Firewall Cloudguard. Das Herzstück dieses Ansatzes ist eine zweischichtige Machine-Learning-Architektur, die Echtzeit-Prävention für KI-gesteuerte Anwendungen mit minimaler Anpassung und maximaler Flexibilität bietet und so ein Höchstmaß an Sicherheit gewährleistet.
Im Kern geht es um:
- Überwachte Machine-Learning-Engine: Auf Millionen von bösartigen und harmlosen Eingabeaufforderungen trainiert.
- Unüberwachte ML-Engine: Passt sich kontinuierlich in Echtzeit an spezifische Anwendungen und APIs an und verfeinert den Schutz im Zuge der Weiterentwicklung der firmeneigenen KI.
Dieser mehrschichtige Ansatz gewährleistet eine optimale Erkennung von Bedrohungen bei minimalen Falsch-Positiven und schützt Unternehmen vor den gegenwärtigen Bedrohungen, während er gleichzeitig den Risiken von morgen einen Schritt voraus ist.
Die erste Schicht verarbeitet mehr als 90 Prozent des GenAI-Datenverkehrs mit branchenführenden Präventionsraten. Sie nutzt spezialisierte Engines, die jede Phase der KI-Interaktion sichern, von Prompt-Injektionen und Datenlecks bis hin zu schädlichen Inhalten und Missbrauch.
Diese vier dedizierten Engines befassen sich mit den wichtigsten GenAI-Risiken:
- Verhinderung von Prompt-Injektionen – Blockiert Prompt-Injektionen, Jailbreak-Versuche und manipulative Benutzereingaben.
- Verhinderung von Datenlecks – Verhindert, dass sensible oder vertrauliche Informationen durch Modellausgaben offengelegt werden.
- Inhaltskontrolle – Filtert unsichere, schädliche oder gegen Richtlinien verstoßende Inhalte, die von LLM generiert werden.
- Nutzungskontrolle – Erkennt Missbrauch, Missbrauchsmuster und ungewöhnlichen Ressourcen-Verbrauch.
Die Schicht basiert auf einer überwachten und skalierbaren Grundlage und wird durch Lakera ergänzt, um Widerstandsfähigkeit gegen bekannte und neu auftretende GenAI-Bedrohungen zu gewährleisten.
Die zweite Ebene geht tiefer und befasst sich mit dem spezifischen Verhalten der unternehmenseigenen Anwendungen oder API. Sie besteht aus Verfeinerungsmodulen, die sich kontinuierlich in Echtzeit anpassen:
- Benutzerverhalten – Vergleicht die Aktivitäten von Benutzern oder Agenten mit Basiswerten und erkennt Anomalien, die auf böswillige Absichten hindeuten.
- Crowd-Verhalten – Lernt aus vertrauenswürdigen Aktivitätsmustern und passt die Sicherheit automatisch an die Anwendung an.
- Vertrauenswürdige Benutzer – Beschleunigt den Schutz durch die Erstellung von Zulassungslisten mit sicheren, verifizierten Eingaben von vertrauenswürdigen Benutzern oder Agenten.
- Semantische Engine (zum Patent angemeldet) – Wendet unbeaufsichtigte semantische Analysen an, um die für die Anwendung spezifischen gültigen Eingabeaufforderungen zu verstehen, und erhöht so die Genauigkeit ohne manuelle Eingriffe.
Diese kontextbezogene Intelligenz hält die Anzahl der Fehlalarme nahezu bei Null und verbessert gleichzeitig mit jeder Interaktion kontinuierlich die Genauigkeit und den Schutz.
Die zentralen Elemente dieser integrierten Lösung:
- Sicherheit, die über 100 native Sprachen versteht.
- Außergewöhnliche Genauigkeit mit nahezu keinen Fehlalarmen.
- Keinerlei Anpassungen und Aufwand erforderlich.
- Sicherheit für GenAI-Apps, APIs und Agenten vom ersten Tag an.
Diese Erweiterung stellt einen wichtigen Meilenstein in der Vision von Check Point für seine umfassendere KI-Sicherheitsplattform dar. Diese besteht in einem einheitlichen Ansatz zum Schutz der Entwicklung, Bereitstellung und Nutzung von Künstlicher Intelligenz in Unternehmen. Durch die Kombination von Transparenz der Belegschaft, Abwehrmaßnahmen auf Anwendungsebene und Laufzeitschutz für autonome Systeme schafft Check Point eine durchgängige Schutzfläche, die sich von Mitarbeitern über Anwendungen bis hin zu Agenten erstreckt.
#CheckPoint
