Qualys erweitert sein Portfolio um „Qualys TotalAI“, das auf die wachsenden Herausforderungen und Risiken im Zusammenhang mit der Absicherung von generativen KI- und Large-Language-Model-Anwendungen (LLM) ausgerichtet ist. Die Lösung wird auf der Black Hat 2024 vorgestellt.
Da Unternehmen zunehmend KI und LLM in ihre Produkte und Lösungen integrieren, sind sie mit einer erweiterten Angriffsfläche und erhöhten Cyberrisiken konfrontiert. Herkömmliche Cybersicherheitspraktiken erweisen sich als unzureichend, um diese neuen Herausforderungen zu bewältigen. Die Notwendigkeit, unbekannte oder nicht zugelassene LLMs oder KI-Modelle, sogenannte Schattenmodelle, zu entdecken, erhöht die Gefährdung durch Bedrohungen erheblich, einschließlich Modelldiebstahl und Datenlecks durch bestehende CVEs oder Fehlkonfigurationen. Darüber hinaus steigt das Risiko eines versehentlichen Datenverlusts, von Compliance-Problemen und einer Schädigung des Rufs aufgrund von unangemessenen Inhalten und KI-Halluzinationen, die von diesen Modellen erzeugt werden. Diese Bedenken unterstreichen den dringenden Bedarf an robusten Sicherheitslösungen in der sich entwickelnden KI-Landschaft.
Qualys-TotalAI nutzt die leistungsstarken Funktionen, für die die Qualys-Plattform bekannt ist, um Unternehmen bei der sicheren Einführung von KI-Technologien zu unterstützen. Sie erweitert die bekannten Qualys-Funktionen für Asset-Transparenz, Schwachstellenerkennung und -beseitigung auf generative KI und fügt LLM-Scans hinzu. Die Lösung adressiert speziell die OWASP Top 10 der kritischsten Risiken für LLM-Anwendungen: Prompt-Injection, Offenlegung sensibler Informationen und Modell-Diebstahl. Mit Qualys-TotalAI können Unternehmen auf sichere Weise die Vorteile von KI nutzen und gleichzeitig strenge Sicherheitsstandards einhalten.
„Da die weltweite Einführung von KI und großen Sprachmodellen (LLMs) schneller voranschreitet als Governance- und Sicherheitsmaßnahmen, ist es für Unternehmen von entscheidender Bedeutung, robuste Schutzmaßnahmen zu implementieren“, sagt Philip Bues, Senior Research Manager bei IDC. „Qualys-TotalAI konzentriert sich darauf, Unternehmen die Werkzeuge an die Hand zu geben, die sie benötigen, um ihre KI-Investitionen zuverlässig zu sichern, und bietet umfassende Transparenz und Schutz vor aufkommenden Cyber-Bedrohungen.“
Qualys TotalAI ermöglicht es Unternehmen:
- Erkennen aller KI-Workloads: Erkennen, inventarisieren und klassifizieren Sie alle KI- und LLM-Ressourcen, einschließlich GPUs, Software, Pakete und Modelle in der Produktion und Entwicklung, und setzen Sie ihre Exposition mit der Angriffsfläche in Beziehung.
- Verhindern von Modell-Diebstahl: Erweiterung von „TruRisk“, um Schwachstellen in KI-Software zu bewerten, zu priorisieren und zu beheben, und zwar mit über 650 KI-spezifischen Erkennungen, die mit Bedrohungsmeldungen und Asset-Exposures korreliert sind, um das Risiko von Modell- und Datendiebstahl zu verhindern.
- Sichere KI-Infrastruktur: Nutzung umfassender Abhilfemaßnahmen, um Sicherheitsanforderungen zu übertreffen, SLAs einzuhalten und Geschäftsanforderungen zu erfüllen. Proaktive Entschärfung potenzieller Bedrohungen, um einen reibungslosen Betrieb und eine starke KI- und LLM-Sicherheitslage zu gewährleisten.
- Erkennung von Offenlegung sensibler Daten: Bewertung von LLMs auf kritische Angriffsrisiken wie Prompt-Injection, Offenlegung sensibler Daten und Modelldiebstahl gemäß den OWASP Top 10 für LLMs. Dies sorgt für Vertrauen in das KI-Risikomanagement und macht die Modelle prüfungs- und konformitätsfähig.
„Wir befinden uns gerade erst an der Oberfläche des Potenzials von KI und LLM, um den Wert für Unternehmen zu steigern. Gleichzeitig müssen wir diese aufkeimende Entwicklung absichern, damit sie keine neuen Risiken für das Unternehmen mit sich bringt“, sagt Sumedh Thakar, Präsident und CEO von Qualys. „Mit Qualys-TotalAI können sich Unternehmen auf Wachstum und Innovation konzentrieren, weil sie wissen, dass sie vor den wichtigsten KI-Bedrohungen geschützt sind.“
Qualys-TotalAI wird im 4. Quartal 2024 verfügbar sein.
Qualys
