Unternehmen, die künstliche Intelligenz in ihre Angebote integrieren, beschleunigen die Innovation, aber viele sind nicht auf die damit verbundenen Sicherheitsherausforderungen vorbereitet. Sie übersehen oft die Risiken von Modellmanipulationen und feindlichen Angriffen – Bedrohungen, für die traditionelle Verteidigungssysteme nicht gerüstet sind, um diese zu erkennen oder zu stoppen. Gleichzeitig ringen viele Führungskräfte immer noch mit der Frage, wie sie künstliche Intelligenz in ihren Umgebungen auf sichere Weise einsetzen können. In dem Ausmaß und der Geschwindigkeit, in der KI tief in Unternehmen und kritische Infrastrukturen eingebettet wird, nehmen die Risiken schnell und in globalem Maßstab zu.
Um Unternehmen bei der Bewältigung dieser Risiken zu unterstützen und ihnen dabei zu helfen, die Kontrolle zurückzuerlangen, startet das SANS Institute eine wichtige Initiative. Dazu gehört die bevorstehende Veröffentlichung der „Critical AI Security Guidelines v1.0″, ein praktisches, betriebsorientiertes Rahmenwerk für Sicherheitsverantwortliche, die KI-Systeme jetzt absichern müssen. Die Richtlinien werden erstmals auf dem SANS AI Summit 2025 am 31. März vorgestellt und konzentrieren sich auf sechs kritische Bereiche: Zugriffskontrollen, Datenschutz, Bereitstellungsstrategien, Inferenzsicherheit, Überwachung sowie GRC (Governance, Risk, Compliance). Sie wurden entwickelt, um Sicherheitsteams und Führungskräften eine klare, praktische Anleitung für den Schutz von KI-Systemen in realen Umgebungen zu geben. Jeder Abschnitt enthält umsetzbare Empfehlungen, die Unternehmen dabei helfen, die mit modernen Künstliche-Intelligenz-Technologien verbundenen Risiken zu erkennen, abzumindern und zu verwalten. Nach ihrer Veröffentlichung werden die Richtlinien für das Feedback der Community freigegeben, so dass Praktiker, Forscher und Experten Erkenntnisse und Aktualisierungen beisteuern können.
„Wir beobachten, dass Unternehmen große Sprachmodelle, Retrieval-Augmented Generation (RAG) und autonome Agenten schneller einsetzen, als sie sie sichern können“, sagt Rob T. Lee, Chief of Research und Co-Chair des SANS AI Summits. „Diese Richtlinien wurden für den aktuellen Stand der Technik entwickelt. Sie sind keine Theorie, sondern für Security-Analysten und Führungskräfte verfasst worden, die diese Systeme schon heute schützen müssen.“
KI-Technologien sind für jeden Aspekt eines Unternehmens von zentraler Bedeutung. Aus diesem Grund war der Bedarf an Open-Source-Tools zur Unterstützung von Sicherheitsteams und neuen Funktionen zur Absicherung von KI noch nie so groß. Der „SANS AI Cybersecurity Hackathon“ lud daher die Cybersecurity-Community von Mitte Februar bis Mitte März dazu ein, Open-Source-Tools zu entwickeln, die direkt auf die neuen Sicherheitsrichtlinien abgestimmt sind. Die Veranstaltung forderte die Teilnehmer heraus, innovative Sicherheitslösungen und Monitoring für Inferenzprozesse zu entwickeln. Sie mussten Angriffe abwehren und Schwachstellen in Modellen der künstlichen Intelligenz beheben. Die während des Hackathons entwickelten Tools werden auf dem KI-Summit vorgestellt und bieten Unternehmen praxisnahe Lösungen.
„Wir brauchen mehr Experten, die verstehen, wie KI funktioniert und wie man sie verteidigt“, sagt Kate Marshall, SANS AI Hackathon Director und Co-Chair des SANS AI Summits. „Es geht nicht nur um die Entwicklung von Tools, sondern auch um Talenten eine Bühne zu geben. Genau das brauchen wir, um KI-Systeme für die Zukunft abzusichern.“
Der Hackathon ist ein wichtiger Schritt, um den wachsenden KI-Skills-Gap zu schließen. Er bietet den Teilnehmern praktische Erfahrungen und direkte Betreuung durch führende KI-Sicherheitsexperten. Angesichts der wachsenden Nachfrage nach KI-Sicherheitsexperten sind Initiativen wie diese von entscheidender Bedeutung, um sicherzustellen, dass die Talentpipeline den Anforderungen der Branche gerecht wird. Die Gewinner-Tools werden nicht nur bekannt gemacht und unterstützt, sondern werden auch zu einem wichtigen Bestandteil für die effektive Umsetzung von Sicherheitsrichtlinien in Unternehmen.
„Wir haben einen Punkt erreicht, an dem diese Art von Arbeit nicht mehr optional ist“, erklärt Rob T. Lee. „Die Branche brauchte etwas Zentrales, einen vertrauenswürdigen Ort für KI-Sicherheit. Wir brauchen echte Kontrollen, echte Werkzeuge und eine Möglichkeit, die Fähigkeiten zu entwickeln, die die Welt schützen werden. Das ist es, worum es hier geht. Es geht nicht um SANS. Es geht darum, als Gemeinschaft zusammenzukommen.“
Info:
AI Security Guidelines: https://www.sans.org/mlp/critical-ai-security-guidelines/
AI Summit 2025 am 31. März: https://www.sans.org/cyber-security-training-events/ai-summit-2025/
#SANSInstitute
powered by Borlabs Cookie 