KI hat verändert, wie wir Code schreiben, Bedrohungen analysieren und Aufgaben erledigen – und das schneller, als es noch vor wenigen Jahren jemand für möglich gehalten hätte. Zum AI-Appreciation-Day am 16. Juli rief dessen Initiator dazu auf, künstliche Intelligenz „menschlich zu behandeln, durchdacht zu entwickeln und bewusst zu würdigen“. Doch im Kern ist KI eine Technologie wie jede andere. Weil sie ein künstliches Abbild menschlicher Intelligenz sein will und auf Ideen und Werken aus Jahrhunderten menschlichen Schaffens aufbaut, verleitet sie manche dazu, sie stärker zu vermenschlichen als andere Technologien.
Ob wir sie deshalb wertschätzen müssen, ist fraglich. Eines aber teilt sie unbestreitbar mit dem Menschen: ihr ambivalentes Potenzial – für Schöpfung wie für Zerstörung. Wie tief dieser Zwiespalt reicht, zeigt ein paradoxer Umstand: IT-Sicherheitsverantwortliche setzen KI längst ein, um KI-gesteuerte Angriffe abzuwehren.
Der kürzlich veröffentlichte „AI Security Report 2026″ macht eines deutlich: Genau die Eigenschaften, die wir heute so schätzen, machen KI auch zu einem mächtigen Werkzeug für Angreifer. Wer KI würdigen will, muss sie ehrlich und kritisch betrachten – und dazu gehören die folgenden Erkenntnisse.
KI unterstützt nicht mehr, sondern übernimmt die Kontrolle
Noch vor einem Jahr galt KI als „Katalysator“ für Angreifer – als Mittel, um bekannte Methoden schneller und günstiger anzuwenden. Diese Sicht greift heute zu kurz. Der Report dokumentiert Angriffe, bei denen KI mit minimaler menschlicher Anleitung ganze Exploit-Abläufe ausführte und dabei eigenständig Tausende Befehle über Dutzende Sitzungen hinweg erzeugte. In einem Fall erstellte eine einzelne Person mit einem kommerziellen KI-Coding-Tool in weniger als einer Woche rund 88.000 Zeilen funktionsfähige Command-and-Control-Malware – Arbeit, die zunächst nach einem mehrköpfigen Team und mehreren Monaten aussah.
Ein im Report ausführlich beschriebener Angriff auf die mexikanische Regierung zeigt dasselbe Muster: Eine einzelne Person kombinierte „Claude Code“ und „GPT-4.1″, um neun Behörden zu kompromittieren. Aus rund 1.000 eingegebenen Anweisungen entstanden über 5.300 von der KI ausgeführte Befehle. Die KI half nicht nur, den Angriff zu planen. Sie führte ihn auch aus.
Wer künstliche Intelligenz nutzt, muss auch die Angriffsfläche kennen
Dieselben Fähigkeiten, die KI-Agenten so nützlich machen – Dokumente lesen, im Web recherchieren, sich an Tools anbinden –, machen sie auch angreifbar. Versteckte Anweisungen auf einer Webseite oder in einer Kalendereinladung können das Verhalten eines Agenten manipulieren. Konfigurationsdateien, denen Coding-Agenten automatisch vertrauen, können zum Einfallstor für Malware werden. Rund 40 Prozent der 10.000 untersuchten MCP-Server wiesen Sicherheitslücken auf, und in veröffentlichten Code-Paketen lagen aktive Zugangsdaten in großem Umfang offen.
Die Daten zeigen außerdem: Unternehmen setzen inzwischen im Schnitt zehn verschiedene KI-Anwendungen pro Monat ein – viele davon ohne formellen Genehmigungsprozess. Riskante GenAI-Prompts, die sensible Unternehmensdaten, personenbezogene oder regulierte Informationen an externe KI-Dienste weitergeben, haben sich im vergangenen Jahr von zwei auf vier Prozent verdoppelt. Und zwischen 87 und 93 Prozent der Unternehmen verzeichneten jeden Monat mindestens eine riskante GenAI-Interaktion.
Die Konsequenz ist nicht, auf KI zu verzichten. Sie ist eine Erinnerung: Hype ohne Governance ist nichts anderes als eine gut vermarktete Sicherheitslücke.
Wie verantwortungsbewusster Umgang mit KI tatsächlich aussieht
Bei der Bewertung von Abwehrmaßnahmen sollten Unternehmen KI wie einen echten Angreifer behandeln, nicht wie ein Werkzeug im Hintergrund. Denn KI-Agenten sind nicht mehr nur Arbeitsassistenten – sie sind selbst zum Ziel geworden. Prompt-Injections, manipulierte Konfigurationen und Angriffe auf den Laufzeitspeicher sind längst keine Theorie mehr.
Sicherheitsverantwortliche müssen die KI-Nutzung deshalb genauso steuern wie jedes andere System zur Datenverarbeitung. Denn Mitarbeitende senden längst täglich sensible Informationen an externe KI-Tools – ob es dafür Richtlinien gibt oder nicht. Auf Bedrohungen in KI-Geschwindigkeit gehört eine Antwort in KI-Geschwindigkeit, d. h. Antworten ohne signifikante Latenz. Eine Schwachstelle kann heute binnen Stunden von der Offenlegung zum schweren Exploit werden. Teams, die nur im menschlichen Tempo arbeiten, kommen da allein nicht mit.
Es braucht daher ein KI-Sicherheitsportfolio aus drei Bausteinen: Sicherheit für KI-Agenten, KI-Red-Teaming und Schutzmechanismen, die dazu passen, wie Mitarbeitende KI-Tools tatsächlich nutzen. Den Nutzen von KI zu würdigen, ergibt nur Sinn, wenn man sie nicht blauäugig, sondern mit Bedacht in bestehende Prozesse einführt. Künstliche Intelligenz und ihre Absicherung sind keine konkurrierenden Prioritäten – sie sind ein und dieselbe Aufgabe. Was man wertschätzt, muss man schützen. Das gilt nicht nur für KI-Tools, sondern vor allem für Daten, personenbezogene Informationen und die Menschen, die mit KI Mehrwert schaffen sollen.
Von Thomas Boele, Global Director, Solutions Engineering – AI Security, Check Point
