Menschen am Telefon sind äußerst anfällig für KI-gestützte Vishing-Angriffe, bei denen künstliche Intelligenz eingesetzt wird, um Menschen gezielt zu täuschen und vertrauliche Informationen zu erlangen. Die Bedrohung durch solche modernen Technologien wird besonders deutlich, wenn man sieht, wie effektiv Angreifer in der Lage sind, automatisierte Phishing-Bots einzusetzen. Eine aktuelle Studie, die im Rahmen des DEFCON Social Engineering Village Capture the Flag (CTF)-Wettbewerbs durchgeführt wurde, hat eindrucksvoll bewiesen, wie erfolgreich diese Bots agieren können.
Der Wettbewerb: Mensch gegen KI
Im Rahmen des Wettbewerbs traten Teams aus Menschen und KI-Bots gegeneinander an, um herauszufinden, wem es besser gelingt, durch Vishing an sensible Informationen zu gelangen. Die KI-Bots zeigten beeindruckende Fähigkeiten: Sie führten flüssige Gespräche, scherzten mit den Zielpersonen und reagierten flexibel auf unerwartete Situationen. In nur 22 Minuten sammelten sie 17 Zielobjekte – mehr als das menschliche Team, welches 12 erreichte. Dennoch gewann das menschliche Team den Wettbewerb, was auf eine ausgeklügelte Strategie und den Einsatz eines besonders überzeugenden Vorwands zurückzuführen war.
Das Ergebnis zeigt, dass nicht das Vertrauen in den menschlichen Anrufer entscheidend war, sondern vielmehr die gewählte Strategie. Dass die KI so gut abgeschnitten hat, zeigt, dass mit der richtigen Konfiguration und Vorarbeit auch künstliche Intelligenzen täuschend echt agieren können.
Leicht zugängliche Technologie – ein Risiko für die Sicherheit
Besonders alarmierend ist die Tatsache, dass die für diesen Test verwendeten Technologien einfach und kostengünstig zu erwerben sind. Sämtliche Komponenten wurden mit handelsüblichen Softwarelösungen erstellt, die für jeden zugänglich sind. Diese Entwicklung stellt eine ernsthafte Bedrohung dar, da hochgradig täuschende Systeme nun potenziell von einer breiten Masse genutzt werden können. Die KI, die für den Test verwendet wurde, benötigte keine aufwendige Manipulation, um zu funktionieren. Die eingesetzten Methoden waren einfach und effektiv – und dennoch konnten sie massive Täuschungspotenziale entfalten. Die Fähigkeit, täuschend echt zu klingen, lässt die Grenze zwischen Mensch und Maschine verschwimmen. Die Opfer dieser Vishing-Angriffe hatten keinerlei Zweifel an der Echtheit der Anrufer.
Ein Weckruf für die Cybersicherheitsbranche
Die Ergebnisse dieses Experiments verdeutlichen die immensen Risiken, die KI-basierte Täuschungsangriffe für Unternehmen und Privatpersonen mit sich bringen. Die Fähigkeit von KI-Systemen, Täuschung im großen Maßstab durchzuführen, stellt eine fundamentale Veränderung im Bereich Social-Engineering dar. Diese Systeme können ununterbrochen arbeiten, machen keine Fehler durch Nervosität und sind in der Lage, unzählige Menschen gleichzeitig anzugreifen.
Besonders beunruhigend ist die Tatsache, dass die KI in einem realen Szenario den Turing-Test bestanden hat: Die Angerufenen konnten nicht zwischen Mensch und Maschine unterscheiden. Diese neue Dimension der Täuschung unterstreicht die Dringlichkeit, sich mit den Risiken und Herausforderungen moderner Technologien auseinanderzusetzen.
Sicherheitsbewusstsein in Zeiten von KI
Diese Erkenntnisse sollten ein dringender Weckruf sein. Wir stehen am Beginn einer neuen Ära der digitalen Täuschung, in der künstliche Intelligenz eine zentrale Rolle spielt. Die Frage ist nicht mehr, ob KI Menschen überzeugend imitieren kann, sondern wie wir als Gesellschaft auf diese neue Realität reagieren. Es ist entscheidend, dass Unternehmen und Privatpersonen ihr Sicherheitsbewusstsein schärfen und die Sensibilität für moderne Bedrohungen, wie KI-gestützte Angriffe, erhöhen. Ein starkes Sicherheitsbewusstsein und kontinuierliche Schulungen sind entscheidende Mittel, um in einer Welt voller moderner Cyberbedrohungen und Täuschungen bestehen zu können.
Von Dr. Martin J. Krämer, Security Awareness Advocate bei KnowBe4
