KI-basiertes Wettrüsten geht in die nächste Runde 

Kurz vor Ende des Jahres ist es für Watchuard  wie immer an der Zeit, den Blick in die Zukunft zu richten und potenzielle Angriffstrends sowie Entwicklungen im IT-Security-Umfeld in den Fokus zu rücken. So räumt das Watchguard-Threat-Lab unter anderem bösartigen Prompt-Engineering-Tricks, die auf Large-Language-Models (LLM) abzielen, 2024 große Chancen beim Unruhestiften ein. Das gleiche gilt für „Vishers“, die ihre bösartigen Operationen mit KI-basierten Sprach-Chatbots ausweiten, und Hacker, die es auf moderne VR/MR-Headsets abgesehen haben. Aber auch auf der Gegenseite wird sich dank zunehmender Automatisierung ganz sicher einiges verändern. Es zeichnet sich deutlich ab, dass im Zuge der zunehmenden Komplexität bei der Absicherung von Unternehmen und dem voranschreitenden Fachkräftemangel professionelle Managed-Security-Services auf Basis integrierter Sicherheitsplattformen immer stärker an Schlagkraft gewinnen.

Corey Nachreiner, Chief Technology Officer bei Watchguard Technologies

„Jeder neue Technologietrend eröffnet neue Angriffsmöglichkeiten für Cyberkriminelle“, unterstreicht Corey Nachreiner, Chief Security Officer bei Watchguard. „Im Jahr 2024 werden die neuen Bedrohungen, die auf Unternehmen und Privatpersonen abzielen, noch schwieriger zu bewältigen sein und insbesondere an den Kräften von kleinen und mittelständischen Unternehmen zehren. Angesichts des anhaltenden Fachkräftemangels im Bereich der Cybersicherheit ist der Bedarf an Managed-Service-Providern (MSP), aufeinander abgestimmten Sicherheitslösungen und automatisierten Plattformen zur Stärkung der Cybersicherheit und zum Schutz von Unternehmen vor der sich ständig weiterentwickelnden Bedrohungslandschaft so groß wie nie zuvor.“

Die wichtigsten Vorhersagen des Watchguard-Threat-Lab im Überblick:

Prompt-Engineering überlistet Large-Language-Models (LLM): Das Experimentieren mit KI-Sprachmodellen ist inzwischen sowohl im Privat- als auch Unternehmensumfeld gang und gäbe, schließlich versprechen diese im Alltag entscheidende Unterstützung. Aber auch Cyberbösewichte wissen diesen Trend zu ihrem eigenen Vorteil auszuspielen. Insofern hält das Watchguard-Threat-Lab ein Szenario, in dem ein cleverer Prompt-Engineer – sei es ein krimineller Angreifer oder ein Forscher – den Code knacken und ein LLM so manipulieren wird, dass vertrauliche Daten durchsickern, in den kommenden Monaten für durchaus realistisch.

Zahl der von MSP über automatisierte Plattformen bereitgestellten Security-Services wird sich verdoppeln: Angesichts von rund 3,4 Millionen freien Stellen im IT-Security-Umfeld und des verbitterten Kampfs um Fachkräfte werden 2024 bei der IT-Absicherung immer mehr kleine und mittelständische Unternehmen Unterstützung bei professionellen Dienstleistern (Managed-Service-Provider oder Managed-Security-Service-Provider) suchen. Um der steigenden Nachfrage und den knappen Personalressourcen gerecht zu werden, werden diese wiederum verstärkt auf einheitliche Sicherheitsplattformen setzen, die auf umfangreicher Automatisierung mithilfe künstlicher Intelligenz (KI) und maschinellem Lernen (ML) basieren.

Verkauf von KI-Spear-Phishing-Tools im Dark Web erlebt Boom: Bereits heute können Cyberkriminelle im Untergrund Werkzeuge erhalten, die Spam-E-Mails versenden, automatisiert überzeugende Texte verfassen und das Internet und die sozialen Medien nach Informationen und Verbindungen eines bestimmten Ziels durchsuchen. Viele davon sind heute noch auf manuelle Anwendung ausgelegt und setzen voraus, dass ein Angreifer zu einem Zeitpunkt jeweils einen Nutzer oder eine spezifische Gruppe ins Visier nimmt. Doch genau diese bisher händischen Schritte werden künftig dank künstlicher Intelligenz und maschinellem Lernen ebenfalls immer stärker automatisiert erfolgen. Umso wahrscheinlicher ist es, dass sich diese neuen KI-gestützten Tools im Jahr 2024 zu Bestsellern im Dark Web entwickeln.

2024 erfolgt Startschuss für KI-gestützten Telefonbetrug (Vishing): Voice-over-Internet-Protocol (VoIP) und Automatisierungstechnologie machen es zwar einfach, Tausende von Nummern in Massen anzuwählen, aber sobald ein potenzielles Opfer mit einem Anruf geködert wurde, ist immer noch ein menschlicher Betrüger nötig, um es endgültig in die Falle zu treiben. Dieser bisherige Vishing-Flaschenhals könnte 2024 der Vergangenheit angehören. WatchGuard prognostiziert, dass die Kombination aus überzeugendem Deepfake-Audio und LLM, die in der Lage sind, weiterführende Gespräche mit ahnungslosen Opfern zu führen, Vishing-Anrufe massiv befeuert. Darüber hinaus ist möglicherweise nicht einmal mehr die Beteiligung eines menschlichen Bedrohungsakteurs erforderlich.

VR/MR-Headsets ermöglichen die Nachbildung von Benutzerumgebungen: Headsets für Virtual- und Mixed-Reality (VR/MR) erfreuen sich zunehmender Beliebtheit. Doch wo immer neue und nützliche Technologien auftauchen, sind auch kriminelle Hacker meist nicht weit. Die Experten vom Watchguard-Threat-Lab erwarten, dass im Jahr 2024 entweder ein Forscher oder ein böswilliger Hacker eine Technik finden wird, um einschlägige Sensordaten von VR/MR-Headsets zu sammeln, auf deren Basis sich  die tatsächliche Umgebung, in der die Benutzer spielen, nachempfinden lässt. Dem Missbrauch dieser Informationen stehen damit Tür und Tor offen.

Ausufernder Einsatz von QR-Codes führt zu schlagzeilenträchtigem Angriff: Obwohl es QR-Codes – die eine bequeme Möglichkeit bieten, per Mobilgerät auf einen Link zuzugreifen – schon seit Jahrzehnten gibt, sind diese gerade in letzten Jahren im Mainstream angekommen und finden sich heute beinahe überall wieder. Für die Analysten vom Threat-Lab stehen die Chancen extrem hoch, dass es im Jahr 2024 zu einem großen Hack kommen wird, weil jemand einem QR-Code folgt, der zu einem bösartigen Ziel führt.

Info: Detailliertere Ausführungen zu den Vorhersagen des Watchguard-Threat-Lab für das kommende Jahr und die dazugehörigen Videos mit Corey Nachreiner, CSO von WatchGuard, und Marc Laliberte, Director of Security Operations, finden sich unter: https://www.watchguard.com/wgrd-resource-center/cyber-security-predictions-2024

#Watchguard