Hacker nutzen Deepseek und Qwen bereits zur Entwicklung bösartiger Inhalte aus

Check Point Software Technologies sieht bereits den ersten Missbrauch der neuen KI-Modelle: nach dem Start von Deepseek und Qwen beobachteten Sicherheitsforscher von Check Point Research (CPR), dass Cyber-Kriminelle schnell von ChatGPT zu diesen neuen Plattformen wechselten, um bösartige Inhalte zu entwickeln. Hacker tauschen sich darüber aus, wie sie die Modelle manipulieren und unzensierte Inhalte anzeigen können und es gibt viele Methoden, um die Zensur von KI-Modellen zu entfernen. Dazu gehören ausführliche Anleitungen für Jailbreaking-Methoden, die Umgehung von Betrugsbekämpfungsmaßnahmen und die Entwicklung von Malware selbst.

Sowohl Qwen als auch Deepseek haben sich als leistungsstarke Werkzeuge zur Erstellung bösartiger Inhalte mit minimalen Einschränkungen erwiesen. Während ChatGPT in den letzten zwei Jahren erheblich in Missbrauchsschutzmaßnahmen investiert hat, scheinen diese neueren Modelle nur wenig Widerstand gegen Missbrauch zu bieten. Dies weckt das Interesse von Angreifern auf verschiedenen Ebenen, insbesondere von weniger qualifizierten, die vorhandene Skripte oder Tools ohne tiefes Verständnis der zugrunde liegenden Technologie nutzen.

Es ist aber wichtig, zu betonen, dass trotz der Missbrauchsschutzmechanismen von ChatGPT bereits unzensierte Versionen von ChatGPT in verschiedenen Repositories im Dark-Net verfügbar sind. In dem Maße, in dem jedoch diese neuen KI-Modelle an Popularität gewinnen, ist zu erwarten, dass ähnliche unzensierte Versionen von Deepseek und Qwen auftauchen werden, was die damit verbundenen Risiken weiter erhöht.

Cyber-Kriminelle haben wiederholt mit Hilfe von Qwen verschiedene Infostealer erstellt, die vor allem darauf aus sind, sensible Informationen von ahnungslosen Benutzern abzufangen.

Jailbreaking-Prompts

Jailbreaking bezieht sich auf Methoden, die es Nutzern ermöglichen, KI-Modelle zu manipulieren, um unzensierte oder uneingeschränkte Inhalte zu erzeugen. Diese Taktik hat sich zu einer bevorzugten Technik entwickelt, um die KI-Funktionen für böswillige Zwecke nutzen zu können.

Auf dem folgenden Bildschirmfoto zeigen Cyber-Kriminelle, wie sie Deepseek zum Jailbreak auffordern und die Reaktionen des Modells manipulieren können, darunter Methoden wie die Do Anything Now-Methode und Techniken wie die Plane-Crash-Survivors-Methode.

Bypassing Banking-Protections

Es wurden mehrere Chat-Diskussionen über Techniken zur Verwendung von DeepSeek zur Umgehung der Schutzmaßnahmen von Bankensystemen gefunden, was auf das Potenzial für einen erheblichen Finanzdiebstahl hinweist.

.

Verteilung von Spam in Massen

Cyber-Kriminelle nutzen drei KI-Modelle – ChatGPT, Qwen und DeepSeek – um Skripte für die massenhafte Verbreitung von Spam zu optimieren und so die Effizienz ihrer bösartigen Aktivitäten zu steigern.

Die dunkle Seite der fortgeschrittenen KI-Tools

Der Aufstieg von KI-Modellen wie Qwen und Deepseek markiert einen besorgniserregenden Trend in der Cyber-Welt, wo hochentwickelte Tools zunehmend für böswillige Zwecke missbraucht werden. Da Hacker fortschrittliche Techniken wie Jailbreaking einsetzen, um Schutzmaßnahmen zu umgehen und Informationsdiebstahl, Finanzdiebstahl und Spam-Verbreitung zu entwickeln, müssen Unternehmen dringend präventive Schutzmaßnahmen gegen diese sich entwickelnden Bedrohungen implementieren, um einen robusten Schutz zu gewährleisten.

Info: Der vollständige Bericht lässt sich via nachfolgendem Link einsehen: https://blog.checkpoint.com/artificial-intelligence/cpr-finds-threat-actors-already-leveraging-deepseek-and-qwen-to-develop-malicious-content/

#CheckPoint