Das Unit-42-Team von Palo Alto Networks hat drei Jailbreaking-Techniken „Deceptive Delight“, „Bad Likert Judge“ und „Crescendo“ bei Deepseek-Modellen getestet. Während anfängliche Antworten oft harmlos erschienen, konnten die Sicherheitsforscher mit Folgeaufforderungen erfolgreich die Sicherheitsmechanismen des LLM umgehen. Deepseek hat eine Reihe schädlicher Informationen geteilt, die von detaillierten Anleitungen zur Herstellung gefährlicher Objekte bis hin zur Generierung von Schadcode reichten.
Unit 42 hat eine umfassende Analyse veröffentlicht – hier die wichtigsten Erkenntnisse im Überblick:
- Bad-Likert-Judge: Durch gezielte Nachfragen und weiterführende Prompts konnte Deepseek zunehmend manipuliert werden. Die Antworten gingen über theoretische Konzepte hinaus und boten praktische Schritt-für-Schritt-Anleitungen zur Erstellung von Keyloggern, Datenexfiltration und Phishing-Methoden, die von böswilligen Akteuren ohne Weiteres verwendet und übernommen werden konnten.
- Crescendo: Durch die schrittweise Eskalation von Anfragen mit verketteten und verwandten Aufforderungen begann Deepseek immer detailliertere Anweisungen zu geben. Das Modell lieferte am Ende eine umfassende Anleitung zum Bau eines Molotow-Cocktails, die ohne spezielle Kenntnisse oder Hilfsmittel leicht umsetzbar war.
- Deceptive-Delight: Eingebettet in eine vermeintlich harmlose Unterhaltung hat Deepseek ein detailliertes Skript bereitgestellt, das auf dem Distributed-Component-Object-Model (DCOM) basiert, um Befehle aus der Ferne auf Windows-Rechnern auszuführen. Deepseek konnte dazu gebracht werden, Code sowohl für die anfängliche Kompromittierung (SQL-Injection) als auch die nachfolgende Ausnutzung (Lateral-Movement) zu generieren.
Der Erfolg der drei Jailbreaking-Techniken lässt auf die potenzielle Wirksamkeit anderer, noch unentdeckter Jailbreaking-Methoden schließen.
Info: Weitere Informationen finden sich im (englischsprachigen) Blogpost von Palo Alto Networks: https://unit42.paloaltonetworks.com/jailbreaking-deepseek-three-techniques/
#PaloAltoNetworks
