„Eine Universität in Illinois, USA, hat nun berichtet, dass GPT-4 in der Lage ist, Schwachstellen schlicht dadurch auszunutzen, dass es deren Sicherheitsbeschreibung liest und seine Schlüsse daraus zieht. In 13 von 15 Fällen, wobei sogar CVEs zum Einsatz kamen, also wirklich kritische Schwachstellen, war die KI erfolgreich, eigenständig Reverse-Engineering zu betreiben. Das ist zwar keine Fähigkeit, die ein sehr guter Hacker nicht auch besitzt, aber die Geschwindigkeit ist hier entscheidend. Zudem ist es laut den Forschern ein technologischer Quantensprung im Vergleich zu den Vorgängermodellen, wie beispielsweise GPT-3.5.
Darüber hinaus wurden in dem Experiment auch Schwachstellen benutzt, die erst nach dem Training von GPT-4 bekannt wurden, mit denen die KI also erstmalig konfrontiert wurde. Wenn man den Gedanken weiterspinnt und davon ausgeht, dass Hacker versuchen werden, auch diese Fähigkeit für den Masseneinsatz zu missbrauchen, dann wartet hier die nächste Welle an KI-gestützten IT-Attacken auf die Welt. Umso wichtiger ist es, erneut zu betonen, dass Unternehmen und Behörden, Krankenhäuser und Einrichtungen eine konsolidierte IT-Sicherheitsarchitektur implementieren sollten, während die Politik sich Gedanken darüber machen muss, mit welchen Regularien sie den Missbrauch von KI-Technologie bekämpfen kann.“
#CheckPoint
