Künstliche Intelligenz (KI), besonders die Generative (GenKI), ist einerseits Segen, weil sie viele Prozesse vereinfacht und damit der IT-Sicherheit gehörig unter die Arme greifen kann, aber andererseits Fluch, weil sich auch Hacker ihrer bedienen können. Besonders gefährlich dabei sind Deepfakes, täuschend echte Videos von Personen, die mit Hilfe von GenKI erstellt werden können.
Die einfache Erstellung von Deepfakes
Mit dem Aufkommen von GenKI-Tools ist die Erstellung überzeugend gefälschter Fotos, Videos und Tonaufnahmen erschreckend einfach geworden. Mit nur wenigen Sekunden aufgenommenen Tons oder Bildern als Quelle, kann ein Deepfake so gut erstellt werden, dass selbst die wachsamsten Augen getäuscht werden könnten. Ebenso beunruhigend ist die Tatsache, dass diese Technologie nun erschwinglich und leicht zugänglich ist, da im Dark-Web sogar Dienste zur Erstellung dieser Fälschungen angeboten werden.
Das Erkennen solcher Fälschungen erfordert eine scharfe Beobachtungsgabe und eine gewisse Skepsis. Wenn man beispielsweise während eines Videogesprächs die Person bittet, den Kopf zu drehen, könnte man die Grenzen der KI bei der Nachbildung des Hinterkopfs einer Person erkennen. Wichtig ist außerdem die Verifizierung über lizenzierte Unternehmenskonten und die direkte Kommunikation bei verdächtigen Anfragen. Zuletzt ist KI sicherlich die Ursache, andererseits aber auch das beste Mittel zur Bekämpfung dieser Problematik, denn sie kann auch helfen, solche mit KI erstellten Deepfakes zu entlarven.
Unternehmen müssen sich für einen vielschichtigen Ansatz entscheiden. Dazu gehört: die Implementierung eines KI-gestützten E-Mail-Schutzes zum Blockieren von Phishing-E-Mails, die Aufklärung der Mitarbeiter über mögliche Betrügereien und die Einführung strenger Finanzrichtlinien zur Verhinderung unautorisierter Transaktionen.
Angesichts der Tatsache, dass Cyber-Kriminalität, als Ganzes betrachtet, inzwischen die drittgrößte Wirtschaftsmacht der Welt geworden ist, schlagen Regulierungsbehörden wie die Federal Trade Comission (FTC, Bundeshandelskommission der USA) neue Schutzmaßnahmen gegen KI-Imitationen vor. Die Dringlichkeit wird außerdem dadurch unterstrichen, dass die Amerikaner allein im Jahr 2023 rund 10 Milliarden US-Dollar durch Betrug verloren haben. Hinzu kommt das KI-Gesetz der Europäischen Union (EU), wodurch innerhalb der Ländergemeinschaft ein Rahmen für den Umgang mit KI geschaffen werden soll.
Bei der Bekämpfung von Deepfakes geht es nicht nur um technologische Schutzmaßnahmen, sondern auch um die Förderung einer Kultur der Wachsamkeit und Aufklärung innerhalb von Einrichtungen, Behörden und Unternehmen. Um dies zu erreichen, sind einerseits gesetzgeberische Vorstöße nötig und andererseits Anpassungsvorgänge innerhalb der Unternehmen, um die Sicherheitslösungen und sämtliche Prozesse an die Gegebenheiten anzupassen.
#CheckPoint
