Seit 2. August sind weite Teile des EU-AI-Act durchsetzbar. Es steht aber zu befürchten, dass sich gerade Fake-Content-Urheber oder Cyberkriminelle nicht an die zu begrüßenden Vorgaben halten werden. Daher wird es in Zukunft vor allem auch auf die Möglichkeiten einer unabhängigen Verifizierung ankommen. Eine Einschätzung zur Regulierung von KI-Inhalten gibt Statement von Tiberiu Cobzaru, Product Manager bei Bitdefender.
„Wir begrüßen die neuen Transparenzvorgaben des EU-AI-Acts für KI-generierte Inhalte. Die Verpflichtung, diese entsprechend zu kennzeichnen, ist ein wichtiger erster Schritt, um das Vertrauen in digitale Inhalte zu stärken und mehr Transparenz beim Einsatz von künstlicher Intelligenz zu schaffen.
Gleichzeitig zeigt die neue Regelung aber auch ihre Grenzen auf: Sie richtet sich in erster Linie an diejenigen, die sich ohnehin an geltendes Recht halten. Die KI-generierten Inhalte, die den größten Schaden verursachen – etwa Deepfakes für Scams, Betrug oder Identitätsdiebstahl – stammen dagegen von Kriminellen, die ihre Inhalte selbstverständlich nicht kennzeichnen werden. Genau diese besonders gefährlichen Bilder, Videos oder Sprachaufnahmen werden deshalb auch künftig ohne jeden Hinweis auf ihren Ursprung verbreitet werden.
Deshalb sollte die Kennzeichnungspflicht nach EU-AI-Act durch unabhängige Möglichkeiten zur Verifizierung digitaler Inhalte ergänzt werden. Nutzer sollten selbst überprüfen können, ob Inhalte authentisch sind – unabhängig davon, ob der Ersteller sie gekennzeichnet hat oder nicht. Lösungen wie „Bitdefender RealCheck“ können genau diese Lücke schließen, indem sie eine unabhängige Prüfung verdächtiger KI-generierter Inhalte ermöglichen. Gleichzeitig wären international einheitliche Standards wichtig, damit Kennzeichnungen plattform- und länderübergreifend einheitlich funktionieren.
Für Verbraucher geht das größte Risiko nicht von korrekt gekennzeichneten KI-Inhalten aus, sondern von manipulierten Inhalten, die bewusst ohne jede Kennzeichnung verbreitet werden. Kriminelle werden ihre Deepfakes oder Scams nicht freiwillig als KI-generiert ausweisen. Ob geklonte Stimmen mit angeblichen Familiennotfällen, gefälschte Prominenten-Videos für Investmentbetrug oder Romance-Scams – Nutzer sollten verdächtige Inhalte grundsätzlich überprüfen, bevor sie handeln. Die EU-AI-Act-Kennzeichnungspflicht ist ein wichtiger Schritt nach vorne. Um Menschen wirksam vor KI-gestütztem Betrug zu schützen, braucht es jedoch zusätzlich unabhängige Möglichkeiten, digitale Inhalte zu verifizieren.“
#Bitdefender
