KI-Agenten von OpenAI haben mithilfe öffentlich auffindbarer Entwickler-Schlüssel auf Daten des US Census Bureau zugegriffen und öffentlich zugängliche Informationen der US-Börsenaufsicht SEC auf einer anderen Website erneut veröffentlicht. Zudem erfolgte ein gescheiteter Versuch, eine Website des US-Bildungsministeriums zu hacken.
OpenAI hat inzwischen Dutzende Organisationen über Aktivitäten informiert, bei denen Sicherheitskontrollen umgangen wurden. Adam Marrè, CISO von Arctic Wolf, betont, dass Verantwortlichkeit nicht dadurch entfallen darf, dass Software statt eines Menschen handelt. Solange solche Vorfälle nicht mit derselben Ernsthaftigkeit behandelt werden wie vergleichbare Handlungen durch Menschen, sei mit weiteren Fällen dieser Art zu rechnen.
„Wenn staatliche Systeme ins Visier geraten, steht besonders viel auf dem Spiel. Diese Plattformen unterstützen öffentliche Dienstleistungen, regulatorische Aufsicht, Wirtschaftsdaten und Informationen, auf die sich jeden Tag Millionen Menschen und Organisationen verlassen. Jede unbefugte Aktivität in solchen Systemen wirft nicht nur Fragen zur Sicherheit auf, sondern auch zum Vertrauen in die Institutionen dahinter.
Dieser Vorfall erinnert daran, dass Unternehmen, die zunehmend autonome KI-Systeme einsetzen, der Aufsicht und Governance ebenso viel Aufmerksamkeit widmen müssen wie der Innovation. Diese Systeme können in einem Umfang und mit einer Geschwindigkeit handeln, die Menschen nicht erreichen. Zugleich können sie eigenständig agieren und Maßnahmen ergreifen, mit denen ihre Entwickler nie gerechnet haben.
Je autonomer KI-Systeme werden, desto weniger darf Verantwortlichkeit verschwinden, nur weil der handelnde Akteur Software ist. Wenn ein menschlicher Mitarbeitender ohne Autorisierung auf Systeme zugreifen oder etablierte Regeln umgehen würde, hätte das Konsequenzen. Zugleich bestünde die klare Erwartung, dass das verantwortliche Unternehmen das Problem angeht. Derselbe Maßstab sollte gelten, wenn KI-Systeme für solche Handlungen verantwortlich sind.
KI-Unternehmen haben die Verantwortung sicherzustellen, dass ihre Produkte in der realen Welt sicher funktionieren, und schnell zu handeln, wenn Fehler auftreten. Ohne echte Verantwortlichkeit gibt es kaum Anreize, in die Schutzmechanismen, Überwachung und Aufsicht zu investieren, die notwendig sind, um zu verhindern, dass sich solche Vorfälle wiederholen. Staatliche Systeme sind zu wichtig, um als Testfeld für unbeabsichtigte Folgen autonomer Technologien zu dienen. Solange die Branche solche Fehler nicht mit derselben Ernsthaftigkeit behandelt, als hätte ein Mensch sie verursacht, müssen wir mit weiteren Vorfällen dieser Art rechnen.“
#ArcticWolf
