Leistungsfähigere KI, die beginnt eigenständig zu agieren, verändert die Diskussionen hinsichtlich eines Kontrollverlusts durch den Menschen. Wenn autonome Akteure beginnen, zur Aufgabenumsetzung über Grenzen hinauszugehen, wird Kontrolle zur ersten Priorität für die Unternehmenssicherheit. Durch den Einsatz von KI-Agenten im Unternehmen stellen sich demnach neue Fragen für Führungskräfte. Die unmittelbarere Herausforderung besteht in der Entscheidung, wie sich die Führungsverantwortung ändern muss, wenn nicht-menschliche Akteure am Arbeitsplatz Einzug halten.
Das Unbeherrschbare bewältigen
Vor dem Innovationssprung von Generativer zu agentischer KI war die Beziehung zwischen Mensch und KI am Arbeitsplatz viel vorhersehbarer. Menschen trafen die Entscheidungen, generative Modelle führten ihre Anweisungen aus. KI-Agenten bringen nun Eigeninitiative mit, denn sie können Workflows auslösen und Ergebnisse beeinflussen. Diese KI-Transformation führt ein Maß an Unvorhersehbarkeit in ein IT-Ökosystem ein, das bisher auf Vorhersehbarkeit ausgelegt war.
Denn die KI-Agenten wurden mit den nicht-deterministischen Eigenschaften eines Menschen ausgestattet. Damit wird ihnen nicht nur eine beispiellose Reichweite verliehen. Zusätzlich sind diese Art der agentischen Mitarbeitenden auf schnelle Umsetzung ihrer Aufgaben programmiert. Mit diesen Machtbefugnissen ausgestattet, tun sich Unternehmen schwer mit dem Einblick, wo agentische Systeme eingebettet sind, was sie tun dürfen und wann sie aus ihrem vorgegebenen Sicherheitsrahmen ausbrechen. Dadurch wird die Risikoeinschätzung erschwert, denn mögliche Auswirkungen des Verhaltens von Agenten sind grenzenlos und schwer vorherzusagen. Ausgehend von dieser neuen Dynamik müssen IT-Entscheider ihr Risikomanagement neu bewerten.
Das Problem der Rechenschaft
Der Kern des Problems ist, dass Befugnisse leichter zu übertragen sind als Rechenschaftspflichten. Ein bereitgestellter Agent muss möglicherweise mit einem anderen Agenten interagieren, der bereits mit einem dritten Agenten im Austausch steht. Wenn aufbauend auf einer solchen Handlungskette ein Ergebnis produziert wurde, ist es schwer eine Antwort auf die dringlichsten Fragen nach den Verantwortlichkeiten bereitzustellen: Wer hat die Aufgabe angefordert? Wer hat die Entscheidung genehmigt? Wer hat die Folgeaktion autorisiert? Wer ist somit für das Ergebnis verantwortlich?
Das Problem liegt nicht darin, dass die KI auf der Suche nach dem effizientesten Weg zur Zielerreichung eine Fehlentscheidung getroffen hat. Die Herausforderung liegt vielmehr darin, dass die Überprüfung von Authentizitätsketten kompliziert und die Rechenschaftspflicht unklar wird, wenn Verantwortung aufgeteilt wird. Und wenn es schwieriger wird, die Verantwortung nachzuweisen, benötigen Führungskräfte eine präzisere Methode zur Steuerung, was Menschen und KI-Agenten tun dürfen.
Erst definieren, dann delegieren
Bei der Authentifizierung wird geprüft, ob ein Mensch derjenige ist, für den er sich ausgibt bzw. ob eine Maschine diejenige ist, für die sie sich ausgibt. Die Autorisierung stellt im agentischen Zeitalter eine relevantere Frage nach dem, was dieser User, Agent oder Mensch tatsächlich tun darf. Kontrolle muss sich weniger darauf konzentrieren, einer vertrauenswürdigen Identität Zugang zu gewähren. Vielmehr sollte es darum gehen, die Handlungen, die jeder Mensch, jede Maschine oder jeder KI-Agent ausführen darf, laufend zu begrenzen.
Je spezifischer die Autorisierung ist, desto besser. Denn eine wichtige Lektion aus dem Hugging-Face-Vorfall ist, dass Unternehmen das individuelle und kollektive Verhalten von Agenten weitaus besser verstehen lernen müssen. Mit Einblicken in die Anreize der Agenten, ihre Motivation und ihren Ressourceneinsatz selbst in den einfachsten Umgebungen sind IT-Entscheider besser in der Lage zu beurteilen, welche Aufgaben sie an die Agenten übertragen können.
Zu viele Unternehmen beginnen ihren KI-Einstieg mit der Frage, welche Modelle sie einsetzen sollten. Viel entscheidender ist allerdings ein strategischer Ansatz, bei dem das gewünschte Ergebnis im Mittelpunkt steht, das sie mit Hilfe von KI erzielen wollen. Und dann muss festgelegt werden, welche Entscheidungen sie bereit sind zu delegieren, wenn diese Modelle in ihrem Handeln immer autonomer werden. Diese Vorgehensweise gibt zusätzlich Aufschluss darüber, welche Berechtigungen und welchen Handlungsspielraum das Unternehmen nicht delegieren will. Und genau hier setzt die Definition von Regeln im Umgang mit agentischen Systemen ein. Eine solche Geschäftsentscheidung sollte immer getroffen werden, bevor die entsprechende Technologie implementiert wird.
Führungsaufgaben im Wandel
Unternehmen müssen sich darüber bewusst sein, dass es sich dabei um eine weitreichende Entscheidung handelt. Zwei Organisationen können exakt dasselbe Modell mit denselben technischen Sicherheitskontrollen einsetzen und dennoch völlig unterschiedliche Governance-Entscheidungen treffen. Diese Entscheidungen sind individuell von ihrer Risikobereitschaft, ihren geschäftlichen Prioritäten und ihren Zielen geprägt.
In Zukunft könnten nichtmenschliche Mitwirkende zu einem normalen Teil der Belegschaft werden. Doch die eigentliche Führungsherausforderung besteht nicht darin, zu entscheiden, ob man mit Agenten zusammenarbeiten will. Sie besteht im Festlegen, wo Autorität endet, wo Rechenschaftspflicht beginnt und wie diese Grenzen aufrechterhalten werden, wenn Menschen und Agenten nahtloser zusammenarbeiten.
Führungsaufgabe besteht heute nicht mehr ausschließlich in der Steuerung von Technologie. Sie muss Vorhersehbarkeit, Rechenschaftspflicht und Verantwortung auch dann klar definieren, wenn die Belegschaft nicht mehr ausschließlich aus Menschen besteht.
#Zscaler
