Unternehmen setzen massiv KI-Agenten ein, aber die meisten wissen nicht, wie sie diese rechtzeitig stoppen können.
Unternehmen übertragen autonomen KI-Systemen immer mehr Aufgaben, hinken aber bei deren Überwachung weit hinterher. Eine Umfrage von Gravitee zeigt eine besorgniserregende Situation: Nur sechs Prozent der befragten Technologieverantwortlichen könnten einem problematischen KI-System innerhalb einer Stunde den Zugriff auf alle Informationssysteme verweigern.
Die Umfrage unter 900 führenden Technologieexperten aus den USA und Großbritannien ergab, dass weniger als ein Zehntel der Unternehmen eine formell für das Verhalten von KI-Systemen verantwortliche Person benannt haben. Noch auffälliger ist, dass im Durchschnitt nur 51 % der KI-Systeme über Regeln verfügen, die ihre zulässigen Aktionen tatsächlich einschränken.
Die Folgen sind nicht länger nur theoretischer Natur. Mehr als die Hälfte der Befragten hat im vergangenen Jahr mindestens einen Sicherheitsvorfall mit KI-Systemen erlebt. Zu den gemeldeten Fällen gehören die Offenlegung von Anmeldedaten, internen Preislisten und Kundendaten. Einige Systeme haben sogar sensible Daten außerhalb des Unternehmens weitergegeben.
Das Problem besteht weiterhin bei der Feststellung der Verantwortlichkeit. Nur jeder achte Befragte konnte vollständig rekonstruieren, was ein bestimmter Mitarbeiter vor 30 Tagen getan hat und mit wessen Befugnis.
Rory Blundell, CEO von Gravitee, warnt davor, dass Unternehmen ihren Agenten zunehmend freie Hand bei Entscheidungen lassen, ohne angemessene Kontrollmechanismen einzuführen. Er sieht die Lösung darin, jeden Agenten klar zu identifizieren, seine Rechte einzuschränken und seine Aktivitäten zu protokollieren.
Künstliche Intelligenz gewinnt immer mehr an Macht, doch Unternehmen haben oft noch immer keine Antwort auf die grundlegendste Frage: Wer stoppt sie, wenn etwas schiefgeht?



















