Les entreprises embauchent massivement des agents IA, mais la plupart ignorent comment les arrêter à temps.
Les entreprises confient de plus en plus de tâches à des agents d'IA autonomes, mais elles accusent un retard considérable en matière de surveillance. Une enquête de Gravitee révèle une situation préoccupante : seulement 6 % des responsables informatiques interrogés seraient capables de bloquer l'accès à l'ensemble des systèmes d'information à un agent d'IA problématique en moins d'une heure.
L'enquête, menée auprès de 900 professionnels de la technologie de haut niveau aux États-Unis et au Royaume-Uni, révèle que moins d'un dixième des organisations disposent d'une personne officiellement chargée de superviser le comportement des agents d'IA. Plus frappant encore, en moyenne, seuls 51 % des agents d'IA sont soumis à des règles limitant leurs actions autorisées.
Les conséquences ne sont plus purement théoriques. Plus de la moitié des personnes interrogées ont subi au moins un incident de sécurité impliquant des agents d'IA au cours de l'année écoulée. Parmi les cas signalés figurent la divulgation d'identifiants de connexion, de listes de prix internes et de coordonnées clients. Certains agents ont même partagé des données sensibles en dehors de leur organisation.
Le problème persiste lorsqu'il s'agit de déterminer les responsabilités. Seul un répondant sur huit a pu reconstituer précisément les actions d'un agent 30 jours auparavant et identifier la personne ou l'autorité qui agissait en son nom.
Rory Blundell, PDG de Gravitee, met en garde contre le fait que les entreprises laissent de plus en plus leurs agents prendre leurs propres décisions sans mettre en place de mécanismes de contrôle adéquats. Il estime que la solution réside dans l'identification claire de chaque agent, la limitation de ses droits et l'enregistrement de ses activités.
L'intelligence artificielle acquiert de plus en plus de pouvoir, mais les entreprises n'ont souvent toujours pas de réponse à la question la plus fondamentale : qui l'arrêtera en cas de problème ?





















