Tvrtke masovno zapošljavaju AI agente, ali većina ne zna kako ih zaustaviti na vrijeme.
Tvrtke sve više povjeravaju autonomnim AI agentima više zadataka, ali znatno zaostaju u pogledu njihovog praćenja. Istraživanje tvrtke Gravitee otkriva zabrinjavajuću situaciju. Samo šest posto anketiranih tehnoloških lidera moglo bi uskratiti problematičnom AI agentu pristup svim informacijskim sustavima unutar sat vremena.
Istraživanje, u kojem je sudjelovalo 900 vodećih tehnoloških stručnjaka iz SAD-a i Ujedinjenog Kraljevstva, pokazalo je da manje od desetine organizacija ima formalnu osobu odgovornu za ponašanje AI agenata. Još je upečatljivije da u prosjeku samo 51% AI agenata ima pravila koja zapravo ograničavaju njihove dopuštene radnje.
Posljedice više nisu samo teoretske. Više od polovice ispitanika doživjelo je barem jedan sigurnosni incident u koji su bili uključeni AI agenti u protekloj godini. Prijavljeni slučajevi uključuju otkrivanje pristupnih podataka, internih cjenika i kontaktnih podataka kupaca. Neki agenti su čak dijelili osjetljive podatke izvan organizacije.
Problem se nastavlja i kada je u pitanju utvrđivanje odgovornosti. Samo jedan od osam ispitanika mogao je u potpunosti rekonstruirati što je pojedini agent radio prije 30 dana i s čijim ovlaštenjem.
Izvršni direktor tvrtke Gravitee, Rory Blundell, upozorava da tvrtke sve više dopuštaju agentima da sami donose odluke bez uspostavljanja odgovarajućih mehanizama nadzora. Rješenje vidi u jasnoj identifikaciji svakog agenta, ograničavanju njihovih prava i bilježenju njihovih aktivnosti.
Umjetna inteligencija dobiva sve više moći, ali tvrtke često još uvijek nemaju odgovor na najosnovnije pitanje: tko će je zaustaviti kada nešto krene po zlu.






















