Računalstvo, telefonija
12.11.2026 14:45
Autor: Peter Cebron

Podijelite s drugima:

Udio

Tvrtke masovno zapošljavaju AI agente, ali većina ne zna kako ih zaustaviti na vrijeme.

Tvrtke masovno zapošljavaju AI agente, ali većina njih ne zna kako ih na vrijeme zaustaviti.

Tvrtke sve više povjeravaju autonomnim AI agentima više zadataka, ali znatno zaostaju u pogledu njihovog praćenja. Istraživanje tvrtke Gravitee otkriva zabrinjavajuću situaciju. Samo šest posto anketiranih tehnoloških lidera moglo bi uskratiti problematičnom AI agentu pristup svim informacijskim sustavima unutar sat vremena.

Istraživanje, u kojem je sudjelovalo 900 vodećih tehnoloških stručnjaka iz SAD-a i Ujedinjenog Kraljevstva, pokazalo je da manje od desetine organizacija ima formalnu osobu odgovornu za ponašanje AI agenata. Još je upečatljivije da u prosjeku samo 51% AI agenata ima pravila koja zapravo ograničavaju njihove dopuštene radnje.

Posljedice više nisu samo teoretske. Više od polovice ispitanika doživjelo je barem jedan sigurnosni incident u koji su bili uključeni AI agenti u protekloj godini. Prijavljeni slučajevi uključuju otkrivanje pristupnih podataka, internih cjenika i kontaktnih podataka kupaca. Neki agenti su čak dijelili osjetljive podatke izvan organizacije.

Problem se nastavlja i kada je u pitanju utvrđivanje odgovornosti. Samo jedan od osam ispitanika mogao je u potpunosti rekonstruirati što je pojedini agent radio prije 30 dana i s čijim ovlaštenjem.

Izvršni direktor tvrtke Gravitee, Rory Blundell, upozorava da tvrtke sve više dopuštaju agentima da sami donose odluke bez uspostavljanja odgovarajućih mehanizama nadzora. Rješenje vidi u jasnoj identifikaciji svakog agenta, ograničavanju njihovih prava i bilježenju njihovih aktivnosti.

Umjetna inteligencija dobiva sve više moći, ali tvrtke često još uvijek nemaju odgovor na najosnovnije pitanje: tko će je zaustaviti kada nešto krene po zlu.




Što drugi čitaju?