Kibernetska varnost
Računalništvo, telefonija
12.11.2026 14:45
Posodobljeno 3 dnevi nazaj.
Avtor: Peter Čebron

Deli z drugimi:

Share
Sledite nam na Google News

Podjetja množično zaposlujejo agente UI, a jih večina ne zna pravočasno ustaviti

Podjetja vse več nalog prepuščajo avtonomnim agentom umetne inteligence, vendar pri njihovem nadzoru precej zaostajajo. Raziskava podjetja Gravitee razkriva zaskrbljujoče stanje. Le šest odstotkov vprašanih tehnoloških vodij bi lahko problematičnemu agentu UI v eni uri odvzelo dostop do vseh informacijskih sistemov.

V raziskavi je sodelovalo 900 vodilnih tehnoloških strokovnjakov iz ZDA in Združenega kraljestva. Manj kot desetina organizacij ima uradno določeno osebo, ki odgovarja za ravnanje agentov AI. Še bolj presenetljivo je, da ima v povprečju le 51 % agentov vzpostavljena pravila, ki dejansko omejujejo njihova dovoljena dejanja.

Posledice niso več zgolj teoretične. Več kot polovica sodelujočih je v zadnjem letu zaznala vsaj en varnostni incident, povezan z agenti AI. Med prijavljenimi primeri so razkritja prijavnih podatkov, internih cenikov in kontaktnih informacij strank. Nekateri agenti so občutljive podatke celo posredovali zunaj organizacije.

Težava se nadaljuje tudi pri ugotavljanju odgovornosti. Samo vsak osmi vprašani bi lahko v celoti rekonstruiral, kaj je posamezen agent počel pred 30 dnevi in s čigavimi pooblastili.

Direktor podjetja Gravitee Rory Blundell opozarja, da podjetja agentom vse pogosteje omogočajo samostojno odločanje, ne da bi vzpostavila ustrezne mehanizme nadzora. Rešitev vidi v jasni identiteti vsakega agenta, omejevanju njegovih pravic in beleženju dejavnosti.

Umetna inteligenca tako dobiva vse več pristojnosti, podjetja pa pogosto še vedno nimajo odgovora na najosnovnejše vprašanje, kdo jo bo ustavil, ko bo šlo kaj narobe.


Vam je bila novica zanimiva?

Povejte prijateljem, da ste novico prebrali na Računalniških novicah.

Share
Prijavi napako v članku


Kaj berejo drugi?

Partnerji Računalniških novic Prikaži vse

Zlati partner

ADVANT d.o.o.

Cesta na Brdo 119a, 1000 Ljubljana, Tel: 01 470 00 00
Podjetje ADVANT d.o.o. je z vami že od leta 1998. Naše osnovno poslanstvo je biti vodilni graditelj informacijsko komunikacijske infrastrukture. Aktivnosti, ki jih povezujemo ... Več
Diamantni partner

OptiCyber3 d.o.o.

Ulica Jožeta Jame 14, 1210 Ljubljana Šentvid, Tel: 070 420 063
OptiCyber3 poskrbi za zanesljivo zaščito vašega računalniškega sistema Kako poskrbeti za zanesljivo zaščito računalniških sistemov? Za ustrezno varnostno zaščito in kar ... Več
Bronasti partner

openIT d.o.o.

Dimičeva ulica 13, 1000 Ljubljana, Tel: 01 589 81 89
OpenIT od leta 2012 izvaja poslovna izobraževanja s področja digitalnega marketinga, računovodstva, upravljanja s človeškimi viri (HR), prodaje, prava, financ, time managementa ... Več

e-asist d.o.o.

Ljubljanska cesta 3a, 1236 Trzin, Tel: 040 879 080
Težave s tiskalniki? In to ravno takrat, ko imate največ dela? Z vključitvijo naprav v sistem nadzora, vam podjetje e-asist d.o.o. lahko zagotovi najmanjše število okvar ... Več