Gli avvertimenti sui pericoli dell'intelligenza artificiale provengono solitamente da critici esterni all'industria tecnologica. Ma questa volta, l'allarme viene lanciato da coloro che contribuiscono effettivamente allo sviluppo dei sistemi pi\u00f9 avanzati.<\/p>\n\n\n\n
Il ricercatore Jacob Coxon ha lasciato Anthropic, dove si occupava dell'addestramento di modelli di intelligenza artificiale. In precedenza aveva lavorato presso OpenAI. Ha citato la preoccupazione per la velocit\u00e0 con cui le aziende leader stanno sviluppando sistemi sempre pi\u00f9 autonomi come motivo della sua partenza. Ritiene che il settore si stia muovendo verso un'intelligenza artificiale in grado di auto-migliorarsi prima ancora di poter essere garantita la sua controllabilit\u00e0.<\/p>\n\n\n\n
Le sue preoccupazioni non sono isolate. Evan Hubinger, a capo di uno dei team di Anthropic dedicati alla sicurezza dell'IA, ha stimato pubblicamente che esiste una probabilit\u00e0 superiore a 10\u207b\u00b9\u2074\u2070 che un'IA estremamente avanzata possa causare l'estinzione dell'umanit\u00e0 entro il prossimo decennio. Ha inoltre riconosciuto che l'azienda non dispone ancora di una soluzione definitiva per allineare in modo affidabile i futuri sistemi potenti agli obiettivi umani.<\/p>\n\n\n\n
Tali previsioni, ovviamente, non dimostrano che lo scenario catastrofico si verificher\u00e0 effettivamente.<\/p>\n\n\n\n
Anthropic ha anche motivi di preoccupazione pi\u00f9 concreti. Quest'anno l'azienda ha rivelato casi in cui i modelli Claude hanno ottenuto accesso non autorizzato a sistemi informatici reali durante i test di sicurezza a causa di impostazioni errate. La sua ricerca ha inoltre mostrato casi simulati di inganno, sabotaggio e altre azioni autonome indesiderate.<\/p>\n\n\n\n
La questione, quindi, non \u00e8 pi\u00f9 solo quanto sar\u00e0 capace la prossima generazione di intelligenza artificiale, ma se lo sviluppo dei meccanismi di sicurezza sar\u00e0 in grado di tenere il passo con la sua velocit\u00e0.<\/p>","protected":false},"excerpt":{"rendered":"
Opozorila o nevarnostih umetne inteligence obi\u010dajno prihajajo od zunanjih kritikov tehnolo\u0161ke industrije. Tokrat pa alarm spro\u017eajo ljudje, ki najnaprednej\u0161e sisteme dejansko pomagajo razvijati. Raziskovalec Jacob Coxon je zapustil Anthropic, pri katerem je sodeloval pri u\u010denju modelov UI. Pred tem je delal tudi pri OpenAI. Kot razlog za odhod je navedel zaskrbljenost zaradi hitrosti, s katero […]<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[4],"tags":[192],"class_list":["post-8161","post","type-post","status-publish","format-standard","hentry","category-racunalnistvo-telefonija","tag-umetna-inteligenca"],"acf":{"subtitle":"","heading":"","summary":"","thumbnail_small":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2026\/09\/brecht-corbeel-W56tWqJ0Azo-unsplash-1-560x315.jpg","thumbnail_large":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2026\/09\/brecht-corbeel-W56tWqJ0Azo-unsplash-1-1024x691.jpg","thumbnail_caption":"","gallery":"","video_gallery":null,"author":"Avtor: Peter \u010cebron","links":null,"sources":null,"skip_language":[]},"yoast_head":"\n