{"id":1302,"date":"2023-05-25T13:00:00","date_gmt":"2023-05-25T11:00:00","guid":{"rendered":"https:\/\/vivalainfo.com\/en\/znanstveniki-raziskujejo-razumevanje-umetne-inteligence\/"},"modified":"2023-05-25T13:00:00","modified_gmt":"2023-05-25T11:00:00","slug":"znanstveniki-raziskujejo-razumevanje-umetne-inteligence","status":"publish","type":"post","link":"https:\/\/viva.racunalniske-novice.com\/it\/gli-scienziati-stanno-facendo-ricerche-per-comprendere-lintelligenza-artificiale\/","title":{"rendered":"Gli scienziati stanno facendo ricerche per comprendere l\u2019intelligenza artificiale"},"content":{"rendered":"

Questo approccio aiuta gli utenti a comprendere il funzionamento interno delle "scatole nere" degli algoritmi di intelligenza artificiale, in particolare nelle applicazioni mediche e nel contesto dell'imminente legge europea sull'intelligenza artificiale.<\/p>\n\n\n\n

Un team di ricercatori dell\u2019Universit\u00e0 di Ginevra (UNIGE), degli Ospedali universitari di Ginevra (HUG) e dell\u2019Universit\u00e0 nazionale di Singapore (NUS) ha sviluppato un nuovo approccio per valutare la comprensione delle tecnologie di intelligenza artificiale.<\/p>\n\n\n\n

Questa svolta consente una maggiore trasparenza e credibilit\u00e0 per gli strumenti diagnostici e predittivi basati sull'intelligenza artificiale. Il nuovo metodo svela il misterioso funzionamento delle cosiddette "scatole nere" degli algoritmi di intelligenza artificiale, aiutando gli utenti a comprendere cosa influenza i risultati prodotti dall'intelligenza artificiale e se questi sono affidabili.<\/p>\n\n\n\n

Ci\u00f2 \u00e8 particolarmente importante in scenari che hanno un impatto significativo sulla salute e sul benessere umano, come l\u2019uso dell\u2019intelligenza artificiale in ambito medico. La ricerca ha un significato particolare nel contesto dell\u2019imminente legge sull\u2019intelligenza artificiale dell\u2019Unione europea, che cerca di regolamentare lo sviluppo e l\u2019uso dell\u2019intelligenza artificiale nell\u2019UE.<\/p>\n\n\n\n

I risultati sono stati recentemente pubblicato sulla rivista Nature Machine Intelligence<\/a>Le serie temporali di dati, che rappresentano l'evoluzione delle informazioni nel tempo, sono presenti ovunque: ad esempio, in medicina quando si registra l'attivit\u00e0 cardiaca con un elettrocardiogramma (ECG), nello studio dei terremoti, nel monitoraggio dei modelli meteorologici o in economia per monitorare i mercati finanziari.<\/p>\n\n\n\n

Questi dati possono essere modellati utilizzando tecnologie di intelligenza artificiale per costruire strumenti diagnostici o predittivi. I progressi nell'intelligenza artificiale, e in particolare nel deep learning, che consiste nell'addestrare una macchina utilizzando grandi quantit\u00e0 di dati per interpretarli e apprendere modelli utili, stanno aprendo la strada a strumenti diagnostici e predittivi sempre pi\u00f9 accurati. Tuttavia, la mancanza di informazioni su come funzionano gli algoritmi di intelligenza artificiale e su cosa ne influenzi i risultati solleva importanti interrogativi sull'affidabilit\u00e0 della tecnologia di intelligenza artificiale "black box".<\/p>\n\n\n\n

"Il funzionamento di questi algoritmi \u00e8, nella migliore delle ipotesi, poco chiaro", afferma il professor Christian Lovis, direttore del Dipartimento di radiologia e informatica medica presso la Facolt\u00e0 di medicina dell'UNIGE e responsabile del Dipartimento di informatica medica presso l'HUG, nonch\u00e9 uno degli autori dello studio sulla comprensione dell'intelligenza artificiale.<\/p>\n\n\n\n

"Naturalmente la posta in gioco, soprattutto quella finanziaria, \u00e8 estremamente alta. Ma come possiamo fidarci di una macchina senza comprendere le basi del suo ragionamento? Queste domande sono cruciali, soprattutto in settori come la medicina, dove le decisioni guidate dall\u2019intelligenza artificiale possono influenzare la salute delle persone e persino la loro vita, e nella finanza, dove possono portare a enormi perdite di capitale\u201d.<\/p>\n\n\n\n

I metodi di comprensione cercano di rispondere a queste domande rivelando perch\u00e9 e come l'IA \u00e8 arrivata a una particolare decisione e le ragioni che l'hanno determinata. "Conoscere gli elementi che hanno fatto pendere la bilancia a favore o contro una soluzione in una data situazione, consentendo almeno una certa trasparenza, aumenta la nostra fiducia nelle prestazioni degli strumenti", afferma il Professore Associato Gianmarco Mengaldo, Direttore del MathEXLab presso la Facolt\u00e0 di Design e Ingegneria della National University of Singapore.<\/p>\n\n\n\n

\u201cTuttavia, gli attuali metodi di comprensione ampiamente utilizzati nelle applicazioni pratiche e nei circuiti industriali producono risultati molto diversi, anche se applicati allo stesso compito e allo stesso set di dati. Ci\u00f2 solleva una domanda importante: quale metodo \u00e8 corretto se si suppone che ci sia una risposta unica e corretta? Pertanto, la valutazione dei metodi di comprensione sta diventando importante quanto la comprensione stessa?<\/p>\n\n\n\n

\"comprendere<\/figure>\n\n\n\n

Distinguere tra informazioni importanti e irrilevanti<\/strong><\/h3>\n\n\n\n

Differenziare i dati \u00e8 fondamentale per sviluppare tecnologie di intelligenza artificiale per comprenderli appieno. Ad esempio, quando l\u2019intelligenza artificiale analizza le immagini, si concentra su alcune caratteristiche salienti.<\/p>\n\n\n\n

Hugues Turb\u00e9, dottorando nel laboratorio del professor Lovis e primo autore dello studio sull'intelligenza artificiale, spiega: \u201cAd esempio, l'intelligenza artificiale pu\u00f2 distinguere tra l'immagine di un cane e l'immagine di un gatto. Lo stesso principio vale per l'analisi delle sequenze temporali: la macchina deve essere in grado di selezionare gli elementi su cui ragionare. Nel caso dei segnali ECG, ci\u00f2 significa coordinare i segnali provenienti da diversi elettrodi per valutare possibili fluttuazioni che potrebbero essere un segno di una certa malattia cardiaca."<\/p>\n\n\n\n

Scegliere un metodo di comprensione tra tutti quelli disponibili per un particolare scopo non \u00e8 facile. Diversi metodi di intelligenza artificiale spesso forniscono risultati molto diversi, anche se applicati allo stesso set di dati e allo stesso compito.<\/p>\n\n\n\n

Per affrontare questa sfida, i ricercatori hanno sviluppato due nuovi metodi di valutazione per aiutare a comprendere come l\u2019intelligenza artificiale prende le decisioni: uno per identificare le parti pi\u00f9 importanti del segnale e l\u2019altro per valutare la loro importanza relativa per la previsione finale. <\/p>\n\n\n\n

Per valutare la comprensione, hanno nascosto parte dei dati per vedere se erano rilevanti per il processo decisionale sull\u2019IA. Tuttavia, questo approccio talvolta produceva errori nei risultati. Per risolvere questo problema, hanno addestrato la macchina su un set di dati aumentato che include dati nascosti, che hanno contribuito a mantenere equilibrio e precisione. Il team ha poi creato due modi per misurare le prestazioni dei metodi di comprensione, mostrando se l\u2019IA stava utilizzando i dati giusti per prendere decisioni e se tutti i dati erano stati adeguatamente considerati.<\/p>\n\n\n\n

"Il nostro metodo mira a valutare il modello che utilizzeremo effettivamente nel nostro ambito operativo, garantendone cos\u00ec l'affidabilit\u00e0", spiega Hugues Turb\u00e9. Per continuare la ricerca, il team ha sviluppato un set di dati sintetici a disposizione della comunit\u00e0 scientifica per valutare facilmente qualsiasi nuova intelligenza artificiale progettata per interpretare sequenze nel tempo.<\/p>\n\n\n\n

Il futuro dell\u2019intelligenza artificiale in medicina<\/strong><\/h3>\n\n\n\n

Il team prevede di testare il proprio metodo in un contesto clinico, dove la paura dell\u2019intelligenza artificiale \u00e8 ancora diffusa. "Costruire la fiducia nella valutazione dell'IA \u00e8 un passo fondamentale verso l'adozione in contesti clinici", spiega il Dott. Mina Bjelogrlic, che guida il team di machine learning nella divisione Lovis ed \u00e8 coautrice di questo studio. \u201cLa nostra ricerca si concentra sulla valutazione dell\u2019intelligenza artificiale basata su sequenze temporali, ma la stessa metodologia potrebbe essere applicata all\u2019intelligenza artificiale basata su altri tipi di dati, come dati di immagini o testo. L\u2019obiettivo \u00e8 garantire trasparenza, comprensibilit\u00e0 e affidabilit\u00e0 dell\u2019intelligenza artificiale per gli utenti\u201d.<\/p>\n\n\n\n

Comprendere il funzionamento interno dell\u2019intelligenza artificiale \u00e8 fondamentale per creare fiducia nel suo utilizzo, soprattutto in settori critici come la medicina e la finanza. La ricerca, condotta da un team di ricercatori dell\u2019Universit\u00e0 di Ginevra e dell\u2019Universit\u00e0 Nazionale di Singapore, offre un metodo innovativo per valutare la comprensione dell\u2019intelligenza artificiale che aiuta gli utenti a capire perch\u00e9 e come vengono prese le decisioni. Questo approccio \u00e8 particolarmente importante per le applicazioni mediche, dove le decisioni prese dall\u2019intelligenza artificiale possono essere pericolose per la vita.<\/p>","protected":false},"excerpt":{"rendered":"

Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[72,4,76],"tags":[148,126,192],"class_list":["post-1302","post","type-post","status-publish","format-standard","hentry","category-orodja","category-racunalnistvo-telefonija","category-varnost","tag-chatgpt","tag-google","tag-umetna-inteligenca"],"acf":{"subtitle":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","heading":"","summary":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","thumbnail_small":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-560x315.jpg","thumbnail_large":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-1024x1024.jpg","thumbnail_caption":"Foto: Unsplash","gallery":"","video_gallery":null,"author":"","links":null,"sources":null,"skip_language":[]},"yoast_head":"\nZnanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice<\/title>\n<meta name=\"description\" content=\"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/posts\/1302\" \/>\n<meta property=\"og:locale\" content=\"it_IT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"og:description\" content=\"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/viva.racunalniske-novice.com\/it\/scientists-are-researching-to-understand-artificial-intelligence\/\" \/>\n<meta property=\"og:site_name\" content=\"Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"article:published_time\" content=\"2023-05-25T11:00:00+00:00\" \/>\n<meta name=\"author\" content=\"sinusiks\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Scritto da\" \/>\n\t<meta name=\"twitter:data1\" content=\"sinusiks\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo di lettura stimato\" \/>\n\t<meta name=\"twitter:data2\" content=\"5 minuti\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\",\"isPartOf\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\"},\"datePublished\":\"2023-05-25T11:00:00+00:00\",\"dateModified\":\"2023-05-25T11:00:00+00:00\",\"author\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\"},\"breadcrumb\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\"},\"inLanguage\":\"it-IT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/viva.racunalniske-novice.com\/en\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/en\/\",\"name\":\"Ra\u010dunalni\u0161ke novice\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"it-IT\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\",\"name\":\"sinusiks\",\"sameAs\":[\"https:\/\/ml.racunalniske-novice.com\"],\"url\":\"https:\/\/viva.racunalniske-novice.com\/it\/author\/sinusiks\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","description":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/posts\/1302","og_locale":"it_IT","og_type":"article","og_title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","og_description":"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]","og_url":"https:\/\/viva.racunalniske-novice.com\/it\/scientists-are-researching-to-understand-artificial-intelligence\/","og_site_name":"Ra\u010dunalni\u0161ke novice","article_published_time":"2023-05-25T11:00:00+00:00","author":"sinusiks","twitter_card":"summary_large_image","twitter_misc":{"Scritto da":"sinusiks","Tempo di lettura stimato":"5 minuti"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","url":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","name":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","isPartOf":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website"},"datePublished":"2023-05-25T11:00:00+00:00","dateModified":"2023-05-25T11:00:00+00:00","author":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4"},"breadcrumb":{"@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb"},"inLanguage":"it-IT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/viva.racunalniske-novice.com\/en\/"},{"@type":"ListItem","position":2,"name":"Znanstveniki raziskujejo razumevanje umetne inteligence"}]},{"@type":"WebSite","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website","url":"https:\/\/viva.racunalniske-novice.com\/en\/","name":"Ra\u010dunalni\u0161ke novice","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"it-IT"},{"@type":"Person","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4","name":"sinusiks","sameAs":["https:\/\/ml.racunalniske-novice.com"],"url":"https:\/\/viva.racunalniske-novice.com\/it\/author\/sinusiks\/"}]}},"_links":{"self":[{"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/posts\/1302","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/comments?post=1302"}],"version-history":[{"count":0,"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/posts\/1302\/revisions"}],"wp:attachment":[{"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/media?parent=1302"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/categories?post=1302"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/it\/wp-json\/wp\/v2\/tags?post=1302"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}