publicado en la revista Nature Machine Intelligence<\/a>Las series temporales de datos, que representan la evoluci\u00f3n de la informaci\u00f3n a lo largo del tiempo, est\u00e1n presentes en todas partes: por ejemplo, en medicina, al registrar la actividad card\u00edaca con un electrocardiograma (ECG), al estudiar terremotos, al rastrear patrones clim\u00e1ticos o en econom\u00eda para monitorear los mercados financieros.<\/p>\n\n\n\nEstos datos pueden modelarse mediante tecnolog\u00edas de IA para crear herramientas de diagn\u00f3stico o predicci\u00f3n. Los avances en IA, y en particular en el aprendizaje profundo, que implica entrenar a una m\u00e1quina con grandes cantidades de datos para interpretarlos y aprender patrones \u00fatiles, est\u00e1n abriendo camino a herramientas de diagn\u00f3stico y predicci\u00f3n cada vez m\u00e1s precisas. Sin embargo, la falta de conocimiento sobre c\u00f3mo funcionan los algoritmos de IA y qu\u00e9 influye en sus resultados plantea importantes interrogantes sobre la fiabilidad de la tecnolog\u00eda de IA de "caja negra".<\/p>\n\n\n\n
"El modo en que funcionan estos algoritmos es, en el mejor de los casos, opaco", afirma el profesor Christian Lovis, director del Departamento de Radiolog\u00eda e Inform\u00e1tica M\u00e9dica de la Facultad de Medicina de la UNIGE y jefe del Departamento de Inform\u00e1tica M\u00e9dica del HUG, y uno de los autores del estudio sobre la comprensi\u00f3n de la IA.<\/p>\n\n\n\n
"Por supuesto, hay mucho en juego, especialmente en lo financiero. Pero \u00bfc\u00f3mo podemos confiar en una m\u00e1quina sin comprender la base de su razonamiento? Estas preguntas son cruciales, especialmente en sectores como la medicina, donde las decisiones impulsadas por la IA pueden afectar la salud de las personas e incluso sus vidas, y en las finanzas, donde pueden provocar enormes p\u00e9rdidas de capital\u201d.<\/p>\n\n\n\n
Los m\u00e9todos de comprensi\u00f3n buscan responder a estas preguntas revelando por qu\u00e9 y c\u00f3mo la IA tom\u00f3 una decisi\u00f3n espec\u00edfica y las razones que la sustentan. \u00abConocer los factores que inclinaron la balanza a favor o en contra de una soluci\u00f3n en una situaci\u00f3n dada, permitiendo al menos cierta transparencia, aumenta nuestra confianza en el rendimiento de las herramientas\u00bb, afirma el profesor adjunto Gianmarco Mengaldo, director del MathEXLab de la Facultad de Dise\u00f1o e Ingenier\u00eda de la Universidad Nacional de Singapur.<\/p>\n\n\n\n
\u201cSin embargo, los m\u00e9todos de comprensi\u00f3n actuales que se utilizan ampliamente en aplicaciones pr\u00e1cticas y circuitos industriales producen resultados muy diferentes, incluso cuando se aplican a la misma tarea y conjunto de datos. Esto plantea una pregunta importante: \u00bfQu\u00e9 m\u00e9todo es correcto si se supone que hay una respuesta \u00fanica y correcta? Por lo tanto, \u00bfevaluar los m\u00e9todos de comprensi\u00f3n se est\u00e1 volviendo tan importante como la comprensi\u00f3n misma?<\/p>\n\n\n\nDiferenciar entre informaci\u00f3n importante e irrelevante<\/strong><\/h3>\n\n\n\nDiferenciar los datos es clave en el desarrollo de tecnolog\u00edas de inteligencia artificial para comprenderlos completamente. Por ejemplo, cuando la IA analiza im\u00e1genes, se centra en algunas caracter\u00edsticas destacadas.<\/p>\n\n\n\n
Hugues Turb\u00e9, estudiante de doctorado en el laboratorio del profesor Lovis y primer autor del estudio sobre IA, explica: \u201cPor ejemplo, la IA puede distinguir entre una imagen de un perro y una imagen de un gato. El mismo principio se aplica al an\u00e1lisis de secuencias temporales: la m\u00e1quina debe poder seleccionar los elementos sobre los cuales razonar. En el caso de las se\u00f1ales de electrocardiograma, esto significa coordinar las se\u00f1ales de diferentes electrodos para evaluar posibles fluctuaciones que ser\u00edan un signo de una determinada enfermedad card\u00edaca".<\/p>\n\n\n\n
Elegir un m\u00e9todo de comprensi\u00f3n entre todos los disponibles para un prop\u00f3sito particular no es f\u00e1cil. Los diferentes m\u00e9todos de IA suelen ofrecer resultados muy diferentes, incluso cuando se aplican al mismo conjunto de datos y tarea.<\/p>\n\n\n\n
Para abordar este desaf\u00edo, los investigadores desarrollaron dos nuevos m\u00e9todos de evaluaci\u00f3n para ayudar a comprender c\u00f3mo la IA toma decisiones: uno para identificar las partes m\u00e1s importantes de la se\u00f1al y el otro para evaluar su importancia relativa para la predicci\u00f3n final. <\/p>\n\n\n\n
Para evaluar la comprensi\u00f3n, ocultaron parte de los datos para ver si eran relevantes para la toma de decisiones de la IA. Sin embargo, este enfoque a veces produjo errores en los resultados. Para solucionar este problema, entrenaron la m\u00e1quina con un conjunto de datos aumentado que incluye datos ocultos, lo que ayud\u00f3 a mantener el equilibrio y la precisi\u00f3n. Luego, el equipo cre\u00f3 dos formas de medir el rendimiento de los m\u00e9todos de comprensi\u00f3n, mostrando si la IA estaba usando los datos correctos para tomar decisiones y si todos los datos se consideraron adecuadamente.<\/p>\n\n\n\n
"Nuestro m\u00e9todo tiene como objetivo evaluar el modelo que utilizaremos realmente en nuestra zona operativa, garantizando as\u00ed su fiabilidad", explica Hugues Turb\u00e9. Para continuar la investigaci\u00f3n, el equipo desarroll\u00f3 un conjunto de datos sint\u00e9ticos que est\u00e1 disponible para la comunidad cient\u00edfica para evaluar f\u00e1cilmente cualquier nueva IA dise\u00f1ada para interpretar secuencias a lo largo del tiempo.<\/p>\n\n\n\n
El futuro de la inteligencia artificial en la medicina<\/strong><\/h3>\n\n\n\nEl equipo planea probar su m\u00e9todo en un entorno cl\u00ednico, donde el miedo a la IA todav\u00eda est\u00e1 muy extendido. "Generar confianza en la evaluaci\u00f3n de la IA es un paso fundamental hacia la adopci\u00f3n en entornos cl\u00ednicos", explica el Dr. Mina Bjelogrlic, quien dirige el equipo de aprendizaje autom\u00e1tico en la divisi\u00f3n Lovis y es coautora de este estudio. \u201cNuestra investigaci\u00f3n se centra en evaluar la IA en funci\u00f3n de secuencias temporales, pero la misma metodolog\u00eda podr\u00eda aplicarse a la IA basada en otro tipo de datos, como im\u00e1genes o datos de texto. El objetivo es garantizar la transparencia, la comprensibilidad y la fiabilidad de la IA para los usuarios\u201d.<\/p>\n\n\n\n
Comprender el funcionamiento interno de la IA es clave para generar confianza en su uso, especialmente en sectores cr\u00edticos como la medicina y las finanzas. La investigaci\u00f3n, realizada por un equipo de investigadores de la Universidad de Ginebra y la Universidad Nacional de Singapur, ofrece un m\u00e9todo innovador para evaluar la comprensi\u00f3n de la inteligencia artificial que ayuda a los usuarios a comprender por qu\u00e9 y c\u00f3mo se toman las decisiones. Este enfoque es particularmente importante para aplicaciones m\u00e9dicas, donde las decisiones tomadas por inteligencia artificial pueden poner en peligro la vida.<\/p>","protected":false},"excerpt":{"rendered":"
Este enfoque ayuda a los usuarios a comprender el funcionamiento interno de las "cajas negras" de los algoritmos de inteligencia artificial, especialmente en aplicaciones m\u00e9dicas y en el contexto de la pr\u00f3xima Ley Europea de Inteligencia Artificial. Un equipo de investigadores de la Universidad de Ginebra (UNIGE), los Hospitales Universitarios de Ginebra (HUG) y la Universidad Nacional de Singapur (NUS) ha desarrollado un nuevo enfoque para evaluar la comprensi\u00f3n de las tecnolog\u00edas de inteligencia artificial. Este avance permite una mayor [\u2026]<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[72,4,76],"tags":[148,126,192],"class_list":["post-1302","post","type-post","status-publish","format-standard","hentry","category-orodja","category-racunalnistvo-telefonija","category-varnost","tag-chatgpt","tag-google","tag-umetna-inteligenca"],"acf":{"subtitle":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","heading":"","summary":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","thumbnail_small":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-560x315.jpg","thumbnail_large":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-1024x1024.jpg","thumbnail_caption":"Foto: Unsplash","gallery":"","video_gallery":null,"author":"","links":null,"sources":null,"skip_language":[]},"yoast_head":"\n
Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice<\/title>\n<meta name=\"description\" content=\"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/posts\/1302\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"og:description\" content=\"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/viva.racunalniske-novice.com\/es\/scientists-are-researching-to-understand-artificial-intelligence\/\" \/>\n<meta property=\"og:site_name\" content=\"Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"article:published_time\" content=\"2023-05-25T11:00:00+00:00\" \/>\n<meta name=\"author\" content=\"sinusiks\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"sinusiks\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"5 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\",\"isPartOf\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\"},\"datePublished\":\"2023-05-25T11:00:00+00:00\",\"dateModified\":\"2023-05-25T11:00:00+00:00\",\"author\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\"},\"breadcrumb\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/viva.racunalniske-novice.com\/en\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/en\/\",\"name\":\"Ra\u010dunalni\u0161ke novice\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"es\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\",\"name\":\"sinusiks\",\"sameAs\":[\"https:\/\/ml.racunalniske-novice.com\"],\"url\":\"https:\/\/viva.racunalniske-novice.com\/es\/author\/sinusiks\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","description":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/posts\/1302","og_locale":"es_ES","og_type":"article","og_title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","og_description":"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]","og_url":"https:\/\/viva.racunalniske-novice.com\/es\/scientists-are-researching-to-understand-artificial-intelligence\/","og_site_name":"Ra\u010dunalni\u0161ke novice","article_published_time":"2023-05-25T11:00:00+00:00","author":"sinusiks","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"sinusiks","Tiempo de lectura":"5 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","url":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","name":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","isPartOf":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website"},"datePublished":"2023-05-25T11:00:00+00:00","dateModified":"2023-05-25T11:00:00+00:00","author":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4"},"breadcrumb":{"@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/viva.racunalniske-novice.com\/en\/"},{"@type":"ListItem","position":2,"name":"Znanstveniki raziskujejo razumevanje umetne inteligence"}]},{"@type":"WebSite","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website","url":"https:\/\/viva.racunalniske-novice.com\/en\/","name":"Ra\u010dunalni\u0161ke novice","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"es"},{"@type":"Person","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4","name":"sinusiks","sameAs":["https:\/\/ml.racunalniske-novice.com"],"url":"https:\/\/viva.racunalniske-novice.com\/es\/author\/sinusiks\/"}]}},"_links":{"self":[{"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/posts\/1302","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/comments?post=1302"}],"version-history":[{"count":0,"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/posts\/1302\/revisions"}],"wp:attachment":[{"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/media?parent=1302"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/categories?post=1302"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/es\/wp-json\/wp\/v2\/tags?post=1302"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"Entendiendo](\"\/wp-content\/uploads\/2023\/05\/pexels-sanket-mishra-16461434-1024x683.jpg\")
<\/figure>\n\n\n\n