Ces donn\u00e9es peuvent \u00eatre mod\u00e9lis\u00e9es \u00e0 l'aide de technologies d'IA pour concevoir des outils de diagnostic ou de pr\u00e9diction. Les progr\u00e8s de l'IA, et notamment de l'apprentissage profond (qui consiste \u00e0 entra\u00eener une machine \u00e0 l'aide de grandes quantit\u00e9s de donn\u00e9es pour les interpr\u00e9ter et en extraire des sch\u00e9mas utiles), ouvrent la voie \u00e0 des outils de diagnostic et de pr\u00e9diction toujours plus pr\u00e9cis. Toutefois, le manque de visibilit\u00e9 sur le fonctionnement des algorithmes d'IA et sur les facteurs qui influencent leurs r\u00e9sultats soul\u00e8ve d'importantes questions quant \u00e0 la fiabilit\u00e9 de cette technologie d'IA \u00ab\u00a0bo\u00eete noire\u00a0\u00bb.<\/p>\n\n\n\n
\u00ab Le fonctionnement de ces algorithmes est pour le moins opaque \u00bb, d\u00e9clare le professeur Christian Lovis, directeur du d\u00e9partement de radiologie et d'informatique m\u00e9dicale de la facult\u00e9 de m\u00e9decine de l'UNIGE et chef du d\u00e9partement d'informatique m\u00e9dicale des HUG, et l'un des auteurs de l'\u00e9tude sur la compr\u00e9hension de l'IA.<\/p>\n\n\n\n
"Bien s\u00fbr, les enjeux, notamment financiers, sont extr\u00eamement importants. Mais comment faire confiance \u00e0 une machine sans comprendre les fondements de son raisonnement ? Ces questions sont cruciales, en particulier dans des secteurs comme la m\u00e9decine, o\u00f9 les d\u00e9cisions fond\u00e9es sur l'IA peuvent affecter la sant\u00e9 des personnes, voire leur vie, et dans le secteur financier, o\u00f9 elles peuvent entra\u00eener d'\u00e9normes pertes en capital.\u00bb<\/p>\n\n\n\n
Les m\u00e9thodes de compr\u00e9hension visent \u00e0 r\u00e9pondre \u00e0 ces questions en r\u00e9v\u00e9lant pourquoi et comment l'IA est parvenue \u00e0 une d\u00e9cision particuli\u00e8re, ainsi que les raisons qui la sous-tendent. \u00ab\u00a0Conna\u00eetre les \u00e9l\u00e9ments qui ont fait pencher la balance en faveur ou contre une solution dans une situation donn\u00e9e, ce qui permet une certaine transparence, renforce notre confiance dans la performance des outils\u00a0\u00bb, explique Gianmarco Mengaldo, professeur adjoint et directeur du MathEXLab \u00e0 la Facult\u00e9 de design et d'ing\u00e9nierie de l'Universit\u00e9 nationale de Singapour.<\/p>\n\n\n\n
\u00ab\u00a0Cependant, les m\u00e9thodes de compr\u00e9hension actuelles, largement utilis\u00e9es dans les applications pratiques et les circuits industriels, produisent des r\u00e9sultats tr\u00e8s diff\u00e9rents, m\u00eame lorsqu'elles sont appliqu\u00e9es \u00e0 la m\u00eame t\u00e2che et au m\u00eame ensemble de donn\u00e9es. Cela soul\u00e8ve une question importante : quelle m\u00e9thode est correcte s\u2019il est cens\u00e9 y avoir une r\u00e9ponse unique et correcte ? Par cons\u00e9quent, \u00e9valuer les m\u00e9thodes de compr\u00e9hension devient tout aussi important que la compr\u00e9hension elle-m\u00eame ?<\/p>\n\n\n\n La diff\u00e9renciation des donn\u00e9es est essentielle pour d\u00e9velopper des technologies d\u2019IA afin de les comprendre pleinement. Par exemple, lorsque l\u2019IA analyse des images, elle se concentre sur quelques caract\u00e9ristiques saillantes.<\/p>\n\n\n\n Hugues Turb\u00e9, doctorant dans le laboratoire du professeur Lovis et premier auteur de l'\u00e9tude sur l'IA, explique : \u00ab Par exemple, l'IA peut faire la distinction entre une image de chien et une image de chat. Le m\u00eame principe s\u2019applique \u00e0 l\u2019analyse des s\u00e9quences temporelles : la machine doit \u00eatre capable de s\u00e9lectionner les \u00e9l\u00e9ments sur lesquels raisonner. Dans le cas des signaux ECG, cela signifie coordonner les signaux provenant de diff\u00e9rentes \u00e9lectrodes pour \u00e9valuer d\u2019\u00e9ventuelles fluctuations qui seraient le signe d\u2019une certaine maladie cardiaque. \u00bb<\/p>\n\n\n\n Choisir une m\u00e9thode de compr\u00e9hension parmi toutes celles disponibles dans un but particulier n\u2019est pas chose ais\u00e9e. Diff\u00e9rentes m\u00e9thodes d\u2019IA donnent souvent des r\u00e9sultats tr\u00e8s diff\u00e9rents, m\u00eame lorsqu\u2019elles sont appliqu\u00e9es au m\u00eame ensemble de donn\u00e9es et \u00e0 la m\u00eame t\u00e2che.<\/p>\n\n\n\n Pour relever ce d\u00e9fi, les chercheurs ont d\u00e9velopp\u00e9 deux nouvelles m\u00e9thodes d'\u00e9valuation pour aider \u00e0 comprendre comment l'IA prend des d\u00e9cisions : l'une pour identifier les parties les plus importantes du signal et l'autre pour \u00e9valuer leur importance relative dans la pr\u00e9diction finale. <\/p>\n\n\n\n Pour \u00e9valuer la compr\u00e9hension, ils ont cach\u00e9 une partie des donn\u00e9es pour voir si elles \u00e9taient pertinentes pour la prise de d\u00e9cision de l\u2019IA. Cependant, cette approche a parfois produit des erreurs dans les r\u00e9sultats. Pour r\u00e9soudre ce probl\u00e8me, ils ont entra\u00een\u00e9 la machine sur un ensemble de donn\u00e9es augment\u00e9 comprenant des donn\u00e9es cach\u00e9es, ce qui a permis de maintenir l\u2019\u00e9quilibre et la pr\u00e9cision. L\u2019\u00e9quipe a ensuite cr\u00e9\u00e9 deux fa\u00e7ons de mesurer les performances des m\u00e9thodes de compr\u00e9hension, montrant si l\u2019IA utilisait les bonnes donn\u00e9es pour prendre des d\u00e9cisions et si toutes les donn\u00e9es \u00e9taient correctement prises en compte.<\/p>\n\n\n\n \u00ab Notre m\u00e9thode vise \u00e0 \u00e9valuer le mod\u00e8le que nous utiliserons r\u00e9ellement dans notre zone op\u00e9rationnelle, garantissant ainsi sa fiabilit\u00e9 \u00bb, explique Hugues Turb\u00e9. Pour poursuivre la recherche, l\u2019\u00e9quipe a d\u00e9velopp\u00e9 un ensemble de donn\u00e9es synth\u00e9tiques mis \u00e0 la disposition de la communaut\u00e9 scientifique pour \u00e9valuer facilement toute nouvelle IA con\u00e7ue pour interpr\u00e9ter des s\u00e9quences au fil du temps.<\/p>\n\n\n\n L\u2019\u00e9quipe pr\u00e9voit de tester leur m\u00e9thode en milieu clinique, o\u00f9 la peur de l\u2019IA est encore r\u00e9pandue. "Instaurer la confiance dans l'\u00e9valuation de l'IA est une \u00e9tape cruciale vers son adoption en milieu clinique", explique le Dr. Mina Bjelogrlic, qui dirige l'\u00e9quipe d'apprentissage automatique de la division Lovis et est co-auteur de cette \u00e9tude. \u00ab Nos recherches se concentrent sur l\u2019\u00e9valuation de l\u2019IA bas\u00e9e sur des s\u00e9quences temporelles, mais la m\u00eame m\u00e9thodologie pourrait \u00eatre appliqu\u00e9e \u00e0 l\u2019IA bas\u00e9e sur d\u2019autres types de donn\u00e9es, telles que des donn\u00e9es d\u2019image ou de texte. L\u2019objectif est d\u2019assurer la transparence, la compr\u00e9hensibilit\u00e9 et la fiabilit\u00e9 de l\u2019IA pour les utilisateurs.<\/p>\n\n\n\n Comprendre le fonctionnement interne de l\u2019IA est essentiel pour renforcer la confiance dans son utilisation, en particulier dans des secteurs critiques tels que la m\u00e9decine et la finance. La recherche, men\u00e9e par une \u00e9quipe de chercheurs de l\u2019Universit\u00e9 de Gen\u00e8ve et de l\u2019Universit\u00e9 nationale de Singapour, propose une m\u00e9thode innovante d\u2019\u00e9valuation de la compr\u00e9hension de l\u2019intelligence artificielle qui aide les utilisateurs \u00e0 comprendre pourquoi et comment les d\u00e9cisions sont prises. Cette approche est particuli\u00e8rement importante pour les applications m\u00e9dicales, o\u00f9 les d\u00e9cisions prises par l\u2019intelligence artificielle peuvent mettre la vie en danger.<\/p>","protected":false},"excerpt":{"rendered":" Cette approche aide les utilisateurs \u00e0 comprendre le fonctionnement interne des algorithmes d'intelligence artificielle, notamment dans les applications m\u00e9dicales et dans le contexte de la future loi europ\u00e9enne sur l'intelligence artificielle. Une \u00e9quipe de chercheurs de l'Universit\u00e9 de Gen\u00e8ve (UNIGE), des H\u00f4pitaux universitaires de Gen\u00e8ve (HUG) et de l'Universit\u00e9 nationale de Singapour (NUS) a d\u00e9velopp\u00e9 une nouvelle approche pour \u00e9valuer la compr\u00e9hension des technologies d'intelligence artificielle. Cette avanc\u00e9e permet une meilleure compr\u00e9hension [\u2026]<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[72,4,76],"tags":[148,126,192],"class_list":["post-1302","post","type-post","status-publish","format-standard","hentry","category-orodja","category-racunalnistvo-telefonija","category-varnost","tag-chatgpt","tag-google","tag-umetna-inteligenca"],"acf":{"subtitle":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","heading":"","summary":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","thumbnail_small":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-560x315.jpg","thumbnail_large":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-1024x1024.jpg","thumbnail_caption":"Foto: Unsplash","gallery":"","video_gallery":null,"author":"","links":null,"sources":null,"skip_language":[]},"yoast_head":"\n![\"comprendre](\"\/wp-content\/uploads\/2023\/05\/pexels-sanket-mishra-16461434-1024x683.jpg\")
<\/figure>\n\n\n\nFaire la diff\u00e9rence entre les informations importantes et non pertinentes<\/strong><\/h3>\n\n\n\n
L'avenir de l'intelligence artificielle en m\u00e9decine<\/strong><\/h3>\n\n\n\n