ver\u00f6ffentlicht in der Zeitschrift Nature Machine Intelligence<\/a>Zeitreihen von Daten, die die Entwicklung von Informationen im Laufe der Zeit darstellen, sind \u00fcberall vorhanden: beispielsweise in der Medizin bei der Aufzeichnung der Herzaktivit\u00e4t mit einem Elektrokardiogramm (EKG), bei der Untersuchung von Erdbeben, der Verfolgung von Wettermustern oder in der Wirtschaft bei der \u00dcberwachung der Finanzm\u00e4rkte.<\/p>\n\n\n\nDiese Daten k\u00f6nnen mithilfe von KI-Technologien modelliert werden, um Diagnose- oder Prognosetools zu entwickeln. Fortschritte in der KI, insbesondere im Deep Learning, bei dem eine Maschine mit gro\u00dfen Datenmengen trainiert wird, um diese zu interpretieren und n\u00fctzliche Muster zu erlernen, ebnen den Weg f\u00fcr immer pr\u00e4zisere Diagnose- und Prognosetools. Der Mangel an Einblicken in die Funktionsweise von KI-Algorithmen und die Einfl\u00fcsse auf ihre Ergebnisse wirft jedoch wichtige Fragen zur Zuverl\u00e4ssigkeit der \u201eBlack Box\u201c-KI-Technologie auf.<\/p>\n\n\n\n
\u201eDie Funktionsweise dieser Algorithmen ist bestenfalls undurchsichtig\u201c, sagt Professor Christian Lovis, Direktor der Abteilung f\u00fcr Radiologie und Medizinische Informatik an der Medizinischen Fakult\u00e4t der UNIGE und Leiter der Abteilung f\u00fcr Medizinische Informatik an der HUG sowie einer der Autoren der Studie zum KI-Verst\u00e4ndnis.<\/p>\n\n\n\n
\u201eNat\u00fcrlich steht viel auf dem Spiel, vor allem finanziell. Aber wie k\u00f6nnen wir einer Maschine vertrauen, ohne die Grundlage ihrer Argumentation zu verstehen? Diese Fragen sind von entscheidender Bedeutung, insbesondere in Branchen wie der Medizin, wo KI-gesteuerte Entscheidungen Auswirkungen auf die Gesundheit und sogar das Leben der Menschen haben k\u00f6nnen, und im Finanzwesen, wo sie zu enormen Kapitalverlusten f\u00fchren k\u00f6nnen.\u201c<\/p>\n\n\n\n
Verst\u00e4ndnismethoden versuchen, diese Fragen zu beantworten, indem sie aufdecken, warum und wie die KI zu einer bestimmten Entscheidung gelangt ist und welche Gr\u00fcnde dahinter stecken. \u201eDie Kenntnis der Elemente, die in einer bestimmten Situation den Ausschlag f\u00fcr oder gegen eine L\u00f6sung gegeben haben, und damit zumindest eine gewisse Transparenz zu erm\u00f6glichen, st\u00e4rkt unser Vertrauen in die Leistungsf\u00e4higkeit der Tools\u201c, sagt Assistenzprofessor Gianmarco Mengaldo, Direktor des MathEXLab an der Fakult\u00e4t f\u00fcr Design und Ingenieurwesen der National University of Singapore.<\/p>\n\n\n\n
\u201eAktuelle Verst\u00e4ndnismethoden, die in praktischen Anwendungen und industriellen Schaltkreisen weit verbreitet sind, f\u00fchren jedoch zu sehr unterschiedlichen Ergebnissen, selbst wenn sie auf dieselbe Aufgabe und denselben Datensatz angewendet werden. Dies wirft eine wichtige Frage auf: Welche Methode ist die richtige, wenn es eine eindeutige, richtige Antwort geben soll? Daher wird die Bewertung von Verstehensmethoden genauso wichtig wie das Verstehen selbst?\u201c<\/p>\n\n\n\nUnterscheidung zwischen wichtigen und irrelevanten Informationen<\/strong><\/h3>\n\n\n\nDie Differenzierung der Daten ist der Schl\u00fcssel zur Entwicklung von KI-Technologien, um sie vollst\u00e4ndig zu verstehen. Wenn KI beispielsweise Bilder analysiert, konzentriert sie sich auf einige hervorstechende Merkmale.<\/p>\n\n\n\n
Der Doktorand im Labor von Professor Lovis und Erstautor der KI-Studie Hugues Turb\u00e9 erkl\u00e4rt: \u201eZum Beispiel kann KI zwischen einem Bild eines Hundes und einem Bild einer Katze unterscheiden. Das gleiche Prinzip gilt f\u00fcr die Analyse von Zeitabl\u00e4ufen: Die Maschine muss in der Lage sein, die Elemente auszuw\u00e4hlen, auf denen sie schlussfolgern m\u00f6chte. Bei EKG-Signalen bedeutet das, die Signale verschiedener Elektroden zu koordinieren, um m\u00f6gliche Schwankungen zu beurteilen, die ein Zeichen f\u00fcr eine bestimmte Herzerkrankung w\u00e4ren.\u201c<\/p>\n\n\n\n
Es ist nicht einfach, unter allen f\u00fcr einen bestimmten Zweck verf\u00fcgbaren Methoden eine Verst\u00e4ndnismethode auszuw\u00e4hlen. Verschiedene KI-Methoden liefern oft sehr unterschiedliche Ergebnisse, selbst wenn sie auf denselben Datensatz und dieselbe Aufgabe angewendet werden.<\/p>\n\n\n\n
Um dieser Herausforderung zu begegnen, haben die Forscher zwei neue Bewertungsmethoden entwickelt, um zu verstehen, wie KI Entscheidungen trifft: eine zur Identifizierung der wichtigsten Teile des Signals und die andere zur Bewertung ihrer relativen Bedeutung f\u00fcr die endg\u00fcltige Vorhersage. <\/p>\n\n\n\n
Um das Verst\u00e4ndnis zu beurteilen, versteckten sie einen Teil der Daten, um zu sehen, ob sie f\u00fcr die KI-Entscheidungsfindung relevant waren. Dieser Ansatz f\u00fchrte jedoch manchmal zu Fehlern in den Ergebnissen. Um dieses Problem zu beheben, trainierten sie die Maschine mit einem erweiterten Datensatz, der versteckte Daten enth\u00e4lt, was dazu beitrug, Ausgewogenheit und Genauigkeit aufrechtzuerhalten. Anschlie\u00dfend entwickelte das Team zwei M\u00f6glichkeiten, um die Leistung der Verst\u00e4ndnismethoden zu messen und zu zeigen, ob die KI die richtigen Daten f\u00fcr die Entscheidungsfindung verwendete und ob alle Daten ordnungsgem\u00e4\u00df ber\u00fccksichtigt wurden.<\/p>\n\n\n\n
\u201eUnsere Methode zielt darauf ab, das Modell zu bewerten, das wir tats\u00e4chlich in unserem Einsatzgebiet einsetzen werden, und so seine Zuverl\u00e4ssigkeit sicherzustellen\u201c, erkl\u00e4rt Hugues Turb\u00e9. Um die Forschung fortzusetzen, entwickelte das Team einen synthetischen Datensatz, der der wissenschaftlichen Gemeinschaft zur Verf\u00fcgung steht, um jede neue KI, die darauf ausgelegt ist, Sequenzen im Zeitverlauf zu interpretieren, einfach zu bewerten.<\/p>\n\n\n\n
Die Zukunft der k\u00fcnstlichen Intelligenz in der Medizin<\/strong><\/h3>\n\n\n\nDas Team plant, seine Methode in einem klinischen Umfeld zu testen, wo die Angst vor KI noch immer weit verbreitet ist. \u201eDer Aufbau von Vertrauen in die KI-Bewertung ist ein entscheidender Schritt zur Einf\u00fchrung im klinischen Umfeld\u201c, erkl\u00e4rt Dr. Mina Bjelogrlic, die das Team f\u00fcr maschinelles Lernen in der Lovis-Abteilung leitet und Mitautorin dieser Studie ist. \u201eUnsere Forschung konzentriert sich auf die Bewertung von KI basierend auf Zeitsequenzen, aber die gleiche Methodik k\u00f6nnte auch auf KI angewendet werden, die auf anderen Datentypen wie Bild- oder Textdaten basiert. Ziel ist es, Transparenz, Verst\u00e4ndlichkeit und Verl\u00e4sslichkeit von KI f\u00fcr Nutzer zu gew\u00e4hrleisten.\u201c<\/p>\n\n\n\n
Das Verst\u00e4ndnis der Funktionsweise von KI ist der Schl\u00fcssel zum Aufbau von Vertrauen in ihren Einsatz, insbesondere in kritischen Bereichen wie der Medizin und dem Finanzwesen. Die von einem Forscherteam der Universit\u00e4t Genf und der National University of Singapore durchgef\u00fchrte Studie bietet eine innovative Methode zur Bewertung des Verst\u00e4ndnisses k\u00fcnstlicher Intelligenz, die Benutzern hilft, zu verstehen, warum und wie Entscheidungen getroffen werden. Besonders wichtig ist dieser Ansatz f\u00fcr medizinische Anwendungen, bei denen Entscheidungen durch k\u00fcnstliche Intelligenz lebensbedrohlich sein k\u00f6nnen.<\/p>","protected":false},"excerpt":{"rendered":"
Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[72,4,76],"tags":[148,126,192],"class_list":["post-1302","post","type-post","status-publish","format-standard","hentry","category-orodja","category-racunalnistvo-telefonija","category-varnost","tag-chatgpt","tag-google","tag-umetna-inteligenca"],"acf":{"subtitle":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","heading":"","summary":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","thumbnail_small":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-560x315.jpg","thumbnail_large":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-1024x1024.jpg","thumbnail_caption":"Foto: Unsplash","gallery":"","video_gallery":null,"author":"","links":null,"sources":null,"skip_language":[]},"yoast_head":"\n
Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice<\/title>\n<meta name=\"description\" content=\"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/posts\/1302\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"og:description\" content=\"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/viva.racunalniske-novice.com\/de\/scientists-are-researching-to-understand-artificial-intelligence\/\" \/>\n<meta property=\"og:site_name\" content=\"Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"article:published_time\" content=\"2023-05-25T11:00:00+00:00\" \/>\n<meta name=\"author\" content=\"sinusiks\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"sinusiks\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"5\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\",\"isPartOf\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\"},\"datePublished\":\"2023-05-25T11:00:00+00:00\",\"dateModified\":\"2023-05-25T11:00:00+00:00\",\"author\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\"},\"breadcrumb\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/viva.racunalniske-novice.com\/en\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/en\/\",\"name\":\"Ra\u010dunalni\u0161ke novice\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\",\"name\":\"sinusiks\",\"sameAs\":[\"https:\/\/ml.racunalniske-novice.com\"],\"url\":\"https:\/\/viva.racunalniske-novice.com\/de\/author\/sinusiks\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","description":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/posts\/1302","og_locale":"de_DE","og_type":"article","og_title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","og_description":"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]","og_url":"https:\/\/viva.racunalniske-novice.com\/de\/scientists-are-researching-to-understand-artificial-intelligence\/","og_site_name":"Ra\u010dunalni\u0161ke novice","article_published_time":"2023-05-25T11:00:00+00:00","author":"sinusiks","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"sinusiks","Gesch\u00e4tzte Lesezeit":"5\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","url":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","name":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","isPartOf":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website"},"datePublished":"2023-05-25T11:00:00+00:00","dateModified":"2023-05-25T11:00:00+00:00","author":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4"},"breadcrumb":{"@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/viva.racunalniske-novice.com\/en\/"},{"@type":"ListItem","position":2,"name":"Znanstveniki raziskujejo razumevanje umetne inteligence"}]},{"@type":"WebSite","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website","url":"https:\/\/viva.racunalniske-novice.com\/en\/","name":"Ra\u010dunalni\u0161ke novice","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4","name":"sinusiks","sameAs":["https:\/\/ml.racunalniske-novice.com"],"url":"https:\/\/viva.racunalniske-novice.com\/de\/author\/sinusiks\/"}]}},"_links":{"self":[{"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/posts\/1302","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/comments?post=1302"}],"version-history":[{"count":0,"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/posts\/1302\/revisions"}],"wp:attachment":[{"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/media?parent=1302"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/categories?post=1302"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/de\/wp-json\/wp\/v2\/tags?post=1302"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"Verst\u00e4ndnis](\"\/wp-content\/uploads\/2023\/05\/pexels-sanket-mishra-16461434-1024x683.jpg\")
<\/figure>\n\n\n\n