{"id":1302,"date":"2023-05-25T13:00:00","date_gmt":"2023-05-25T11:00:00","guid":{"rendered":"https:\/\/vivalainfo.com\/en\/znanstveniki-raziskujejo-razumevanje-umetne-inteligence\/"},"modified":"2023-05-25T13:00:00","modified_gmt":"2023-05-25T11:00:00","slug":"znanstveniki-raziskujejo-razumevanje-umetne-inteligence","status":"publish","type":"post","link":"https:\/\/viva.racunalniske-novice.com\/hr\/znanstvenici-istrazuju-kako-bi-razumjeli-umjetnu-inteligenciju\/","title":{"rendered":"Znanstvenici istra\u017euju kako bi razumjeli umjetnu inteligenciju"},"content":{"rendered":"

Ovaj pristup poma\u017ee korisnicima da razumiju unutarnje funkcioniranje \u201ecrnih kutija\u201c algoritama umjetne inteligencije, posebno u medicinskim primjenama i u kontekstu nadolaze\u0107eg Europskog zakona o umjetnoj inteligenciji.<\/p>\n\n\n\n

Tim istra\u017eiva\u010da sa Sveu\u010dili\u0161ta u \u017denevi (UNIGE), Sveu\u010dili\u0161nih bolnica u \u017denevi (HUG) i Nacionalnog sveu\u010dili\u0161ta u Singapuru (NUS) razvio je novi pristup za procjenu razumijevanja tehnologija umjetne inteligencije.<\/p>\n\n\n\n

Ovaj proboj omogu\u0107uje ve\u0107u transparentnost i vjerodostojnost dijagnosti\u010dkih i prediktivnih alata pokretanih umjetnom inteligencijom. Nova metoda otkriva tajanstveno funkcioniranje takozvanih \u201ecrnih kutija\u201c algoritama umjetne inteligencije, poma\u017eu\u0107i korisnicima da razumiju \u0161to utje\u010de na rezultate koje umjetna inteligencija proizvodi i mogu li im se vjerovati.<\/p>\n\n\n\n

Ovo je posebno va\u017eno u scenarijima koji imaju zna\u010dajan utjecaj na ljudsko zdravlje i dobrobit, kao \u0161to je upotreba umjetne inteligencije u medicinskom okru\u017eenju. Istra\u017eivanje ima posebno zna\u010denje u kontekstu nadolaze\u0107eg Zakona Europske unije o umjetnoj inteligenciji, koji nastoji regulirati razvoj i kori\u0161tenje AI-a u EU-u.<\/p>\n\n\n\n

Nalazi su nedavno objavljeni objavljeno u \u010dasopisu Nature Machine Intelligence<\/a>Vremenski nizovi podataka, koji predstavljaju razvoj informacija tijekom vremena, prisutni su svugdje: na primjer, u medicini pri snimanju sr\u010dane aktivnosti elektrokardiogramom (EKG-om), pri prou\u010davanju potresa, pra\u0107enju vremenskih obrazaca ili u ekonomiji za pra\u0107enje financijskih tr\u017ei\u0161ta.<\/p>\n\n\n\n

Ovi se podaci mogu modelirati pomo\u0107u AI tehnologija za izgradnju dijagnosti\u010dkih ili prediktivnih alata. Napredak u AI-u, a posebno duboko u\u010denje, koje uklju\u010duje obuku stroja kori\u0161tenjem velikih koli\u010dina podataka za njihovo tuma\u010denje i u\u010denje korisnih obrazaca, otvara put sve to\u010dnijim dijagnosti\u010dkim i prediktivnim alatima. Me\u0111utim, nedostatak uvida u to kako AI algoritmi rade i \u0161to utje\u010de na njihove rezultate postavlja va\u017ena pitanja o pouzdanosti AI tehnologije "crne kutije".<\/p>\n\n\n\n

\u201eNa\u010din na koji ovi algoritmi rade je u najboljem slu\u010daju netransparentan\u201c, ka\u017ee profesor Christian Lovis, ravnatelj Odjela za radiologiju i medicinsku informatiku na Medicinskom fakultetu UNIGE i voditelj Odjela za medicinsku informatiku na HUG-u, te jedan od autora studije o razumijevanju umjetne inteligencije.<\/p>\n\n\n\n

\u201cNaravno da su ulozi, pogotovo financijski, izuzetno veliki. Ali kako mo\u017eemo vjerovati stroju bez razumijevanja osnove njegovog razmi\u0161ljanja? Ta su pitanja klju\u010dna, posebno u sektorima poput medicine, gdje odluke vo\u0111ene umjetnom inteligencijom mogu utjecati na zdravlje ljudi, pa \u010dak i njihove \u017eivote, te u financijama, gdje mogu dovesti do velikih gubitaka kapitala.\u201d<\/p>\n\n\n\n

Razumijevanje metoda nastoji odgovoriti na ova pitanja otkrivaju\u0107i za\u0161to i kako je umjetna inteligencija do\u0161la do odre\u0111ene odluke i razloga koji stoje iza nje. \u201ePoznavanje elemenata koji su prevagnuli u korist ili protiv rje\u0161enja u odre\u0111enoj situaciji, omogu\u0107uju\u0107i barem odre\u0111enu transparentnost, pove\u0107ava na\u0161e povjerenje u performanse alata\u201c, ka\u017ee docent Gianmarco Mengaldo, direktor MathEXLaba na Fakultetu dizajna i in\u017eenjerstva Nacionalnog sveu\u010dili\u0161ta u Singapuru.<\/p>\n\n\n\n

\u201eMe\u0111utim, trenutne metode razumijevanja koje se \u0161iroko koriste u prakti\u010dnim primjenama i industrijskim krugovima daju vrlo razli\u010dite rezultate, \u010dak i kada se primjenjuju na isti zadatak i skup podataka. Ovo postavlja va\u017eno pitanje: koja je metoda to\u010dna ako bi trebao postojati jedinstven, to\u010dan odgovor? Stoga procjena metoda razumijevanja postaje jednako va\u017ena kao i samo razumijevanje?\u201d<\/p>\n\n\n\n

\"razumijevanje<\/figure>\n\n\n\n

Razlikovanje va\u017enih i nebitnih informacija<\/strong><\/h3>\n\n\n\n

Razlikovanje podataka klju\u010dno je u razvoju AI tehnologija za njihovo potpuno razumijevanje. Na primjer, kada AI analizira slike, fokusira se na nekoliko istaknutih zna\u010dajki.<\/p>\n\n\n\n

Doktorand u laboratoriju profesora Lovisa i prvi autor AI studije Hugues Turb\u00e9 obja\u0161njava: \u201cNa primjer, AI mo\u017ee razlikovati sliku psa od slike ma\u010dke. Isti princip vrijedi i za analizu vremenskih sekvenci: stroj mora biti u stanju odabrati elemente na temelju kojih \u0107e razmi\u0161ljati. U slu\u010daju EKG signala, to zna\u010di koordinaciju signala s razli\u010ditih elektroda kako bi se procijenile mogu\u0107e fluktuacije koje bi bile znak odre\u0111ene bolesti srca."<\/p>\n\n\n\n

Nije lako odabrati metodu razumijevanja izme\u0111u svih dostupnih za odre\u0111enu svrhu. Razli\u010dite metode umjetne inteligencije \u010desto daju vrlo razli\u010dite rezultate, \u010dak i kada se primjenjuju na isti skup podataka i zadatak.<\/p>\n\n\n\n

Kako bi odgovorili na ovaj izazov, istra\u017eiva\u010di su razvili dvije nove metode evaluacije koje poma\u017eu razumjeti kako umjetna inteligencija donosi odluke: jednu za prepoznavanje najva\u017enijih dijelova signala, a drugu za procjenu njihove relativne va\u017enosti za kona\u010dno predvi\u0111anje. <\/p>\n\n\n\n

Kako bi procijenili razumijevanje, sakrili su dio podataka kako bi vidjeli jesu li relevantni za dono\u0161enje odluka umjetnom inteligencijom. Me\u0111utim, ovaj pristup je ponekad dovodio do pogre\u0161aka u rezultatima. Kako bi to popravili, uvje\u017ebali su stroj na pro\u0161irenom skupu podataka koji uklju\u010duje skrivene podatke, \u0161to je pomoglo u odr\u017eavanju ravnote\u017ee i to\u010dnosti. Tim je potom stvorio dva na\u010dina za mjerenje izvedbe metoda razumijevanja, pokazuju\u0107i je li AI koristila prave podatke za dono\u0161enje odluka i jesu li svi podaci ispravno uzeti u obzir.<\/p>\n\n\n\n

"Na\u0161a metoda ima za cilj procijeniti model koji \u0107emo stvarno koristiti u na\u0161em operativnom podru\u010dju, \u010dime se osigurava njegova pouzdanost", obja\u0161njava Hugues Turb\u00e9. Kako bi nastavio istra\u017eivanje, tim je razvio sinteti\u010dki skup podataka koji je dostupan znanstvenoj zajednici za jednostavnu procjenu bilo koje nove umjetne inteligencije dizajnirane za tuma\u010denje sekvenci tijekom vremena.<\/p>\n\n\n\n

Budu\u0107nost umjetne inteligencije u medicini<\/strong><\/h3>\n\n\n\n

Tim planira testirati svoju metodu u klini\u010dkom okru\u017eenju, gdje je strah od umjetne inteligencije jo\u0161 uvijek ra\u0161iren. "Izgradnja povjerenja u procjenu umjetne inteligencije klju\u010dni je korak prema usvajanju u klini\u010dkim okru\u017eenjima", obja\u0161njava dr. Mina Bjelogrlic, koja vodi tim za strojno u\u010denje u Lovisovom odjelu i koautorica je ove studije. \u201cNa\u0161e istra\u017eivanje usredoto\u010deno je na procjenu umjetne inteligencije na temelju vremenskih sekvenci, ali ista se metodologija mo\u017ee primijeniti na umjetnu inteligenciju temeljenu na drugim vrstama podataka, kao \u0161to su slikovni ili tekstualni podaci. Cilj je osigurati transparentnost, razumljivost i pouzdanost AI za korisnike.\u201d<\/p>\n\n\n\n

Razumijevanje unutarnjeg funkcioniranja umjetne inteligencije klju\u010dno je za izgradnju povjerenja u njezinu upotrebu, posebno u kriti\u010dnim sektorima kao \u0161to su medicina i financije. Istra\u017eivanje koje je proveo tim istra\u017eiva\u010da sa Sveu\u010dili\u0161ta u \u017denevi i Nacionalnog sveu\u010dili\u0161ta u Singapuru nudi inovativnu metodu procjene razumijevanja umjetne inteligencije koja poma\u017ee korisnicima da razumiju za\u0161to i kako se donose odluke. Ovaj je pristup osobito va\u017ean za medicinske primjene, gdje odluke koje donosi umjetna inteligencija mogu biti opasne po \u017eivot.<\/p>","protected":false},"excerpt":{"rendered":"

Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]<\/p>","protected":false},"author":2,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[72,4,76],"tags":[148,126,192],"class_list":["post-1302","post","type-post","status-publish","format-standard","hentry","category-orodja","category-racunalnistvo-telefonija","category-varnost","tag-chatgpt","tag-google","tag-umetna-inteligenca"],"acf":{"subtitle":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","heading":"","summary":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo na AI. ","thumbnail_small":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-560x315.jpg","thumbnail_large":"https:\/\/racunalniske-novice.com\/wp-content\/uploads\/2023\/05\/julien-tromeur-FYOwBvRb2Mk-unsplash-1024x1024.jpg","thumbnail_caption":"Foto: Unsplash","gallery":"","video_gallery":null,"author":"","links":null,"sources":null,"skip_language":[]},"yoast_head":"\nZnanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice<\/title>\n<meta name=\"description\" content=\"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/posts\/1302\" \/>\n<meta property=\"og:locale\" content=\"hr_HR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"og:description\" content=\"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/viva.racunalniske-novice.com\/hr\/scientists-are-researching-to-understand-artificial-intelligence\/\" \/>\n<meta property=\"og:site_name\" content=\"Ra\u010dunalni\u0161ke novice\" \/>\n<meta property=\"article:published_time\" content=\"2023-05-25T11:00:00+00:00\" \/>\n<meta name=\"author\" content=\"sinusiks\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Napisao\/la\" \/>\n\t<meta name=\"twitter:data1\" content=\"sinusiks\" \/>\n\t<meta name=\"twitter:label2\" content=\"Procijenjeno vrijeme \u010ditanja\" \/>\n\t<meta name=\"twitter:data2\" content=\"5 minuta\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\",\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice\",\"isPartOf\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\"},\"datePublished\":\"2023-05-25T11:00:00+00:00\",\"dateModified\":\"2023-05-25T11:00:00+00:00\",\"author\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\"},\"breadcrumb\":{\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\"},\"inLanguage\":\"hr\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/viva.racunalniske-novice.com\/en\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Znanstveniki raziskujejo razumevanje umetne inteligence\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#website\",\"url\":\"https:\/\/viva.racunalniske-novice.com\/en\/\",\"name\":\"Ra\u010dunalni\u0161ke novice\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"hr\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4\",\"name\":\"sinusiks\",\"sameAs\":[\"https:\/\/ml.racunalniske-novice.com\"],\"url\":\"https:\/\/viva.racunalniske-novice.com\/hr\/author\/sinusiks\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","description":"Raziskovalci so razvili inovativno metodo za ocenjevanje tega, kako umetna inteligenca (AI) razume podatke, in s tem izbolj\u0161ali preglednost in zaupanje v diagnosti\u010dna in napovedna orodja, ki temeljijo","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/posts\/1302","og_locale":"hr_HR","og_type":"article","og_title":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","og_description":"Ta pristop pomaga uporabnikom razumeti notranje delovanje “\u010drnih \u0161katel” algoritmov umetne inteligence, zlasti v medicinski rabi in v kontekstu prihajajo\u010dega evropskega Akta o umetni inteligenci. Skupina raziskovalcev Univerze v \u017denevi (UNIGE), \u017denevskih univerzitetnih bolni\u0161nic (HUG) in Nacionalne univerze v Singapurju (NUS) je razvila nov pristop za ocenjevanje razumevanja tehnologij umetne inteligence. Ta preboj omogo\u010da ve\u010djo […]","og_url":"https:\/\/viva.racunalniske-novice.com\/hr\/scientists-are-researching-to-understand-artificial-intelligence\/","og_site_name":"Ra\u010dunalni\u0161ke novice","article_published_time":"2023-05-25T11:00:00+00:00","author":"sinusiks","twitter_card":"summary_large_image","twitter_misc":{"Napisao\/la":"sinusiks","Procijenjeno vrijeme \u010ditanja":"5 minuta"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","url":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/","name":"Znanstveniki raziskujejo razumevanje umetne inteligence - Ra\u010dunalni\u0161ke novice","isPartOf":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website"},"datePublished":"2023-05-25T11:00:00+00:00","dateModified":"2023-05-25T11:00:00+00:00","author":{"@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4"},"breadcrumb":{"@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb"},"inLanguage":"hr","potentialAction":[{"@type":"ReadAction","target":["https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/viva.racunalniske-novice.com\/scientists-are-researching-to-understand-artificial-intelligence\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/viva.racunalniske-novice.com\/en\/"},{"@type":"ListItem","position":2,"name":"Znanstveniki raziskujejo razumevanje umetne inteligence"}]},{"@type":"WebSite","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#website","url":"https:\/\/viva.racunalniske-novice.com\/en\/","name":"Ra\u010dunalni\u0161ke novice","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/viva.racunalniske-novice.com\/en\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"hr"},{"@type":"Person","@id":"https:\/\/viva.racunalniske-novice.com\/en\/#\/schema\/person\/afb62e36efa34516d50249517e4cdbb4","name":"sinusiks","sameAs":["https:\/\/ml.racunalniske-novice.com"],"url":"https:\/\/viva.racunalniske-novice.com\/hr\/author\/sinusiks\/"}]}},"_links":{"self":[{"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/posts\/1302","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/comments?post=1302"}],"version-history":[{"count":0,"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/posts\/1302\/revisions"}],"wp:attachment":[{"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/media?parent=1302"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/categories?post=1302"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/viva.racunalniske-novice.com\/hr\/wp-json\/wp\/v2\/tags?post=1302"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}