{"id":697,"date":"2022-04-20T16:30:29","date_gmt":"2022-04-20T16:30:29","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=697"},"modified":"2022-04-21T14:15:16","modified_gmt":"2022-04-21T14:15:16","slug":"zrozumiec-robota-zrozumiec-si-czy-istotne-sa-moduly-wyjasniania-i-jak-je-zaprojektowac","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/04\/20\/zrozumiec-robota-zrozumiec-si-czy-istotne-sa-moduly-wyjasniania-i-jak-je-zaprojektowac\/","title":{"rendered":"Zrozumie\u0107 robota, zrozumie\u0107 SI – czy istotne s\u0105 modu\u0142y wyja\u015bniania i jak je zaprojektowa\u0107?"},"content":{"rendered":"

W dzisiejszych czasach kiedy coraz wi\u0119cej algorytm\u00f3w z dziedziny machine learningu osi\u0105ga w wybranych dziedzinach wyniki znacz\u0105co lepsze od ludzi nie zawsze mo\u017cliwe jest pe\u0142ne zrozumienie jak w\u0142a\u015bciwie one dzia\u0142aj\u0105. Dobrym przyk\u0142adem s\u0105 aktualnie wygrywaj\u0105ce z ka\u017cdym cz\u0142owiekiem silniki szachowe kt\u00f3rych strategii nie s\u0105 w stanie zrozumie\u0107 nawet najlepsi arcymistrzowie. <\/strong>W wielu dziedzinach mo\u017cliwo\u015bci interpretacji wykorzystywanych rozwi\u0105za\u0144 s\u0105 jednak kluczowe, st\u0105d bardzo wa\u017cn\u0105 i szeroko rozwijan\u0105 dziedzin\u0105 jest interpretacja modeli typu machine learning.<\/strong><\/p>\n

Dlaczego wyja\u015bnialno\u015b\u0107 jest wa\u017cna?<\/h2>\n

Dlaczego nie zaufamy modelowi i nie pozostawimy mu mo\u017cliwo\u015bci podejmowania decyzji za nas? Problemem jest fakt, \u017ce pojedyncza metryka, jak np. dok\u0142adno\u015b\u0107 klasyfikacji jest niekompletn\u0105 miar\u0105 wi\u0119kszo\u015bci wsp\u00f3\u0142czesnych zada\u0144. Prawd\u0105 jest, \u017ce nie zawsze potrzebujemy wyja\u015bnialno\u015bci, z tego wzgl\u0119du tworz\u0105c modele ML najpierw nale\u017cy odpowiedzie\u0107 na pytanie czy chcemy wiedzie\u0107 co <\/b>jest przewidywane – przyk\u0142adowo prawdopodobie\u0144stwo, \u017ce osoba obejrzy dany film? Czy chcemy jednak wiedzie\u0107 dlaczego <\/b>dane zjawisko wyst\u0105pi, w jaki spos\u00f3b dokonano jego prognozy, przyk\u0142adowo jak i dlaczego skuteczny b\u0119dzie lek?<\/p>\n

Cz\u0142owiek dzi\u0119ki obserwacji ca\u0142y czas si\u0119 uczy i aktualizuje sw\u00f3j mentalny model kiedy zdarzy si\u0119 co\u015b czego wcze\u015bniej nie zaobserwowa\u0142. Przyk\u0142adowo je\u017celi osoba nagle czuje si\u0119 \u017ale i ma wysypk\u0119 na twarzy zadaje sobie pytanie co spowodowa\u0142o jej stan? Uczy si\u0119, \u017ce zawsze kiedy zje jogurt ma takie problemy. Dzi\u0119ki obserwacji aktualizuje sw\u00f3j model poznawczy i postrzeganie \u015bwiata. Taki sam cel maj\u0105 wsp\u00f3\u0142cze\u015bni naukowcy. Model, kt\u00f3ry nie jest interpretowalny jest tak naprawd\u0119 czarn\u0105 skrzynk\u0105, w kt\u00f3rym wiedza nadal jest przed nami ukryta. W celu u\u0142atwienia nauki i zaspokojenia ciekawo\u015bci, dlaczego konkretne przewidywania s\u0105 tworzone przez maszyny kluczowa jest interpretacja i wyja\u015bnienia.<\/p>\n

Modele uczenia maszynowego coraz cz\u0119\u015bciej zaczynaj\u0105 przejmowa\u0107 zadania ze \u015bwiata rzeczywistego, kt\u00f3re obarczone s\u0105 wysokim ryzykiem. Jednym z zada\u0144 pojazd\u00f3w autonomicznych mo\u017ce by\u0107 wykrywanie pieszych. Chcemy mie\u0107 stuprocentow\u0105 pewno\u015b\u0107, \u017ce \u015bwiat, kt\u00f3ry wykreowa\u0142 model jest bezb\u0142\u0119dny, poniewa\u017c realne skutki mog\u0105 powodowa\u0107 nieodwracalne zdarzenia. Wyja\u015bnienie mo\u017ce ujawni\u0107, \u017ce najwa\u017cniejsz\u0105 cech\u0105 jest rozpoznawanie dw\u00f3ch n\u00f3g. W\u00f3wczas mo\u017cemy my\u015ble\u0107 o warunkach brzegowych takich jak osoby poruszaj\u0105ce si\u0119 na w\u00f3zku inwalidzkim, u kt\u00f3rych nogi mog\u0105 by\u0107 przys\u0142oni\u0119te przez w\u00f3zek. Kluczow\u0105 zatem cz\u0119\u015bci\u0105 jest odpowied\u017a na pytanie czy rzeczywi\u015bcie charakter pracy naszego modelu wymaga interpretowalno\u015bci i na tej podstawie podejmowanie dalszych dzia\u0142a\u0144 dotycz\u0105ce budowy modelu.<\/p>\n

Algorytmy bia\u0142oskrzynkowe<\/h2>\n

Algorytmy okre\u015blane jako bia\u0142oskrzynkowe to algorytmy w kt\u00f3rych cz\u0142owiek jest w stanie dok\u0142adnie okre\u015bli\u0107 w jaki spos\u00f3b model dzia\u0142a i dlaczego podj\u0105\u0142 tak\u0105 a nie inna decyzj\u0119.<\/p>\n

Najcz\u0119\u015bciej stosowanymi algorytmami tego typu w praktyce s\u0105:<\/p>\n