{"id":932,"date":"2022-04-28T11:22:03","date_gmt":"2022-04-28T11:22:03","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=932"},"modified":"2022-04-28T17:52:41","modified_gmt":"2022-04-28T17:52:41","slug":"twoj-wirtualny-partner-w-biznesie-czy-systemy-si-i-data-science-wzbudzaja-zaufanie-co-sprawi-by-zaufanie-bylo-jeszcze-wieksze","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/04\/28\/twoj-wirtualny-partner-w-biznesie-czy-systemy-si-i-data-science-wzbudzaja-zaufanie-co-sprawi-by-zaufanie-bylo-jeszcze-wieksze\/","title":{"rendered":"Tw\u00f3j wirtualny partner w biznesie – czy systemy SI i data science wzbudzaj\u0105 zaufanie, co sprawi by zaufanie by\u0142o jeszcze wi\u0119ksze."},"content":{"rendered":"

W ostatnim czasie coraz cz\u0119\u015bciej wykorzystuje si\u0119 technologie sztucznej inteligencji i data science do wspomagania biznesu w codziennych zadaniach. Niestety, nadal wida\u0107 brak pe\u0142nego zaufania zar\u00f3wno ze strony u\u017cytkownik\u00f3w jak i przedsi\u0119biorc\u00f3w chc\u0105cych ulepszy\u0107 swoje us\u0142ugi za pomoc\u0105 AI. W tym po\u015bcie postaramy si\u0119 okre\u015bli\u0107 genez\u0119 problemu i przedstawi\u0107 sposoby w jakie mo\u017cna to naprawi\u0107<\/strong><\/p>\n

\"How<\/strong><\/p>\n

<\/p>\n

Business Process Management<\/strong><\/p>\n

Procesy biznesowe, jako schemat dzia\u0142a\u0144 zawieraj\u0105 wiele element\u00f3w decyzyjnych. Przyk\u0142adami mo\u017ce by\u0107 decyzja o przyznaniu kredytu, zarz\u0105dzanie przychodami, wycena lub przyznanie ubezpieczenia.<\/span><\/p>\n

\"\"
Proces biznesowy przyznawania po\u017cyczki klientowi.<\/figcaption><\/figure>\n

 <\/p>\n

Zautomatyzowanie tych element\u00f3w systemu za pomoc\u0105 uczenia maszynowego ma ogromny potencja\u0142 zar\u00f3wno w kwestii obni\u017cenia koszt\u00f3w, jak i skr\u00f3cenia czasu trwania takiego procesu.\u00a0<\/span><\/p>\n

Niestety, niewiele firm decyduje si\u0119 na takie rozwi\u0105zanie. Autorzy artyku\u0142u „AI trust in business processes: the need for process-aware explanations.”\u00a0jako przyczyn\u0119 podaj\u0105 to, \u017ce klienci s\u0105 zwykle niech\u0119tni do podj\u0119cia ryzyka wynikaj\u0105cego z zastosowania uczenia maszynowego,\u00a0 a tak\u017ce nie do ko\u0144ca ufaj\u0105 modelom AI. Zauwa\u017caj\u0105 tak\u017ce brak literatury i kompleksowego opisu dotycz\u0105cego zastosowa\u0144 AI w sektorze BPM, opisanej w spos\u00f3b zrozumia\u0142y dla os\u00f3b zwi\u0105zanych z BPM. Nale\u017cy pami\u0119ta\u0107, \u017ce s\u0105 one specjalistami w dziedzinie ekonomii, bankowo\u015bci i proces\u00f3w biznesowych, a nie w dziedzinie AI i machine learningu. Tutaj jest zauwa\u017calna luka w dost\u0119pno\u015bci tre\u015bci dla tych u\u017cytkownik\u00f3w.<\/span><\/p>\n

Efektem powy\u017cszych przyczyn jest niewielkie zastosowanie AI i machine learningu, a je\u015bli ju\u017c jest zastosowane, to ogranicza si\u0119 do w\u0105skich dziedzin takich jak obs\u0142uga klienta, czy ocena ryzyka.<\/span><\/p>\n

Maj\u0105c na uwadze to, \u017ce do 2023 roku przewidywana warto rynku zwi\u0105zana z BPM ma osi\u0105gn\u0105\u0107 warto\u015b\u0107 16 miliard\u00f3w dolar\u00f3w, zastosowanie AI mo\u017ce przynie\u015b\u0107 ogromne oszcz\u0119dno\u015bci w tej dziedzinie.<\/span><\/p>\n

Przyk\u0142adem takiego potencjalnego zastosowania mo\u017ce by\u0107 proces udzielania po\u017cyczek klientom banku.<\/span><\/p>\n

Jak wida\u0107 na powy\u017cszym diagramie proces jako wej\u015bcie przyjmuje aktywno\u015bci i uwarunkowania, a nast\u0119pnie na ich podstawie wydaje werdykt na temat przyznania po\u017cyczki. Obecna forma jest poprawna w 85% przypadk\u00f3w. Wykorzystuj\u0105c dodatkowo narz\u0119dzia takie jak LIME pozwalaj\u0105ce okre\u015bli\u0107 przyczyn\u0119 takiej, a nie innej decyzji.<\/span><\/p>\n

W naszym przypadku wskazywa\u0142 na aktywno\u015b\u0107 Skilled agent-a. Je\u017celi ona by\u0142a du\u017ca, powodowa\u0142a ona odrzucenie wniosku o przyznanie po\u017cyczki.<\/span><\/p>\n

\"\"
Odmowa przyznania po\u017cyczki wynika g\u0142\u00f3wnie z wysokiej aktywno\u015bci agenta, a nie warto\u015bci parametr\u00f3w do niego przekazywanych.<\/figcaption><\/figure>\n

Powy\u017cszy wynik pokazuje, \u017ce po\u017cyczka jest odrzucana, gdy przechodzi przed \u201cSkilled agenta\u201d. Z drugiej strony, gdy znawca tematu i konkretnego przyk\u0142adu BPM okre\u015bli, \u017ce wp\u0142ywem na odrzucenie wniosku jest wysoka kwota po\u017cyczki, przy jednocze\u015bnie niskiej ocenie zdolno\u015bci kredytowej.Gdy u\u017cyjemy narz\u0119dzia LIME w kontek\u015bcie tych warto\u015bci wej\u015bciowych (LOAN AMOUNT, CREDIT SCORE) okazuje si\u0119 \u017ce wyniki s\u0105 ju\u017c znacz\u0105ce i maj\u0105 odwzorowanie w\u00a0 rzeczywisto\u015bci.<\/span><\/p>\n

\"\"
Odmowa przyznania po\u017cyczki wynika g\u0142\u00f3wnie z niskiej warto\u015bci oceny kredytowej.<\/figcaption><\/figure>\n

Powy\u017cszy przyk\u0142ad pokazuje, \u017ce bezpo\u015brednie zastosowanie technik uczenia maszynowego i data science to proces\u00f3w biznesowych mo\u017ce prowadzi\u0107 do myl\u0105cych, lub niekompletnych wynik\u00f3w. Dodatkowo wida\u0107, \u017ce stosuj\u0105c techniki uczenia maszynowego nale\u017cy by\u0107 \u015bwiadomym tego, do czego s\u0105 stosowane i w razie potrzeby poprawia\u0107 algorytmy, aby poprawi\u0107 ich jako\u015b\u0107.<\/span><\/p>\n

 <\/p>\n

Jak zwi\u0119kszy\u0107 zaufanie do AI w sektorze BPM?<\/b><\/p>\n

Jako rozwi\u0105zanie problemu autorzy proponuj\u0105 dodanie modelu kt\u00f3ry jest \u015bwiadom idei procesu i pomaga w interpretacji wyniku.<\/span><\/p>\n

\"\"
Zaproponowany model kt\u00f3ry u\u0142atwi uzasadnienie wynik\u00f3w procesu biznesowego.<\/figcaption><\/figure>\n

Dodatkowo, nale\u017cy znacz\u0105co powi\u0119kszy\u0107 dost\u0119pne treningowe zbiory danych, na kt\u00f3re mo\u017cna wykorzystywa\u0107, przy tworzeniu nowych modeli BPM. Nowe zbiory powinny r\u00f3wnie\u017c mierzy\u0107 jako\u015b\u0107 argumentacji, dlaczego taki wynik zosta\u0142 otrzymany.<\/span><\/p>\n

Nale\u017cy r\u00f3wnie\u017c pami\u0119ta\u0107 o poszerzeniu literatury skierowanej do os\u00f3b specjalizuj\u0105cych si\u0119 w BPM, kt\u00f3ra traktuje o AI i data science w spos\u00f3b zrozumia\u0142y dla nich i przyst\u0119pny.<\/span><\/p>\n

 <\/p>\n

Filary zaufania do AI w biznesie<\/b><\/p>\n

Podsumowuj\u0105c problemu jakie do tej pory napotykano przy zastosowaniu uczenia maszynowego i data science w biznesie mo\u017cna okre\u015bli\u0107 zasady, kt\u00f3re powinno spe\u0142nia\u0107 takie rozwi\u0105zanie:<\/span><\/p>\n

Sprawiedliwo\u015b\u0107 i Transparencja –\u00a0 <\/b>Je\u017celi oczekujemy od biznesu, \u017ce jego decyzje procesowe b\u0119d\u0105 sprawiedliwe to musimy mie\u0107 zapewnione algorytmy, kt\u00f3re wyja\u015bniaj\u0105 i przedstawiaj\u0105 tok wnioskowania. Wyniki musz\u0105 by\u0107 uzasadnione, a przez to sprawiedliwe i uczciwe.\u00a0<\/span><\/p>\n

Zysk – <\/b>Firmy musz\u0105 zapewni\u0107 akcjonariuszy, \u017ce zyski z zastosowania AI w BPM przewy\u017cszaj\u0105 koszt ich wprowadzenia. Mo\u017cna mierzy\u0107 to na r\u00f3\u017cnych poziomach, od zadowolenia u\u017cytkownik\u00f3w, skr\u00f3cenie czasu trwania proces\u00f3w po bardziej trafne decyzje.\u00a0<\/span><\/p>\n

Zaufanie – <\/b>Spo\u0142ecze\u0144stwo musi by\u0107 przekonane, \u017ce firmy, kt\u00f3re decyduj\u0105 si\u0119 na u\u017cycie AI mog\u0105 by\u0107 godne zaufania poprzez zbieranie danych i mog\u0105 by\u0107 rozliczane z decyzji kt\u00f3re algorytmy dokonuj\u0105. Zaufanie jest krytyczne aby uzyska\u0107 akceptacj\u0119 spo\u0142ecze\u0144stwa, szczeg\u00f3lnie gdy AI dzia\u0142a bez nadzoru ludzkiego. <\/span><\/p>\n

 <\/p>\n

Sztuczna inteligencja w transporcie<\/strong><\/p>\n

\"\"<\/p>\n

Jednym z obszar\u00f3w, w kt\u00f3rym intensywnie prowadzone s\u0105 badania jest wykorzystanie autonomicznych samochod\u00f3w do przewozu os\u00f3b. Wyeliminowanie potrzeby op\u0142acania kierowcy, czy szofera, kt\u00f3ra stanowi wi\u0119kszo\u015bc koszt\u00f3w tego typu us\u0142ug umo\u017cliwi\u0142oby poszerzenie grona klient\u00f3w i wprowadzeniu modelu TaaS (Transport as a service). Zmniejszenie ilo\u015bci prywatnych samochod\u00f3w rozwi\u0105za\u0142oby wiele problem\u00f3w komunikacyjnych, szczeg\u00f3lnie w wi\u0119kszych metropoliach. Najwi\u0119kszym dylematem jest kwestia zaufania do kilkutonowej maszyny nad kt\u00f3r\u0105 nie mamy kontroli. Wiele firm prowadzi testy autonomicznych samochod\u00f3w, kt\u00f3re nie zawsze ko\u0144czy\u0142y si\u0119 powodzeniem. Jedn\u0105 z g\u0142o\u015bniejszych spraw by\u0142 pierwszy odnotowany wypadek z udzia\u0142em autonomicznego samochodu UBER, w kt\u00f3rym zgin\u0105\u0142 pieszy. Zdarzenie mia\u0142o miejsce 18 marca 2018 roku w Tempe Arizona. Kobieta w wieku 49 lat p\u00f3\u017anym wieczorem przechodzi\u0142a przez 4-pasmow\u0105 ulic\u0119 pchaj\u0105c rower, na kt\u00f3rym za\u0142adowane by\u0142y torby zakupowe. Samoch\u00f3d prowadzony w spos\u00f3b autonomiczny uderzy\u0142 kobiet\u0119, kt\u00f3ra nast\u0119pnie zmar\u0142a w szpitalu. Jako, \u017ce by\u0142y to przejazdy testowe, za kierownic\u0105 siedzia\u0142 operator, kt\u00f3ry w sytuacjach awaryjnych powinien przej\u0105\u0107 kontrol\u0119 nad pojazdem. Nast\u0119pstwem tego wypadku by\u0142o wstrzymanie programu testowego przez firm\u0119 UBER w Arizonie. W marcu 2019 roku prokuratorzy stwierdzili, \u017ce nie maj\u0105 podstaw do poci\u0105gni\u0119cia korporacji do odpowiedzialno\u015bci za wypadek ze skutkiem \u015bmiertelnym, kt\u00f3rym uczestniczy\u0142o ich auto.<\/span><\/p>\n