{"id":2673,"date":"2023-01-19T08:42:02","date_gmt":"2023-01-19T08:42:02","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=2673"},"modified":"2023-01-19T08:42:02","modified_gmt":"2023-01-19T08:42:02","slug":"jak-budowac-zaufanie-w-systemach-opartych-na-sztucznej-inteligencji-kwestia-wyjasniania-i-analiza-porownawcza-czlowiek-maszyna","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2023\/01\/19\/jak-budowac-zaufanie-w-systemach-opartych-na-sztucznej-inteligencji-kwestia-wyjasniania-i-analiza-porownawcza-czlowiek-maszyna\/","title":{"rendered":"Jak budowa\u0107 zaufanie w systemach opartych na sztucznej inteligencji. Kwestia wyja\u015bniania i analiza por\u00f3wnawcza cz\u0142owiek\/maszyna."},"content":{"rendered":"<p style=\"text-align: justify\"><strong style=\"font-size: 14px\"><span style=\"font-size: 12pt\">O sztucznej inteligencji s\u0142ysza\u0142 ju\u017c niemal ka\u017cdy, ale stosunkowo niewielka cz\u0119\u015b\u0107 naszego spo\u0142ecze\u0144stwa zetkn\u0119\u0142a si\u0119 z t\u0105 innowacj\u0105 bezpo\u015brednio. Nie wp\u0142ywa to jednak na nasze spore oczekiwania wobec sztucznej inteligencji. Wierzymy w to, \u017ce mo\u017ce przyczyni\u0107 si\u0119 do pozytywnych zmian na p\u0142aszczyznach spo\u0142ecznej i gospodarczej. Wykorzystanie ca\u0142kowitego potencja\u0142u sztucznej inteligencji wi\u0105\u017ce si\u0119 ze stawieniem czo\u0142a etycznym wyzwaniom zwi\u0105zanym z coraz powszechniejszym wykorzystaniem AI. Godna zaufania sztuczna inteligencja mo\u017ce przynie\u015b\u0107 wiele korzy\u015bci takich jak na przyk\u0142ad lepsza opieka zdrowotna, bezpieczniejszy i bardziej ekologiczny transport, wydajniejsza produkcja czy te\u017c ta\u0144sze i przede wszystkim bardziej zr\u00f3wnowa\u017cone \u017ar\u00f3d\u0142a energii.<\/span><\/strong><\/p>\n<pre><!--more--><span style=\"font-size: 10pt\">\"Publiczne i prywatne organizacje w coraz wi\u0119kszym stopniu wdra\u017caj\u0105 technologie oparte na sztucznej inteligencji. Kluczowym wyzwaniem staje si\u0119 zatem utrzymanie zaufania klient\u00f3w. S\u0142u\u017cy temu wspieranie pozytywnych relacji mi\u0119dzy sztuczn\u0105 inteligencj\u0105 a konsumentami. Raport pokazuje, \u017ce najwi\u0119ksze spo\u0142eczne i kulturowe w\u0105tpliwo\u015bci  wci\u0105\u017c budzi proces gromadzenia danych, szczeg\u00f3lnie na potrzeby opieki zdrowotnej i sektora publicznego(...)\" \r\n- Szef zespo\u0142u CIS Projects &amp; Consulting Eastern Europe w Capgemini, Beniamin Pozna\u0144ski\r\n<\/span><\/pre>\n<figure id=\"attachment_2698\" aria-describedby=\"caption-attachment-2698\" style=\"width: 600px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"wp-image-2698\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/badanieAI-768x430-1-300x168.jpg\" alt=\"\" width=\"600\" height=\"336\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/badanieAI-768x430-1-300x168.jpg 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/badanieAI-768x430-1.jpg 768w\" sizes=\"(max-width: 600px) 100vw, 600px\" \/><figcaption id=\"caption-attachment-2698\" class=\"wp-caption-text\">\u0179r\u00f3d\u0142o: https:\/\/www.ibm.com\/pl-pl<\/figcaption><\/figure>\n<p style=\"text-align: justify\">Wed\u0142ug bada\u0144 przeprowadzonych przez o\u015brodek badawczy NMS Market Research na zlecenie IBM, <strong>92 proc. Polak\u00f3w<\/strong> s\u0142ysza\u0142o ju\u017c o sztucznej inteligencji. <strong>Zaledwie jedna czwarta<\/strong> z nas mia\u0142a bezpo\u015bredni kontakt z AI. <strong>A\u017c 8 na 10 Polak\u00f3w<\/strong> spodziewa si\u0119 szerszego zastosowania sztucznej inteligencji w ci\u0105gu najbli\u017cszych 3 lat. Wykorzystanie sztucznej inteligencji w codziennym \u017cyciu jest najbardziej oczywiste <strong>dla m\u0142odych os\u00f3b w wieku 18-24 lata<\/strong>, bieg\u0142ych w korzystaniu z najnowszych technologii, to w\u0142a\u015bnie oni najch\u0119tniej przewiduj\u0105 rozw\u00f3j sztucznej inteligencji w nadchodz\u0105cych latach <strong>(88 proc.)<\/strong>. Co ciekawe, takie odpowiedzi pojawia\u0142y si\u0119 r\u00f3wnie cz\u0119sto w\u015br\u00f3d respondent\u00f3w w wieku <strong>55-65 lat (84 proc.)<\/strong>.\u00a0Prawie <strong>jedna trzecia Polak\u00f3w<\/strong> wskazuje, \u017ce sztuczna inteligencja w pozytywny spos\u00f3b przyczyni si\u0119 do rozwoju medycyny.<\/p>\n<h1 style=\"text-align: left\">Dzia\u0142ania, kt\u00f3re s\u0105 niezb\u0119dne przy budowaniu etycznych system\u00f3w AI.<\/h1>\n<p style=\"text-align: justify\">Jak wynika z raportu Capgemini aby wyj\u015b\u0107 na przeciw oczekiwaniom konsument\u00f3w powinni\u015bmy si\u0119 trzyma\u0107 7 kluczowych zasad. Stosowanie AI powinno posiada\u0107 jasno okre\u015blony cel i ocen\u0119 og\u00f3lnego oraz potencjalnego wp\u0142ywu na otoczenie. Powinni\u015bmy wdr\u0105\u017ca\u0107 systemy oparte na sztucznej inteligencji z korzy\u015bci\u0105 dla spo\u0142ecze\u0144stwa i \u015brodowiska. Poza dba\u0142o\u015bci\u0105 o transparentno\u015b\u0107 zasad wykorzystywania system\u00f3w inteligentnych za pomoc\u0105 narz\u0119dzi technologicznych powinni\u015bmy uwzgl\u0119dni\u0107 zasady r\u00f3\u017cnorodno\u015bci i integracji w ca\u0142ym cyklu \u017cycia system\u00f3w AI. Powinni\u015bmy humanizowa\u0107 do\u015bwiadczenia ze sztuczn\u0105 inteligencj\u0105 i zapewni\u0107 nadz\u00f3r cz\u0142owieka i solidno\u015b\u0107 technologiczn\u0105 system\u00f3w AI. Przede wszystkim powinni\u015bmy skupi\u0107 si\u0119 na ochronie prywatno\u015bci ludzi i powierzy\u0107 w\u0142a\u015bnie im sprawczo\u015b\u0107 i odpowiedzialno\u015b\u0107 za interakcje ze sztuczn\u0105 inteligencj\u0105.<\/p>\n<p style=\"text-align: justify\">Komisja Europejska proponuje szereg dzia\u0142a\u0144, kt\u00f3re maj\u0105 zapewni\u0107 dalsze doskonalenie obszar\u00f3w sztucznej inteligencji, oraz przepisy gwarantuj\u0105ce wiarygodno\u015b\u0107 technologii. Maj\u0105 one zapewni\u0107 bezpiecze\u0144stwo i etyczn\u0105 przejrzysto\u015b\u0107, AI powinno pozosta\u0107 bezstronne i bezwarunkowo kontrolowane przez cz\u0142owieka. Systemy wykorzystuj\u0105ce sztuczn\u0105 inteligencj\u0119 kategoryzowane s\u0105 wed\u0142ug poziomu ryzyka.<\/p>\n<figure id=\"attachment_2691\" aria-describedby=\"caption-attachment-2691\" style=\"width: 600px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"wp-image-2691\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/ai_pyramid_visual-01-300x211.jpg\" alt=\"\" width=\"600\" height=\"421\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/ai_pyramid_visual-01-300x211.jpg 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/ai_pyramid_visual-01-768x539.jpg 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/ai_pyramid_visual-01.jpg 991w\" sizes=\"(max-width: 600px) 100vw, 600px\" \/><figcaption id=\"caption-attachment-2691\" class=\"wp-caption-text\">\u0179r\u00f3d\u0142o: https:\/\/commission.europa.eu<\/figcaption><\/figure>\n<p style=\"text-align: justify\"><strong>Niedopuszczalne ryzyko<\/strong> <strong>&#8211;<\/strong> Zakazane b\u0119dzie wszystko, co b\u0119dzie stanowi\u0142o zagro\u017cenie dla obywateli UE: od prowadz\u0105cej przez rz\u0105dy oceny punktowej obywateli (tzw. social scoring) po zabawki z asystentem g\u0142osowym, kt\u00f3re zach\u0119caj\u0105 dzieci do niebezpiecznych zachowa\u0144.<\/p>\n<p style=\"text-align: justify\"><strong>Wysokie ryzyko &#8211;<\/strong> Tyczy si\u0119 newralgicznych obszar\u00f3w takich jak infrastruktura krytyczna (np. transport) gdzie istnieje zagro\u017cenie dla \u017cycia i zdrowia obywateli, ale tak\u017ce w obszarach takich jak:<\/p>\n<ul style=\"text-align: justify\">\n<li>elementy bezpiecze\u0144stwa produkt\u00f3w (np. zastosowanie sztucznej inteligencji w chirurgii wspomaganej robotami),<\/li>\n<li>zatrudnienie, zarz\u0105dzanie pracownikami i dost\u0119p do samozatrudnienia (np. oprogramowanie do sortowania CV na potrzeby procedur rekrutacji)<\/li>\n<li>podstawowe us\u0142ugi prywatne i publiczne (np. punktacja kredytowa uniemo\u017cliwiaj\u0105ca obywatelom uzyskanie po\u017cyczki)<\/li>\n<li>sprawowanie wymiaru sprawiedliwo\u015bci i procesy demokratyczne (np. stosowanie prawa do konkretnego zbioru fakt\u00f3w)<\/li>\n<\/ul>\n<p style=\"text-align: justify\">Wszystkie zastosowania b\u0119d\u0105 dok\u0142adnie oceniane przed wprowadzeniem do obrotu i przez ca\u0142y cykl rynkowy.<\/p>\n<p style=\"text-align: justify\"><strong>Ograniczone ryzyko\u00a0<\/strong><strong>&#8211;<\/strong> Systemy sztucznej inteligencji, takie jak chatboty, podlegaj\u0105 minimalnym obowi\u0105zkom w zakresie przejrzysto\u015bci, kt\u00f3re maj\u0105 umo\u017cliwi\u0107 podejmowanie \u015bwiadomych decyzji osobom wchodz\u0105cym w interakcj\u0119 z tego rodzaju tre\u015bciami. U\u017cytkownik mo\u017ce w\u00f3wczas podj\u0105\u0107 decyzj\u0119 o kontynuowaniu lub rezygnacji z korzystania z danej aplikacji.<\/p>\n<p style=\"text-align: justify\"><strong>Minimalne ryzyko &#8211;\u00a0<\/strong>Swobodne korzystanie z zastosowa\u0144 takich jak gry wideo z wykorzystaniem sztucznej inteligencji lub filtry spamu. Zdecydowana wi\u0119kszo\u015b\u0107 system\u00f3w sztucznej inteligencji nale\u017cy do tej kategorii, na kt\u00f3r\u0105 nowe przepisy nie maj\u0105 wp\u0142ywu. Systemy te charakteryzuj\u0105 si\u0119 minimalnym a nawet zerowym zagro\u017ceniem dla praw i bezpiecze\u0144stwa obywateli.<\/p>\n<p style=\"text-align: justify\">Nowe przepisy obowi\u0105zuj\u0105ce dostawc\u00f3w system\u00f3w sztucznej inteligencji wysokiego ryzyka maj\u0105 skutecznie zwi\u0119ksza\u0107 kontrol\u0119 i powierza\u0107 j\u0105 w r\u0119ce spo\u0142eczno\u015bci, kt\u00f3ra b\u0119dzie mog\u0142a zg\u0142asza\u0107 powa\u017cne incydenty i nadu\u017cycia zwi\u0105zane z nieprawid\u0142owym dzia\u0142aniem system\u00f3w AI.<\/p>\n<p style=\"text-align: justify\">Wiele firm wykorzystuje sztuczn\u0105 inteligencj\u0119 w obszarach niskiego ryzyka, cz\u0119sto wy\u0142\u0105cznie w celu uzyskania wniosk\u00f3w z analiz. Na razie, je\u017celi technologia zast\u0119puje podejmowanie decyzji przez cz\u0142owieka, dzieje si\u0119 to pod jego nadzorem. Autonomiczne podejmowanie decyzji przez AI wci\u0105\u017c jeszcze jest w powijakach, ale przypadki u\u017cycia AI rozwijaj\u0105 si\u0119 w coraz szybszym tempie. Z czasem AI b\u0119dzie odpowiedzialna za podejmowanie wi\u0119kszej liczby decyzji, i b\u0119d\u0105 to decyzje o wi\u0119kszym znaczeniu. Przyk\u0142adem s\u0105 chocia\u017cby szeroko znane testy wykorzystywania sztucznej inteligencji w projektach autonomicznych samochod\u00f3w.<\/p>\n<h1 style=\"text-align: left\">Dlaczego sztuczna inteligencja r\u00f3\u017cni si\u0119 od innych technologii?<\/h1>\n<p style=\"text-align: justify\">Sztuczna inteligencja ostatecznie doprowadzi do transformacji wielu przedsi\u0119biorstw i bran\u017c. Na tempo jej rozwoju wp\u0142ywa jednak brak zaufania. Obecnie bez \u015bwiadomo\u015bci ryzyka i odpowiednich ram oraz \u015brodk\u00f3w kontroli, zastosowania sztucznej inteligencji nie wykroczy\u0142y znacz\u0105co poza koncepcje i odosobnione rozwi\u0105zania.<\/p>\n<p style=\"text-align: justify\">W przeciwie\u0144stwie do innych technologii AI sama adaptuje si\u0119 do nowych warunk\u00f3w, ucz\u0105c si\u0119 podczas jej stosowania. Decyzje, jakie AI podejmuje dzisiaj mog\u0105 si\u0119 r\u00f3\u017cni\u0107 od tych podejmowanych jutro. Wa\u017cne jest, aby zmiany te by\u0142y stale monitorowane, tak aby weryfikowa\u0107, \u017ce podejmowane decyzje pozostaj\u0105 w\u0142a\u015bciwe i wysokiej jako\u015bci. Sztuczna inteligencja u\u017cywa do uczenia danych historycznych. Jakie niesie to ryzyko? Zastan\u00f3wmy si\u0119, jaki ma to wp\u0142yw na decyzje dotycz\u0105ce zatrudnienia. Czy dane historyczne uwzgl\u0119dniaj\u0105 uprzedzenia, z jakimi mierzy\u0142y si\u0119 kobiety i przedstawiciele mniejszo\u015bci? <strong>Czy algorytmy powtarzaj\u0105 b\u0142\u0119dy przesz\u0142o\u015bci pomimo wdro\u017cenia proces\u00f3w zarz\u0105dczych, kt\u00f3re maj\u0105 im zapobiega\u0107? Czy system zapobiega niesprawiedliwo\u015bci i przestrzega prawa?<\/strong><\/p>\n<p style=\"text-align: justify\"><a href=\"https:\/\/www.ted.com\/talks\/cathy_o_neil_the_era_of_blind_faith_in_big_data_must_end\" target=\"_blank\" rel=\"noopener\"><strong>Cathy O&#8217;Nail&#8217;s TedTalk &#8211; The era of blind faith in big data must end<\/strong><\/a><\/p>\n<figure id=\"attachment_2706\" aria-describedby=\"caption-attachment-2706\" style=\"width: 600px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"wp-image-2706\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/1d94qHO7CFXRzVHujjUFsKw.webp\" alt=\"\" width=\"600\" height=\"300\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/1d94qHO7CFXRzVHujjUFsKw.webp 1500w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/1d94qHO7CFXRzVHujjUFsKw-300x150.webp 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/1d94qHO7CFXRzVHujjUFsKw-1024x512.webp 1024w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/1d94qHO7CFXRzVHujjUFsKw-768x384.webp 768w\" sizes=\"(max-width: 600px) 100vw, 600px\" \/><figcaption id=\"caption-attachment-2706\" class=\"wp-caption-text\">&#8222;Weapons of Math Destruction&#8221; Cathy O&#8217;Neil \u0179r\u00f3d\u0142o: WIRED<\/figcaption><\/figure>\n<pre><span style=\"font-size: 10pt\"><span class=\"style-scope yt-formatted-string\" dir=\"auto\">\"Algorithms don't make things fair... They repeat our past practices, our patterns. They automate the status quo.<\/span> <span class=\"style-scope yt-formatted-string\" dir=\"auto\">That would be great if we had a perfect world, but we don't.\" - Cathy O'Nail<\/span><\/span><\/pre>\n<p style=\"text-align: justify\">Decyzje podejmowane przez AI powinny by\u0107 zgodne z szerszymi normami etycznymi i spo\u0142ecznymi. Standardy etyczne cz\u0142owieka opieraj\u0105 si\u0119 na wielu elementach: rodzinie, kulturze, religii i spo\u0142eczno\u015bci. Zespo\u0142y zajmuj\u0105ce si\u0119 rozwojem AI cz\u0119sto sk\u0142adaj\u0105 si\u0119 g\u0142\u00f3wnie z m\u0119\u017cczyzn rasy bia\u0142ej lub pochodzenia azjatyckiego i nie odzwierciedlaj\u0105 r\u00f3\u017cnorodno\u015bci wyst\u0119puj\u0105cej na \u015bwiecie. Czy osobiste warto\u015bci tych os\u00f3b wp\u0142ywaj\u0105 na warto\u015bci, kt\u00f3re chcemy zastosowa\u0107 w tych sytuacjach? Musimy tak\u017ce zada\u0107 sobie pytanie, czy systemy AI robi\u0105 to, czego od nich oczekujemy. Wykorzystanie sztucznej inteligencji jest coraz powszechniejsze, ale i tak niewiele organizacji ma wystarczaj\u0105co dojrza\u0142e zasoby, aby monitorowa\u0107 jej funkcjonowanie.<\/p>\n<h1 style=\"text-align: left\">Jakie ryzyko wi\u0105\u017ce si\u0119 z nieudanym systemem AI?<\/h1>\n<p style=\"text-align: justify\">Ryzyko wyst\u0119puje zar\u00f3wno w obszarze prawnym, finansowym jak i reputacji. B\u0142\u0119dy system\u00f3w AI mog\u0105 wi\u0105za\u0107 si\u0119 z brakiem zgodno\u015bci z przepisami dotycz\u0105cymi zatrudnienia lub innymi regulacjami. <strong>W jednym przypadku pewna firma handlowa straci\u0142a 440 mln USD ze wzgl\u0119du na b\u0142\u0105d oprogramowania \u2013 i to w zaledwie 45 minut.<\/strong><\/p>\n<p style=\"text-align: justify\"><strong><a href=\"https:\/\/tech.wp.pl\/blad-komputera-ktory-kosztowal-440-mln-dolarow,6034792433222785a\" target=\"_blank\" rel=\"noopener\">B\u0142\u0105d komputera, kt\u00f3ry kosztowa\u0142 440 mln dolar\u00f3w<\/a><\/strong><\/p>\n<p style=\"text-align: justify\">Algorytmy s\u0105 omylne i \u0142atwo mo\u017cna je naruszy\u0107. Badaj\u0105c algorytmy wskazuj\u0105ce tre\u015b\u0107 obraz\u00f3w, zesp\u00f3\u0142 badaczy odkry\u0142, \u017ce zmieniaj\u0105c w zdj\u0119ciu jedynie kilka pikseli mo\u017cna sprawi\u0107, \u017ce system pomy\u015bli, \u017ce zabawkowy \u017c\u00f3\u0142w jest pistoletem. Nie s\u0105 to argumenty przeciwko stosowaniu AI. S\u0105 to jednak ostrze\u017cenia wskazuj\u0105ce, jak wa\u017cne jest upewnienie si\u0119, \u017ce AI rzeczywi\u015bcie wykonuje pierwotnie zamierzone zadania, przy istnieniu rygorystycznych proces\u00f3w i \u015brodk\u00f3w kontroli. Je\u017celi mamy polega\u0107 na AI podejmuj\u0105cej decyzje i prowadz\u0105cej nasze samochody, wymaga to zaufania. Bez niego technologia si\u0119 nie przyjmie lub b\u0119dzie wymaga\u0142a takiego nadzoru ze strony cz\u0142owieka, \u017ce zaprzeczy to wydajno\u015bci i innym korzy\u015bciom.<\/p>\n<figure id=\"attachment_2700\" aria-describedby=\"caption-attachment-2700\" style=\"width: 600px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"wp-image-2700\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/f86dfae9-b603-4c3d-b38c-90cbb72188e9.webp\" alt=\"\" width=\"600\" height=\"367\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/f86dfae9-b603-4c3d-b38c-90cbb72188e9.webp 1200w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/f86dfae9-b603-4c3d-b38c-90cbb72188e9-300x184.webp 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/f86dfae9-b603-4c3d-b38c-90cbb72188e9-1024x627.webp 1024w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/f86dfae9-b603-4c3d-b38c-90cbb72188e9-768x470.webp 768w\" sizes=\"(max-width: 600px) 100vw, 600px\" \/><figcaption id=\"caption-attachment-2700\" class=\"wp-caption-text\">\u0179r\u00f3d\u0142o: Getty Images, fot: metamorworks<\/figcaption><\/figure>\n<p style=\"text-align: justify\">Stworzenie ram do korzystania z AI i zarz\u0105dzania ryzykiem mo\u017ce wydawa\u0107 si\u0119 skomplikowane, ale proces ten jest podobny do tworzenia \u015brodk\u00f3w kontroli, polityki i proces\u00f3w ju\u017c stosowanych w odniesieniu do ludzi. Ju\u017c teraz oceniamy ludzkie zachowania w odniesieniu do zbioru norm i gdy tylko ludzie zaczynaj\u0105 poza te normy wykracza\u0107 \u2013 jak w sytuacji, gdy uprzedzenia wp\u0142ywaj\u0105 na ich ocen\u0119 \u2013 reagujemy. Ryzyko zwi\u0105zane z technologi\u0105 AI zale\u017cy od sposobu jej wykorzystania. Na przyk\u0142ad, oprogramowanie do obrazowania oznaczaj\u0105ce prywatne zdj\u0119cia ludzi wi\u0105\u017ce si\u0119 ze znacznie ni\u017cszym profilem ryzyka ni\u017c oprogramowanie stosowane do wykrywania pieszych przechodz\u0105cych przez drog\u0119.<\/p>\n<pre><span style=\"font-size: 10pt\">\"Tak jak ka\u017cda technologia, kt\u00f3ra zmienia \u015bwiat, AI wi\u0105\u017ce si\u0119 z ryzykiem. Istniej\u0105 jednak dobrze okre\u015blone sposoby na zarz\u0105dzanie potencjalnymi minusami przy jednoczesnej kapitalizacji ogromnych plus\u00f3w. Sztuczna Inteligencja mo\u017ce by\u0107 \u015bwietnym narz\u0119dziem wspieraj\u0105cym cz\u0142owieka, ale musimy zdawa\u0107 sobie spraw\u0119 z ogranicze\u0144 tej technologii.\"\r\n<\/span>- <span style=\"font-size: 10pt\">Nigel Duffy, Globalny lider ds. AI w EY<\/span><\/pre>\n<h1 style=\"text-align: left\">Dlaczego zaufanie do AI jest wa\u017cne?<\/h1>\n<p style=\"text-align: justify\">Bior\u0105c pod uwag\u0119 wszytko co zosta\u0142o wcze\u015bniej napisane mo\u017cna \u0142atwo zauwa\u017cy\u0107, jak bardzo sztuczna inteligencja jest ju\u017c teraz obecna w dzisiejszym \u015bwiecie. Istnieje wiele system\u00f3w, kt\u00f3re maj\u0105 realny wp\u0142yw na \u017cycie ludzkie, na przyk\u0142ad programy pomagaj\u0105ce lekarzom w diagnostyce niekt\u00f3rych schorze\u0144 albo samo prowadz\u0105ce si\u0119 samochody. Aby jednak m\u00f3c korzysta\u0107 z tych korzy\u015bci, kt\u00f3re niesie ze sob\u0105 rozw\u00f3j sztucznej inteligencji musimy mie\u0107 zaufanie do tych system\u00f3w. Musimy by\u0107 pewni, \u017ce dzia\u0142aj\u0105 one poprawnie i s\u0105 odpowiednio zabezpieczone przed b\u0142\u0119dami czy nadu\u017cyciami. Raczej nikt nie wsiad\u0142by do taks\u00f3wki bez kierowcy nie posiadaj\u0105c przekonania, \u017ce nasza podr\u00f3\u017c b\u0119dzie bezpieczna a prawdopodobie\u0144stwo wypadku jest niskie. \u00a0 Zaufanie do AI jest r\u00f3wnie\u017c wa\u017cne, poniewa\u017c pozwala na jej bardziej efektywne wykorzystanie a co za tym idzie jej nieustanny rozw\u00f3j. Istnieje wiele sposob\u00f3w budowania takiego zaufania. Ni\u017cej napisze o najbardziej istotnych z nich.<\/p>\n<h2 style=\"text-align: justify\">1. Transparentno\u015b\u0107<\/h2>\n<p style=\"text-align: justify\">Transparentno\u015b\u0107 system\u00f3w AI oznacza udost\u0119pnianie przez autor\u00f3w informacji o tym, jak dzia\u0142a ich system, jak zosta\u0142 zaprojektowany, jakie s\u0105 jego ograniczenia. Pozwala to \u00a0u\u017cytkownikom na lepsze zrozumienie jego funkcjonowania a co za tym idzie zwi\u0119ksza ich zaufanie do takiego systemu. Informacje kt\u00f3re mog\u0105 by\u0107 udost\u0119pnione to:<\/p>\n<ul style=\"text-align: justify\">\n<li>Architektura: opisanie model\u00f3w, algorytm\u00f3w, sieci neuronowych i zale\u017cno\u015bci mi\u0119dzy nimi.<\/li>\n<li>Dane: jakie dane zosta\u0142y u\u017cyte do trenowania systemu, jakie zbiory danych s\u0105 u\u017cywane i jakie s\u0105 ich rozmiary.<\/li>\n<li>Metryki: jakie metryki s\u0105 u\u017cywane do oceny jako\u015bci dzia\u0142ania systemu, jakie s\u0105 ich warto\u015bci i jakie ograniczenia s\u0105 zwi\u0105zane z ich u\u017cyciem.<\/li>\n<li>Decyzje: jakie dane i modele by\u0142y u\u017cywane do podejmowania decyzji przez system, jakie s\u0105 jego metody wyboru i jakie s\u0105 jego ograniczenia.<\/li>\n<\/ul>\n<p style=\"text-align: justify\">Transparentno\u015b\u0107 jest szczeg\u00f3lnie wa\u017cna w przypadku system\u00f3w AI, kt\u00f3re podejmuj\u0105 trudne decyzje o powa\u017cnych konsekwencjach (na przyk\u0142ad dotycz\u0105ce kredyt\u00f3w lub ubezpiecze\u0144). W takich przypadkach, u\u017cytkownicy musz\u0105 mie\u0107 pewno\u015b\u0107, \u017ce system dzia\u0142a zgodnie z oczekiwaniami i \u017ce jego decyzje s\u0105 sprawiedliwe i obiektywne. Przyk\u0142adem mo\u017ce troch\u0119 mniej powa\u017cnym ale napewno nadal wyst\u0119puj\u0105cym w debacie publicznej jest firma\u00a0<strong>OpenAI<\/strong>, kt\u00f3ra niedawno udost\u0119pni\u0142a sw\u00f3j nowy model\u00a0<strong>ChatGPT.\u00a0<\/strong>Autorzy mog\u0105 by\u0107 przyk\u0142adem zachowania zasady transparentno\u015bci, gdy\u017c na ich stronie mo\u017cemy znale\u017a\u0107 mn\u00f3stwo informacji o tym jak to oprogramowanie dzia\u0142a. Dost\u0119pna jest tak\u017ce praca naukowa <i><strong><a href=\"https:\/\/arxiv.org\/abs\/2203.02155\">training language models to follow instructions with human feedback,<\/a>\u00a0<\/strong><\/i>kt\u00f3ra zosta\u0142a napisana przez autor\u00f3w tego narz\u0119dzia. Mo\u017cna z niej si\u0119 dowiedzie\u0107 naprawd\u0119 bardzo specyficznej i konkretnej wiedzy na temat tego modelu.<\/p>\n<h2 style=\"text-align: justify\">2. Testowanie i\u00a0walidacja<\/h2>\n<p style=\"text-align: justify\">Jest to dwuetapowy proces, gdzie pierwszym jest testowanie danego oprogramowania. Polega ono na przeprowadzaniu test\u00f3w systemu z u\u017cyciem danych wej\u015bciowych i wyj\u015bciowych (oczekiwane wyniki). Dzi\u0119ki temu mo\u017cna zweryfikowa\u0107, czy system dzia\u0142a zgodnie z oczekiwaniami i czy jest skuteczny. Takie podej\u015bcie pozwala tak\u017ce na identyfikacj\u0119 b\u0142\u0119d\u00f3w i ich usuni\u0119cie przed wprowadzeniem systemu na rynek. Walidacja natomiast polega na sprawdzeniu funkcjonowania systemu w jego rzeczywistym \u015brodowisku oraz czy jest odpowiedni dla cel\u00f3w, do jakich ma by\u0107 wykorzystywany. Proces ten jest istotny r\u00f3wnie\u017c w celu dobrego dopasowania do grupy docelowej.<br \/>\nZar\u00f3wno testowanie jak i walidacja s\u0142u\u017cy ulepszeniu ostatecznego produktu i dostosowaniu go do potrzeb u\u017cytkownik\u00f3w. Dobrze przeprowadzone mog\u0105 znacznie podnie\u015b\u0107 zaufanie do systemu AI z uwagi na jego zoptymalizowane wzgl\u0119dem konsument\u00f3w.<\/p>\n<p style=\"text-align: justify\">Przyk\u0142adem mo\u017ce by\u0107 firma\u00a0<strong>Google\u00a0<\/strong>i jej projekt\u00a0<strong>DeepMind<\/strong>, kt\u00f3ry ma na celu stworzenie sztucznej inteligencji zdolnej do uczenia si\u0119 i rozwi\u0105zywania problem\u00f3w na podobnym poziomie co cz\u0142owiek lub nawet lepszym. DeepMind jest testowany i walidowany za pomoc\u0105 r\u00f3\u017cnych metod, w tym za pomoc\u0105 gier, kt\u00f3re stanowi\u0105 trudne wyzwanie dla system\u00f3w AI.\u00a0Jednym z najs\u0142ynniejszych przyk\u0142ad\u00f3w jest wykorzystanie DeepMind do wygrania gry Go. Jest to chi\u0144ska gra strategiczna, w kt\u00f3rej gracze stawiaj\u0105 pionki na planszy, staraj\u0105c si\u0119 zaj\u0105\u0107 jak najwi\u0119cej przestrzeni.<\/p>\n<p><iframe title=\"Google DeepMind: Ground-breaking AlphaGo masters the game of Go\" width=\"600\" height=\"338\" src=\"https:\/\/www.youtube.com\/embed\/SUbqykXVx0A?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<h2 style=\"text-align: justify\">3. Analiza por\u00f3wnawcza cz\u0142owiek\/maszyna<\/h2>\n<p style=\"text-align: justify\">Analiza por\u00f3wnawcza cz\u0142owiek-maszyna polega na por\u00f3wnywaniu wynik\u00f3w dzia\u0142ania systemu AI z wynikami cz\u0142owieka w danym zadaniu. Pozwala to na ocen\u0119 skuteczno\u015bci i dok\u0142adno\u015bci systemu AI oraz na identyfikacj\u0119 jego ogranicze\u0144.\u00a0Przyk\u0142adem analizy por\u00f3wnawczej cz\u0142owiek-maszyna jest testowanie system\u00f3w <strong>OCR<\/strong> (Optical Character Recognition), kt\u00f3re s\u0142u\u017c\u0105 do rozpoznawania tekstu na obrazach (zdj\u0119ciach). W tym celu, systemy te s\u0105 por\u00f3wnywane z lud\u017ami w takim samym zadaniu oraz nast\u0119pnie oceniane na podstawie ich wynik\u00f3w i skuteczno\u015bci. \u00a0Zebranie takich danych z kolei pozwala na zwi\u0119kszenie zaufania u\u017cytkownik\u00f3w do tych system\u00f3w, gdy\u017c mo\u017ce to pokaza\u0107 ich s\u0142abe i mocne strony. Dodatkowo mo\u017ce to zmniejszy\u0107 powszechny strach przed sztuczn\u0105 inteligencj\u0105, kt\u00f3ry wynika z niewiedzy i faktycznego l\u0119ku przed jej mo\u017cliwo\u015bciami. Zmierzenie r\u00f3\u017cnic mi\u0119dzy cz\u0142owiekiem a maszyn\u0105 w jakim\u015b aspekcie mo\u017ce pokaza\u0107 czarno na bia\u0142ym w czym AI jest lepsze a czym gorsze od cz\u0142owieka.<\/p>\n<figure id=\"attachment_2720\" aria-describedby=\"caption-attachment-2720\" style=\"width: 348px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"wp-image-2720\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/sphx_glr_plot_letters_001.png\" alt=\"\" width=\"348\" height=\"348\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/sphx_glr_plot_letters_001.png 1000w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/sphx_glr_plot_letters_001-300x300.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/sphx_glr_plot_letters_001-150x150.png 150w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/sphx_glr_plot_letters_001-768x768.png 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/sphx_glr_plot_letters_001-70x70.png 70w\" sizes=\"(max-width: 348px) 100vw, 348px\" \/><figcaption id=\"caption-attachment-2720\" class=\"wp-caption-text\">Przyk\u0142adowe wykrywanie tekstu przez OCR.<\/figcaption><\/figure>\n<figure id=\"attachment_2722\" aria-describedby=\"caption-attachment-2722\" style=\"width: 836px\" class=\"wp-caption alignnone\"><img decoding=\"async\" class=\" wp-image-2722\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/8aebe79538b72acd19116a01e8a86cd03ab91860.jpeg\" alt=\"\" width=\"836\" height=\"311\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/8aebe79538b72acd19116a01e8a86cd03ab91860.jpeg 1469w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/8aebe79538b72acd19116a01e8a86cd03ab91860-300x112.jpeg 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/8aebe79538b72acd19116a01e8a86cd03ab91860-1024x381.jpeg 1024w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/8aebe79538b72acd19116a01e8a86cd03ab91860-768x286.jpeg 768w\" sizes=\"(max-width: 836px) 100vw, 836px\" \/><figcaption id=\"caption-attachment-2722\" class=\"wp-caption-text\">Wykrywanie tekstu pisanego r\u0119cznie z u\u017cyciem OCR.<\/figcaption><\/figure>\n<h1 style=\"text-align: justify\"><\/h1>\n<h1 style=\"text-align: justify\"><\/h1>\n<h1 style=\"text-align: justify\"><\/h1>\n<h1 style=\"text-align: justify\">Dodatki:<\/h1>\n<p style=\"text-align: justify\"><a href=\"https:\/\/milmag.pl\/sztuczna-inteligencja-uczy-sie-latac-i-walczyc\/\" target=\"_blank\" rel=\"noopener\"><strong>Sztuczna inteligencja uczy si\u0119 lata\u0107 i walczy\u0107<\/strong><\/a><\/p>\n<p style=\"text-align: justify\"><a href=\"https:\/\/sip.lex.pl\/akty-prawne\/dzienniki-UE\/rezolucja-parlamentu-europejskiego-z-dnia-6-pazdziernika-2021-r-w-sprawie-69551765\" target=\"_blank\" rel=\"noopener\"><strong>Sztuczna inteligencja w prawie karnym i jej stosowanie przez policj\u0119 i organy wymiaru sprawiedliwo\u015bci w sprawach karnych<\/strong><\/a><\/p>\n<h1 style=\"text-align: justify\">\u0179r\u00f3d\u0142a:<\/h1>\n<p style=\"text-align: justify\">https:\/\/www.ibm.com\/blogs\/ibm-poland\/badanie-ibm-polowa-polakow-ufa-sztucznej-inteligencji\/<\/p>\n<p style=\"text-align: justify\">https:\/\/commission.europa.eu\/strategy-and-policy\/priorities-2019-2024\/europe-fit-digital-age\/excellence-and-trust-artificial-intelligence_pl<\/p>\n<p style=\"text-align: justify\">https:\/\/tech.wp.pl\/blad-komputera-ktory-kosztowal-440-mln-dolarow,6034792433222785a<\/p>\n<p style=\"text-align: justify\">https:\/\/www.ey.com\/en_pl\/innovation\/what-is-intelligence-without-trust-<\/p>\n<p>http:\/\/www.jatit.org\/volumes\/Vol83No2\/15Vol83No2.pdf<\/p>\n<blockquote class=\"wp-embedded-content\" data-secret=\"KadKauWHUP\"><p><a href=\"https:\/\/readcoop.eu\/insights\/ocr-vs-htr\/\">OCR vs. HTR or \u201cWhat is AI, actually?\u201d<\/a><\/p><\/blockquote>\n<p><iframe class=\"wp-embedded-content\" sandbox=\"allow-scripts\" security=\"restricted\" style=\"position: absolute; clip: rect(1px, 1px, 1px, 1px);\" title=\"&#8220;OCR vs. HTR or \u201cWhat is AI, actually?\u201d&#8221; &#8212; READ-COOP\" src=\"https:\/\/readcoop.eu\/insights\/ocr-vs-htr\/embed\/#?secret=ejViv20WeJ#?secret=KadKauWHUP\" data-secret=\"KadKauWHUP\" width=\"600\" height=\"338\" frameborder=\"0\" marginwidth=\"0\" marginheight=\"0\" scrolling=\"no\"><\/iframe><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>O sztucznej inteligencji s\u0142ysza\u0142 ju\u017c niemal ka\u017cdy, ale stosunkowo niewielka cz\u0119\u015b\u0107 naszego spo\u0142ecze\u0144stwa zetkn\u0119\u0142a si\u0119 z t\u0105 innowacj\u0105 bezpo\u015brednio. Nie wp\u0142ywa to jednak na nasze spore oczekiwania wobec sztucznej inteligencji. Wierzymy w to, \u017ce mo\u017ce przyczyni\u0107 si\u0119 do pozytywnych zmian na p\u0142aszczyznach spo\u0142ecznej i gospodarczej. Wykorzystanie ca\u0142kowitego potencja\u0142u sztucznej inteligencji wi\u0105\u017ce si\u0119 ze stawieniem czo\u0142a [&hellip;]<\/p>\n","protected":false},"author":92,"featured_media":2674,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[185],"tags":[75,118,12,20,109],"class_list":["post-2673","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uj-2022-23","tag-bezpieczenstwo","tag-emocje","tag-etyka","tag-sztuczna-inteligencja","tag-zaufanie"],"jetpack_featured_media_url":"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2023\/01\/alex-knight-2EJCSULRwC8-unsplash-800x600-1.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/2673","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/92"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=2673"}],"version-history":[{"count":34,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/2673\/revisions"}],"predecessor-version":[{"id":2728,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/2673\/revisions\/2728"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media\/2674"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=2673"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=2673"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=2673"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}