{"id":1205,"date":"2022-05-09T14:06:34","date_gmt":"2022-05-09T14:06:34","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=1205"},"modified":"2022-05-12T14:19:39","modified_gmt":"2022-05-12T14:19:39","slug":"maszynowi-prawnicy-law-ai-and-data-science","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/05\/09\/maszynowi-prawnicy-law-ai-and-data-science\/","title":{"rendered":"Maszynowi prawnicy – Law AI and Data Science"},"content":{"rendered":"

Prawo jest jedn\u0105 z najstarszych dziedzin nauki. Jego zasady r\u00f3\u017cni\u0142y si\u0119 znacznie, i nadal r\u00f3\u017cni\u0105, w zale\u017cno\u015bci od sytuacji geopolitycznej, historii kraju czy kultury. Jest przy tym cz\u0119sto postrzegane jako sztywne, oporne zmianom i nowinom. Czy jest jednak w nim miejsce dla nowoczesnego AI? Przyjrzymy si\u0119 istniej\u0105cym i mo\u017cliwym przysz\u0142ym zastosowaniom uczenia maszynowego we wsparciu jurysdykcji oraz z problemami z tym zwi\u0105zanymi, na kt\u00f3re ju\u017c wskazuj\u0105 analizy prawne.<\/strong><\/p>\n

<\/p>\n

Digitalizacja prawa<\/strong><\/p>\n

Trend unowocze\u015bniania w\u0142a\u015bciwie wszystkich dziedzin \u017cycia, a w szczeg\u00f3lno\u015bci zastosowania w nich ML, przybiera w ostatnich latach na sile. Metody AI s\u0105 obecnie stosowane w mniejszym lub wi\u0119kszym stopniu na wszystkich etapach post\u0119powania s\u0105dowego: pocz\u0105wszy od samych sposob\u00f3w pope\u0142niania przest\u0119pstw [1] (cybercrimes, np. doxxing, hacking), metody kryminologii jak wykrywanie twarzy czy analiza DNA [2], a\u017c po sam proces s\u0105dowy, w kt\u00f3rym u\u017cywa si\u0119 algorytm\u00f3w do oceny ryzyka recydywizmu [3, 4]. Szczeg\u00f3lnie na uwag\u0119 zas\u0142uguje tutaj system prawny USA, w kt\u00f3rym, dzi\u0119ki wzgl\u0119dnej niezale\u017cno\u015bci stanowych system\u00f3w jurysdykcji oraz silnym powi\u0105zaniu z firmami prywatnymi, takie nowo\u015bci techniczne s\u0105 wdra\u017cane znacznie szybciej i cz\u0119\u015bciej w por\u00f3wnaniu do innych kraj\u00f3w [5]. Pojawiaj\u0105 si\u0119 tam te\u017c ju\u017c pierwsze precedensy i wskaz\u00f3wki dla prawnik\u00f3w, a tak\u017ce debata o kwestiach moralnych i etycznych zwi\u0105zanych z dziedzin\u0105 AI w prawie.<\/span><\/p>\n

\"\"<\/p>\n

Kryminologia<\/b><\/p>\n

Przestrze\u0144 informacji mo\u017cliwych do wykorzystania w celu podj\u0119cia decyzji prawnej jest bardzo du\u017co. Nie bez powodu s\u0119dziowie, kt\u00f3rym powierzamy w tej kwestii zaufanie musz\u0105 najpierw przej\u015b\u0107 bardzo wymagaj\u0105ce studia a nast\u0119pnie praktykowa\u0107 przez lata zanim b\u0119d\u0105 mogli pe\u0142ni\u0107 swoj\u0105 funkcj\u0119. W zwi\u0105zku z tym ich czas jest bardzo cenny a sprawy s\u0105dowe i tak ju\u017c wi\u0105\u017c\u0105 si\u0119 z potrzeb\u0105 przekopania przez ogromn\u0105 ilo\u015b\u0107 dokument\u00f3w i aspekt\u00f3w sprawy. W zwi\u0105zku z tym bardzo pomocne w ca\u0142ym procesie s\u0105 narz\u0119dzia sztucznej inteligencji b\u0119d\u0105ce w stanie wykona\u0107 chocia\u017c cz\u0119\u015b\u0107 tej pracy za cz\u0142owieka. Nie tylko przegl\u0105daj\u0105 one przestrze\u0144 informacji zwi\u0105zanych ze spraw\u0105, ale r\u00f3wnie\u017c poszerzaj\u0105 j\u0105 o nowe metody. Poni\u017cej przybli\u017cymy kilka ich rodzaj\u00f3w.<\/span><\/p>\n

Metody biometryczne<\/span><\/p>\n

Biometryka to badanie i rozwijanie statystycznych i matematycznych metod stosowanych do analizy danych w naukach biologicznych [6]. W kryminologii znajduj\u0105 one zastosowanie zar\u00f3wno w identyfikacji to\u017csamo\u015bci os\u00f3b jak i weryfikacji podanych przez nich danych. Techniki biometryczne by\u0142y stosowane przez ludzi ju\u017c od dawna. Babilo\u0144czycy wykorzystywali odciski palc\u00f3w do potwierdzania transakcji handlowych. Staro\u017cytni Rzymianie umieli ju\u017c por\u00f3wnywa\u0107 charaktery pisma. Podr\u00f3\u017cnik i odkrywca Joao de Barros donosi\u0142 i\u017c Chi\u0144czycy w XIV w. wykorzystywali odciski d\u0142oni i st\u00f3p do rozr\u00f3\u017cniania dzieci. W dzisiejszych czasach podobne zadania wykonuje za nas sztuczna inteligencja. Z pomoc\u0105 metod rozpoznawania obraz\u00f3w jeste\u015bmy w stanie por\u00f3wnywa\u0107 cechy fizjologiczne takie jak odciski palc\u00f3w, charakterystyk\u0119 twarzy, d\u0142oni oraz sekwencje DNA, co na pewno widzieli\u015bmy w popularnych serialach detektywistycznych.<\/span><\/p>\n

\"\"<\/p>\n

\u00a0W zakres biometryki wchodzi te\u017c por\u00f3wnywanie cech behawioralnych takich, jak rozpoznawanie mowy, pisma a nawet charakteru wciskania przycisk\u00f3w klawiatury w trakcie pisania.<\/span><\/p>\n

Profilowanie<\/span><\/p>\n

W dobie internetu ilo\u015b\u0107 danych, na podstawie kt\u00f3rych mo\u017cna przydziela\u0107 ludzi do grup jest ogromna. Poruszanie si\u0119 po internecie zostawia \u015blady, na podstawie kt\u00f3rych modele informatyczne przygotowuj\u0105 nasz\u0105 charakterystyk\u0119 chocia\u017cby w celach reklamowych. Na podobnej podstawie mo\u017cna te\u017c tworzy\u0107 profile psychologiczne istotne w jurysdykcji. Czy nawet nie figuruj\u0105c w \u017cadnych kartotekach mo\u017cemy zosta\u0107 zakwalifikowani jako jednostki niebezpieczne? W 2015 r. policja w Delhi i Indyjska Organizacja Bada\u0144 Kosmicznych – Instytut Badawczy Zaawansowanego Przetwarzania Danych (ISRO-ADRIN) podj\u0119\u0142y wsp\u00f3\u0142prac\u0119 w celu opracowania Systemu Mapowania Przest\u0119pczo\u015bci, Analizy i Prognozowania (CMAPS) – aplikacji internetowej wdro\u017conej w Komendzie G\u0142\u00f3wnej Policji w Delhi i dost\u0119pnej przez przegl\u0105dark\u0119 we wszystkich komisariatach i dzielnicach Delhi. [7] Aplikacja wykonuje analizy trend\u00f3w, zestawia profile przest\u0119pstw i kryminalne oraz analizuje zachowanie os\u00f3b podejrzanych o pope\u0142nienie przest\u0119pstwa – wszystko to z towarzysz\u0105c\u0105 grafik\u0105. CMAPS posiada r\u00f3wnie\u017c modu\u0142 bezpiecze\u0144stwa do oceny zagro\u017cenia VIP na podstawie podatno\u015bci potencjalnego celu i zastosowanych zabezpiecze\u0144 oraz zaawansowan\u0105 analiz\u0119 predykcyjn\u0105. Jednocze\u015bnie organizacje spo\u0142ecze\u0144stwa obywatelskiego uwa\u017caj\u0105, \u017ce systemy AI w egzekwowaniu prawa, zw\u0142aszcza w zakresie przewidywania i profilowania, dyskryminuj\u0105 najbardziej zmarginalizowane grupy spo\u0142eczne, naruszaj\u0105 wolno\u015b\u0107 i prawo do rzetelnego procesu s\u0105dowego oraz wzmacniaj\u0105 strukturaln\u0105 dyskryminacj\u0119.<\/span><\/p>\n

Analiza prawna<\/span><\/p>\n

Ilo\u015b\u0107 informacji, kt\u00f3re nale\u017cy przeanalizowa\u0107 w sprawach s\u0105dowych jest ogromna. Szczeg\u00f3lnie w systemach precedensowych takich, jak ten w USA przesz\u0142e procesy s\u0105 bardzo istotnym wyznacznikiem decyzji. Nawet w naszym rodzimym systemie sprawy trwaj\u0105ce latami nagromadz\u0105 stosy zapis\u00f3w. Wykorzystuj\u0105c techniki przetwarzania j\u0119zyka naturalnego, systemy informatyczne s\u0105 w stanie przeskanowa\u0107 przesz\u0142e dokumenty i wyr\u00f3\u017cni\u0107 w nich potrzebne informacje. Systemy takie jak <\/span>e-discovery czy Elasticsearch s\u0105 ju\u017c stosowane w praktyce. Powstaj\u0105 r\u00f3wnie\u017c aplikacje pozwalaj\u0105ce osobom niezaznajomionym z prawem odpowiedzie\u0107 na konkretne zwi\u0105zane z przepisami pytania. Przyk\u0142adem takiego systemu jest np. Lemkin [10].<\/span><\/p>\n

\"\"<\/p>\n

Ocena algorytmu a prawa osobiste<\/b><\/p>\n

Systemy algorytmicznej oceny ryzyka recydywy staj\u0105 si\u0119 nie tylko standardem, ale nawet wymaganiem prawnym [5]. Z perspektywy uczenia maszynowego jest to zadanie klasyfikacji, czy w okre\u015blonym czasie dana osoba pope\u0142ni przest\u0119pstwo, czy te\u017c nie. Mog\u0105 tu by\u0107 brane pod uwag\u0119 r\u00f3\u017cnorodne cechy, kt\u00f3re mog\u0105 by\u0107 mniej lub bardziej kontrowersyjne: wiek, p\u0142e\u0107, kolor sk\u00f3ry, informacje socjoekonomiczne (np. zamo\u017cno\u015b\u0107 rodziny czy okolicy zamieszkania) czy historia poprzednich przest\u0119pstw. Odpowiedni feature engineering stanowi postaw\u0119 poprawnych algorytm\u00f3w ML. Pytanie jednak – czy je\u017celi nawet cecha ulepsza zadane metryki na zbiorze danych, to czy uzasadnia to jej u\u017cycie?<\/span><\/p>\n

Tradycyjna nazwa ML to „pattern recognition” – rozpoznawanie wzorc\u00f3w. W tym kontek\u015bcie jednak mo\u017cna by te\u017c jednak u\u017cy\u0107 s\u0142owa „stereotyp\u00f3w”. Algorytmy te ucz\u0105 si\u0119 bowiem klasyfikacji ludzi i b\u0119d\u0105 z natury wyci\u0105ga\u0107 pewne uog\u00f3lnienia, z perspektywy oskar\u017conych krzywdz\u0105ce. Przyk\u0142adowo, je\u017celi model posiada\u0142by informacj\u0119 o kolorze sk\u00f3ry, to jego celno\u015b\u0107 mo\u017ce wzrosn\u0105\u0107, bo zaklasyfikuje wszystkie osoby czarnosk\u00f3re jako przysz\u0142ych recydywist\u00f3w. Jednak si\u0142\u0105 rzeczy odbiera to indywidualizm os\u0105du dla danej osoby, co jest wprost sprzeczne z prawem, a ponadto w\u0105tpliwe moralnie.<\/span><\/p>\n

Kwestie te podniesiono w sprawie <\/span>State vs Loomis<\/span><\/i> (881 N.W.2d 749 (Wis. 2016) [5]. S\u0119dzia, skazuj\u0105c E. Loomisa na 6 lat wi\u0119zienia, odwo\u0142a\u0142 si\u0119 wprost w wyroku do wyniku otrzymanego z systemu COMPAS. Jest to w\u0142asno\u015bciowy system oceny ryzyka recydywizmu, wykorzystuj\u0105cy ponad 130 cech o oskar\u017conym. Zestaw u\u017cytych cech nie jest znany publicznie. Pomimo licznych pr\u00f3b, kolejne instancje zabrania\u0142y udost\u0119pnienia kodu \u017ar\u00f3d\u0142owego adwokatowi Loomisa, nawet przy zachowaniu pe\u0142nej niejawno\u015bci, powo\u0142uj\u0105c si\u0119 na prawa w\u0142asno\u015bci intelektualnej. Podobne wyroki zapada\u0142y w wielu stanach USA [5]. W kwestii tej postawiono interes firmy i tajno\u015b\u0107 produktu nad jawno\u015b\u0107 wymiaru sprawiedliwo\u015bci, co budzi liczne kontrowersje.<\/span><\/p>\n

Aby przedstawi\u0107 ryzyko niejawnych system\u00f3w ML zastosowanych w wymiarze sprawiedliwo\u015bci oraz optymalizacj\u0119 tylko pod zadan\u0105 metryk\u0119, w [4] stworzono prosty system regu\u0142owy CORELS, uzyskuj\u0105cy podobne warto\u015bci licznych metryk (true \/ false positive rate, true \/ false negative rate) co system COMPAS. System CORELS korzysta jednak z tylko 3 cech: wiek, liczba poprzednio pope\u0142nionych przest\u0119pstw, p\u0142e\u0107. Pokazuje to nie tylko, jak bardzo mo\u017cna upro\u015bci\u0107 takie systemy, ale te\u017c jak bardzo, pomimo pozornej z\u0142o\u017cono\u015bci, potrafi\u0105 by\u0107 trywialne, optymalizuj\u0105c tylko pod zbiory danych.<\/span><\/p>\n

\"\"<\/p>\n

Wykorzystanie jakichkolwiek system\u00f3w AI do oceny ryzyka powoduje jednak zasadniczy problem w postaci b\u0142\u0119d\u00f3w poznawczych (cognitive biases). Niezale\u017cnie od otwarto\u015bci i uczciwo\u015bci systemu (w sensie u\u017cytych cech, metryk etc.) s\u0119dzia, gdy zobaczy negatywn\u0105 opini\u0119 algorytmu przed wydaniem wyroku, z du\u017cym prawdopodobie\u0144stwem b\u0119dzie si\u0119 tym pod\u015bwiadomie kierowa\u0142 [8]. Co wi\u0119cej, nawet algorytmy podaj\u0105ce pewno\u015b\u0107 swojej decyzji nie by\u0142yby tutaj pomocne ze wzgl\u0119du na zjawisko kotwiczenia (anchoring). Jest to zjawisko znane z ekonomii behawioralnej, w kt\u00f3rym cz\u0142owiek opiera si\u0119 na dowolnym dost\u0119pnym dowodzie, niezale\u017cnie od jego s\u0142abo\u015bci, podczas podejmowania decyzji [9]. W przypadku u\u017cycia system\u00f3w zautomatyzowanych mo\u017ce to powodowa\u0107 kierowanie si\u0119 przez s\u0119dziego uog\u00f3lnieniami i wzorcami wyuczonymi przez algorytm, zmniejszaj\u0105c nale\u017cyt\u0105 indywidualno\u015b\u0107 os\u0105du.<\/span><\/p>\n

Podsumowanie<\/b><\/p>\n

Sztuczna inteligencja znajduje zastosowanie w dziedzinie prawa. Nie s\u0105 to tylko teoretyczne, przysz\u0142o\u015bciowe rozwa\u017cania, ale co\u015b, co ju\u017c wyst\u0119puje i staje si\u0119 cz\u0119\u015bci\u0105 obowi\u0105zuj\u0105cych przepis\u00f3w. Pozostaje jednak kwesti\u0105 otwart\u0105, czy pytania i problemy, kt\u00f3re pojawi\u0105 si\u0119 w zwi\u0105zku z tym, nie powinny zosta\u0107 najpierw rozwi\u0105zane przed wdro\u017ceniem takich rozwi\u0105za\u0144. Kwestie prywatno\u015bci, dost\u0119pu do informacji o nas samych czy zrozumienia wp\u0142ywu AI na nasz\u0105 pozycj\u0119 prawn\u0105 b\u0119d\u0105 bez w\u0105tpienia w najbli\u017cszych latach pojawia\u0107 si\u0119 w debacie publicznej. Wyroki wydawane przez s\u0105dy opiera\u0142y si\u0119, opieraj\u0105, a zapewne w przysz\u0142o\u015bci jeszcze bardziej b\u0119d\u0105 opiera\u0107 si\u0119 na automatyzacji zapewnionej przez uczenie maszynowe. Ze wzgl\u0119du na z\u0142o\u017cone kwestie techniczne rol\u0105 os\u00f3b wykszta\u0142conych w tym kierunku jest wyja\u015bnienie prawnikom dzia\u0142ania i konsekwencji tych narz\u0119dzi, tak, aby mog\u0142y one s\u0142u\u017cy\u0107 wymiarowi sprawiedliwo\u015bci. Metody te mog\u0105 bowiem, zastosowane bez nale\u017cytej kontroli i zrozumienia, zmieni\u0107 obraz s\u0105downictwa w dziedzin\u0119 opart\u0105 na stereotypach, uog\u00f3lnieniach i najbardziej prawdopodobnych mo\u017cliwo\u015bciach, zamiast nale\u017cycie zindywidualizowanego podej\u015bcia.<\/span><\/p>\n

\u00a0<\/span><\/p>\n

[1] P. Pednekar „Cyber Crimes: An Overview”. ISSN 2249-9598<\/span><\/p>\n

[2] B. Klimza „Sztuczna inteligencja i Data Science w kryminologii. Jak metody automatycznego przetwarzania pozwalaj\u0105 rozwik\u0142a\u0107 sprawy kryminalne” (http:\/\/architeles.pl\/ethics\/index.php\/2022\/05\/04\/sztuczna-inteligencja-i-data-science-w-kryminologii-jak-metody-automatycznego-przetwarzania-pozwalaja-rozwiklac-sprawy-kryminalne\/)<\/span><\/p>\n

[3] „Brennan T, Dieterich W, Ehret B. „Evaluating the Predictive Validity of the COMPAS Risk and Needs Assessment System”. Criminal Justice and Behavior. 2009 January;36(1):21\u201340.<\/span><\/p>\n

[4] C. Rudin. „Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead.” Nature Machine Intelligence 1.5 (2019): 206-215.<\/span><\/p>\n

[5] Harvard Law Review. „State v. Loomis. Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Assessments in Sentencing.”. <\/span>https:\/\/harvardlawreview.org\/2017\/03\/state-v-loomis\/<\/span><\/a><\/p>\n

[6] <\/span>https:\/\/www.mimuw.edu.pl\/~std\/Dydaktyka\/PPK\/C0405.pdf<\/span><\/a><\/p>\n

[7] <\/span>https:\/\/www.livemint.com\/technology\/tech-news\/ai-profiles-predict-crimes-fast-but-can-discriminate-against-the-poor-11646590850806.html<\/span><\/a><\/p>\n

[8] <\/span>ANG\u00c8LE CHRISTIN ET AL., COURTS AND PREDICTIVE ALGORITHMS 8 (Oct. 27, 2015),<\/span> http:\/\/www.datacivilrights.org\/pubs\/2015-1027\/Courts_and_Predictive_Algorithms.pdf<\/span><\/a><\/p>\n

[9] Thomas Mussweiler & Fritz Strack, Numeric Judgments Under Uncertainty: The Role of Knowledge in Anchoring, 36 J. EXPERIMENTAL SOC. PSYCHOL. 495, 495 (2000); Amos Tversky & Daniel Kahneman, Judgment Under Uncertainty: Heuristics and Biases, 185 SCIENCE 1124, 1128\u201330 (1974).<\/span><\/p>\n

[10] Lemkin – inteligentny system informacji prawnej. https:\/\/lemkin.pl\/<\/p>\n","protected":false},"excerpt":{"rendered":"

Prawo jest jedn\u0105 z najstarszych dziedzin nauki. Jego zasady r\u00f3\u017cni\u0142y si\u0119 znacznie, i nadal r\u00f3\u017cni\u0105, w zale\u017cno\u015bci od sytuacji geopolitycznej, historii kraju czy kultury. Jest przy tym cz\u0119sto postrzegane jako sztywne, oporne zmianom i nowinom. Czy jest jednak w nim miejsce dla nowoczesnego AI? Przyjrzymy si\u0119 istniej\u0105cym i mo\u017cliwym przysz\u0142ym zastosowaniom uczenia maszynowego we wsparciu […]<\/p>\n","protected":false},"author":60,"featured_media":1208,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[15,43,135,139,131],"class_list":["post-1205","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized","tag-ai","tag-data-science","tag-kryminologia","tag-prawo","tag-prawo-przyszlosci"],"jetpack_featured_media_url":"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/05\/ai_in_law.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/1205","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/60"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=1205"}],"version-history":[{"count":6,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/1205\/revisions"}],"predecessor-version":[{"id":1361,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/1205\/revisions\/1361"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media\/1208"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=1205"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=1205"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=1205"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}