{"id":1224,"date":"2022-05-11T20:32:26","date_gmt":"2022-05-11T20:32:26","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=1224"},"modified":"2022-05-11T20:34:21","modified_gmt":"2022-05-11T20:34:21","slug":"csi-ai-kryminologia-kryminalistyka-wymiar-sprawiedliwosci-oczami-sztucznej-inteligencji","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/05\/11\/csi-ai-kryminologia-kryminalistyka-wymiar-sprawiedliwosci-oczami-sztucznej-inteligencji\/","title":{"rendered":"CSI & AI – kryminologia, kryminalistyka, wymiar sprawiedliwo\u015bci oczami sztucznej inteligencji"},"content":{"rendered":"

Wraz z rozwojem technologii zwi\u0119ksza si\u0119 wachlarz dost\u0119pnych technik pope\u0142niania przest\u0119pstw. Czy wymiar sprawiedliwo\u015bci jest przygotowany do walki z zupe\u0142nie now\u0105 fal\u0105 zagro\u017ce\u0144 okre\u015blan\u0105 mianem cyberprzest\u0119pczo\u015bci? Jak wykorzystywanie AI mo\u017ce u\u0142atwi\u0107 prac\u0119 przest\u0119pcom, kryminologom, policji czy organom \u015bcigania i jakie problemy wci\u0105\u017c stoj\u0105 na drodze do powszechnej adaptacji technik AI w rozwi\u0105zywaniu spraw kryminalnych? W tym artykule postaramy si\u0119 odpowiedzie\u0107 na te i inne pytania, a tak\u017ce przedyskutujemy na ile prawdopodobne jest zast\u0105pienie s\u0119dzi\u00f3w algorytmami AI w najbli\u017cszej przysz\u0142o\u015bci.<\/strong><\/p>\n

<\/p>\n

Co to jest kryminologia?<\/h1>\n

Kryminologia jest nauk\u0105 zwi\u0105zan\u0105 bezpo\u015brednio z prawem karnym [1]. Nie skupia si\u0119 ona jednak bezpo\u015brednio na nauce o przepisach karnych, co sugeruje etymologia tego poj\u0119cia (crimen – przest\u0119pstwo, logos – nauka). G\u0142\u00f3wnym przedmiotem bada\u0144 z zakresu kryminologii jest natomiast sam czyn pope\u0142nienia przest\u0119pstwa. Kryminolodzy badaj\u0105 zar\u00f3wno samych sprawc\u00f3w przest\u0119pstwa – mi\u0119dzy innymi ich motywy i przyczyny pope\u0142nienia przest\u0119pstwa – jak i okoliczno\u015bci dokonania przest\u0119pstwa. Celem prowadzenia bada\u0144 i analiz z tego zakresu jest zrozumienie og\u00f3lnych przyczyn pope\u0142niania przest\u0119pstw, po to, by identyfikowa\u0107 skuteczne sposoby zwalczania przest\u0119pczo\u015bci. Nauki \u015bci\u015ble zwi\u0105zane z kryminologi\u0105 to m.in. psychologia, psychiatria i socjologia. Wykorzystuj\u0105c wiedz\u0119 i r\u00f3\u017cne techniki bada\u0144 wywodz\u0105ce si\u0119 z tych dziedzin, kryminolodzy analizuj\u0105 podstawy ludzkich zachowa\u0144, kt\u00f3re przyczyni\u0142y si\u0119 do pope\u0142nienia czynu sprzecznego z prawem karnym [2].<\/p>\n

Opr\u00f3cz samego sprawcy przest\u0119pstwa, kryminologia bada r\u00f3wnie\u017c sposoby reagowania na przest\u0119pstwo i funkcjonowania instytucji wymiaru sprawiedliwo\u015bci [3]. Kryminolodzy analizuj\u0105 jak sankcje karne wp\u0142ywaj\u0105 na sprawc\u00f3w przest\u0119pstw i jak skuteczne s\u0105 skutki nak\u0142adania polityki karnej. Przyk\u0142adowo, czy dla danego przest\u0119pstwa kara 15 lat pozbawienia wolno\u015bci b\u0119dzie wystarczaj\u0105co odstrasza\u0107 potencjalnych sprawc\u00f3w przed jego pope\u0142nieniem, czy te\u017c nie?<\/p>\n

Co istotne, kryminologia jest dziedzin\u0105 stosunkowo ma\u0142o popularn\u0105, o czym \u015bwiadczy niewielka ilo\u015b\u0107 o\u015brodk\u00f3w badawczych prowadz\u0105cych badania z tego zakresu. W rezultacie, nie istniej\u0105 teorie ani techniki pozwalaj\u0105ce w jednakowy spos\u00f3b analizowa\u0107 dowolne wykroczenie, bez wzgl\u0119du na jego okoliczno\u015bci. Doprowadza to do cz\u0119stych sytuacji, w kt\u00f3rych pojawiaj\u0105 si\u0119 sprzeczne ze sob\u0105 analizy kryminologiczne. Stale opracowywane s\u0105 nowe techniki bada\u0144 z zakresu kryminologii, r\u00f3wnie\u017c takie wykorzystuj\u0105ce nowoczesne techniki informatyczne, oparte o metody statystyczne lub sztuczn\u0105 inteligencj\u0119 (AI).<\/p>\n

Do czego wykorzystuje si\u0119 AI w kryminologii?<\/h1>\n
\"\"
\u0179r\u00f3d\u0142o: https:\/\/mindy-support.com\/news-post\/using-ai-to-fight-crime-how-police-use-ai\/<\/em><\/span><\/figcaption><\/figure>\n

W kryminologi AI mo\u017cna wykorzysta\u0107 na wiele spos\u00f3b, mo\u017cna dokonywa\u0107 przest\u0119pstw przy jej pomocy, chroni\u0107 si\u0119 przed przest\u0119pstwami,\u00a0 wykrywa\u0107 potencjalnych terroryst\u00f3w i mo\u017cna te\u017c pr\u00f3bowa\u0107 dokona\u0107 przest\u0119pstw na samej sztucznej inteligencji. W tym rozdziale przedstawimy r\u00f3\u017cne perspektywy wykorzystania AI i opiszemy jakie techiniki s\u0105 stosowane.<\/p>\n

Przest\u0119pstwa przy u\u017cyciu AI<\/h2>\n

AI mo\u017ce s\u0142u\u017cy\u0107 jako pot\u0119\u017cne narz\u0119dzie do z\u0142o\u015bliwego wykorzystania przez przest\u0119pc\u00f3w [4] poprzez rozszerzanie\u00a0 stniej\u0105cych zagro\u017ce\u0144 lub wprowadzanie nowych zagro\u017ce\u0144. Przyk\u0142adowo przemytnicy narkotyk\u00f3w mog\u0105 si\u0119gn\u0105\u0107 po pojazdy bezza\u0142ogowe takie jak \u0142odzie podwodne, w celu zwi\u0119kszenia skuteczno\u015bci przemytu i unikanie odporno\u015bci karnej.<\/p>\n

Innym wykorzystaniem AI mo\u017ce by\u0107 po\u0142\u0105czenie tanich dron\u00f3w z systemami do detekcji twarzy oraz materia\u0142ami wybuchowymi, co mog\u0142oby przyczyni\u0107 si\u0119 do masowych i gro\u017anych atak\u00f3w terrorystycznych.<\/p>\n

Kolejnym narz\u0119dziem u\u017cywanym przez przest\u0119pc\u00f3w jest DeepFake, generatywne sieci neuronowo (GAN) pozwalaj\u0105ce na tworzenie syntetycznych film\u00f3w z udzia\u0142em prawdziwych osoby.<\/p>\n

DeepFake\u2019y nie s\u0105 jedynymi przyk\u0142adami generatywnych sieci, kt\u00f3re mog\u0105 s\u0142u\u017cy\u0107 jako narz\u0119dzia dla przest\u0119pc\u00f3w. W 2017 roku badacze z NYU (New York University) u\u017cyli GAN\u00f3w do stworzenia \u201cDeepMasterPrints\u201d, syntetycznych odcisk\u00f3w palca mog\u0105cych s\u0142u\u017cy\u0107 jako klucz do system\u00f3w z identyfikacj\u0105 biometryczn\u0105. W tym samym roku powsta\u0142 r\u00f3wnie\u017c PassGAN, generatywna sie\u0107 trenowana na has\u0142ach, kt\u00f3re wyciek\u0142y z baz danych i potrafi\u0105ca generowa\u0107 potencjalne has\u0142a wysokiej jako\u015bci, taka sie\u0107 osi\u0105ga\u0142a lepsze wyniki o ponad 50% wzgl\u0119dem najlepszych tego typu narz\u0119dzi dost\u0119pnych na rynku w tym czasie.<\/p>\n

Szacuje si\u0119, \u017ce 91% cyberatak\u00f3w rozpoczyna si\u0119 od maili phishingowych, w 2018 roku powsta\u0142 DeepPhish [5], system AI ucz\u0105cy si\u0119 na podstawie innych atak\u00f3w phishingowych i pozwalaj\u0105cy znacznie skuteczniej obchodzi\u0107 filtry spamu.<\/p>\n

Przest\u0119pstwa na AI<\/h2>\n

Nikogo nie powinien dziwi\u0107 fakt, \u017ce szereg przest\u0119pstw kt\u00f3re mo\u017cemy pope\u0142ni\u0107 staje si\u0119 \u0142atwiejsze i gro\u017aniejsze, je\u017celi u\u017cyjemy do tego sztucznej inteligencji. Nie wszyscy zdaj\u0105 sobie jednak spraw\u0119 z tego, \u017ce systemy AI te\u017c mog\u0105 pa\u015b\u0107 celem ataku. Takie ataki opieraj\u0105 si\u0119 zazwyczaj na in\u017cynierii wstecznej i pr\u00f3bach \u201cog\u0142upienia\u201d sieci.<\/p>\n

Znanym tego typu przyk\u0142adem [6] jest chatbot \u201cTay\u201d stworzony przez Microsoft i dzia\u0142aj\u0105cy na twitterze. Bot sta\u0142 si\u0119 s\u0142awny po tym jak w nieca\u0142e 24 godziny, po tym jak ludzie zacz\u0119li go uczy\u0107 frazes\u00f3w, bot sta\u0142 si\u0119 rasist\u0105 i zacz\u0105\u0142 powiela\u0107 stereotypy o osobach czarnosk\u00f3rych, kobietach, meksykanach czy te\u017c \u017cydach.<\/p>\n

 <\/p>\n

\"\"
\u0179r\u00f3d\u0142o: https:\/\/www.theverge.com\/2016\/3\/24\/11297050\/tay-microsoft-chatbot-racist<\/em><\/span><\/figcaption><\/figure>\n

Ten problem to tylko czubek g\u00f3ry lodowej, systemy AI s\u0105 podatne nie tylko na niew\u0142a\u015bciwe dane treningowe, ale r\u00f3wnie\u017c na tak zwane \u201cadversarial\u201d ataki, to znaczy celowe dobieranie pr\u00f3bki testowe, kt\u00f3re sprawiaj\u0105, \u017ce sie\u0107 nie jest w stanie dzia\u0142a\u0107 w spos\u00f3b do kt\u00f3rego zosta\u0142a zaprojektowana. Przyk\u0142adowo [7] autopilot tesli zosta\u0142 oszukany przez drona z reflektorem rzucaj\u0105cy fikcyjny znak na jezdni\u0119, sprawiaj\u0105c, \u017ce przekroczy\u0142 on dopuszczaln\u0105 pr\u0119dko\u015b\u0107. Testuj\u0105cym uda\u0142o si\u0119 nawet sprawi\u0107, \u017ce samoch\u00f3d zjecha\u0142 ze swojego pasa jezdni poprzez rzucanie fa\u0142szywych linii drogowych.<\/p>\n

Kolejn\u0105 dziedzin\u0105 w kt\u00f3rej istnieje mo\u017cliwo\u015b\u0107 wykorzystania podatno\u015bci AI s\u0105 systemy do rozpoznawania g\u0142osu typu Siri, Alexa itp, naukowcy byli w stanie oszuka\u0107 takie systemy przy pomocy replikowania fal g\u0142osowych i wysy\u0142a\u0107 ukryte g\u0142osy, przez co system by\u0142 w stanie wykonywa\u0107 podsy\u0142ane komendy.<\/p>\n

Przest\u0119pstwo przez AI<\/h2>\n

Wiemy ju\u017c, \u017ce AI mo\u017ce s\u0142u\u017cy\u0107 jako narz\u0119dzie do wykonywania przest\u0119p, jednak\u017ce co w przypadku gdy AI pope\u0142ni przest\u0119pstwo samodzielnie? W 2015 w darkwebie pewna grupa os\u00f3b wypu\u015bci\u0142a bota, kt\u00f3ry mia\u0142 dokonywa\u0107 zakupow\u00f3w na stronie. Jak si\u0119 okaza\u0142o, ostatecznie bot kupi\u0142 narkotyki i zosta\u0142 aresztowany przez Szwajcarsk\u0105 policj\u0119. Co w przypadku, gdy robot pope\u0142ni przest\u0119pstwo, albo autopilot samochodowy przejedzie kogo\u015b na ulicy? Z rozwojem sztucznej inteligencji, ro\u015bnie ryzyko, \u017ce takie sytuacje b\u0119d\u0105 si\u0119 zdarza\u0107. Jak powinno si\u0119 zachowa\u0107 w takim przypadku to na pewno ci\u0119\u017cki, ale zarazem ciekawy temat do dyskusji.<\/p>\n

AI jako \u015brodek prewencji<\/h2>\n
\"\"
\u0179r\u00f3d\u0142o: https:\/\/www.information-age.com\/10-cyber-security-trends-look-2020-123463680\/<\/em><\/span><\/figcaption><\/figure>\n

Wiemy ju\u017c, \u017ce przy pomocy AI mo\u017cna skuteczniej tworzy\u0107 maile phishingowe, sztuczna inteligencja mo\u017ce te\u017c s\u0142u\u017cy\u0107 jako \u015brodek ochronny, w 2020 roku powsta\u0142 system Panacea, u\u017cywaj\u0105cy metody przetwarzania j\u0119zyka naturalnego aby skutecznie wykrywa\u0107 pr\u00f3by oszustw mailowych. Dodatkowo w dziedzinie cyberprzest\u0119pstw mamy dost\u0119pnych wiele narz\u0119dzi bazuj\u0105cych na sztucznej inteligencji, takich jak antywirusy czy firewalle, poni\u017cej znajduj\u0119 si\u0119 kilka bardziej szczeg\u00f3\u0142owych zastosowa\u0144.<\/p>\n