Home » AGH 2024/25 » Automatyczne systemy wykrywania przestępstw i granica między prewencją a naruszeniem wolności obywatelskich – czy sztuczna inteligencja może skutecznie identyfikować zagrożenia w czasie rzeczywistym, czy też prowadzi do nadmiernej kontroli społecznej i naruszeń praw człowieka.

Automatyczne systemy wykrywania przestępstw i granica między prewencją a naruszeniem wolności obywatelskich – czy sztuczna inteligencja może skutecznie identyfikować zagrożenia w czasie rzeczywistym, czy też prowadzi do nadmiernej kontroli społecznej i naruszeń praw człowieka.

By in AGH 2024/25 on
Spread the love

SI jako stróż porządku

Automatyczne systemy wykrywania przestępstw i niewyraźna granica między prewencją a naruszeniem wolności obywatelskich

Sztuczna inteligencja coraz częściej staje się narzędziem wykorzystywanym przez służby państwowe różnych krajów w celu rozpoznawaniu zagrożeń publicznych i prowadzenia postępowania karnego. Może ona pomagać przy określaniu podejrzanego czy miejsca zdarzenia, ale także służyć do profilowania ludzi ze względu na skłonności do popełnienia czynów karalnych. Wprowadzenie tych technologii do życia publicznego nie odbywa się jednak bez obaw i oporu ze strony społeczeństwa. Powszechna staje się niepewność związana z coraz głębiej sięgającym nadzorem i coraz częściej występującymi sytuacjami, w których istotne decyzje podejmowane są przez SI. Werdykty, w taki sposób podejmowane, przedstawiane są często jako bezstronne i celne, lecz takie zapewnienia nie gwarantują ich pozytywnego odbioru przez opinię publiczną.

https://time.com/collection/davos-2019/5502592/china-social-credit-score/

Wolności obywatelskie, prawa człowieka a inwigilacja

Próbując określić granicę, której czynności prewencyjne i nadzorcze nie powinny przekraczać, często nawiązujemy do pojęć wolności obywatelskich, praw człowieka czy prawa do prywatności. Robimy to nieraz korzystając z nich nie jako przyjętego w naszym kraju ustawodawstwa, ale jako z symbolu naszych przekonań co do wolności jaka według nas powinna być dana człowiekowi. Dyskusja na temat praw człowieka jest oczywiście wciąż potrzebna; Mimo to dobrze jest znać prawny status nadanych nam lub uznanych przez państwo wolności. Z perspektywy prawnej w Polsce uznaje i przestrzega się szereg dokumentów określających te aspekty życia obywateli, wybrane fragmenty z nich to (chronologicznie po wejściu w życie):

 

  • Powszechna Deklaracja Praw Człowieka (ONZ 1948) Art.13

    “No one shall be subjected to arbitrary interference with his privacy, family, home or correspondence, nor to attacks upon his honour and reputation. Everyone has the right to the protection of the law against such interference or attacks.”

     

  • Europejska Konwencja Praw Człowieka (Rada Europy 1953) Art. 8

    “1.  Każdy ma prawo do poszanowania swojego życia prywatnego i rodzinnego, swojego mieszkania i swojej korespondencji.
    2.  Niedopuszczalna jest ingerencja władzy publicznej w korzystanie z tego prawa, z wyjątkiem przypadków przewidzianych przez ustawę i koniecznych w demokratycznym społeczeństwie z uwagi na bezpieczeństwo państwowe, bezpieczeństwo publiczne lub dobrobyt gospodarczy kraju, ochronę porządku i zapobieganie przestępstwom, ochronę zdrowia i moralności lub ochronę praw i wolności innych osób.“

 

  • Konstytucja Rzeczypospolitej Polskiej

    Art. 47
    “ Każdy ma prawo do ochrony prawnej życia prywatnego, rodzinnego, czci i dobrego imienia oraz do decydowania o swoim życiu osobistym.”

    Art. 49
    “Zapewnia się wolność i ochronę tajemnicy komunikowania się. Ich ograniczenie może nastąpić jedynie w przypadkach określonych w ustawie i w sposób w niej określony.”

    Art. 51 pkt 2
    “Władze publiczne nie mogą pozyskiwać, gromadzić i udostępniać innych informacji o obywatelach niż niezbędne w demokratycznym państwie prawnym.”

     

  • RODO

    Art. 4 ust. 4
    “ “profilowanie” oznacza dowolną formę zautomatyzowanego przetwarzania danych osobowych, które polega na wykorzystaniu danych osobowych do oceny niektórych czynników osobowych osoby fizycznej, w szczególności do analizy lub prognozy aspektów dotyczących efektów pracy tej osoby fizycznej, jej sytuacji ekonomicznej, zdrowia, osobistych preferencji, zainteresowań, wiarygodności, zachowania, lokalizacji lub przemieszczania się;”

    Art. 22 ust. 1
    “Osoba, której dane dotyczą, ma prawo do tego, by nie podlegać decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, i wywołuje wobec tej osoby skutki prawne lub w podobny sposób istotnie na nią wpływa.”

    Art. 22 ust. 2
    “ Ust. 1 nie ma zastosowania, jeżeli ta decyzja:
    a) jest niezbędna do zawarcia lub wykonania umowy między osobą, której dane dotyczą, a administratorem;
    b) jest dozwolona prawem Unii lub prawem państwa członkowskiego, któremu podlega administrator i które przewiduje właściwe środki ochrony praw, wolności i prawnie uzasadnionych interesów osoby, której dane dotyczą; lub
    c) opiera się na wyraźnej zgodzie osoby, której dane dotyczą.”

 

  • AI ACT (Uchwalony w 2024, jeszcze nie w pełni obowiązujący)

    Zakazy:

    Art. 5 ust. 1c
    “ Wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości, kiedy to scoring społeczny prowadzi do jednego lub obu z następujących skutków:
    (i) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane;
    (ii) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi;”

    Art. 5 ust. 1c
    “ Wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemu AI do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną, wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych; zakaz ten nie ma zastosowania do systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą;“

 

Na przedstawionych wyżej fragmentach aktów prawnych widać próbę znalezienia przez prawodawców balansu pomiędzy zapewnieniem jak największej wolności obywatelom a utrzymaniem bezpieczeństwa i dopełnieniem sprawiedliwości. Trzeba jednak zauważyć, że mimo iż z czasem prawa zyskują na precyzji, pozostają w nich pola do interpretacji i punkty, które mogą być potencjalnie omijane czy to przez organizacje rządowe czy prywatne. Znając swoje prawa możemy bardziej konstruktywnie rozmawiać o rozszerzeniu praw człowieka, rozpoznawać praktyki, które nie są z nimi zgodne, oraz spoglądać na politykę innych krajów i świadomie obserwować skutki praw odmiennych od naszych.

 

Chiny – środki “utrzymania stabilności”


Gdy mowa o państwowym nadzorze, jednym z pierwszych krajów, które przychodzą na myśl, jest Chińska Republika Ludowa. Historia tego nadzoru w różnych formach była znana światu już od utworzenia republiki w 1949, natomiast postęp technologiczny zaoferował możliwość nasilenia tego przedsięwzięcia na masową skalę. Na początku obecnego stulecia rozpoczęto tworzenie systemu nadzoru z wykorzystaniem kamer w miejscach publicznych nazywanego często Skynet.

W 2013 roku według miejscowych mediów na terenie całych Chin miało być już rozmieszczone 20 milionów kamer. W 2019 roku New York Times mówi o estymacji rozmiaru siatki monitoringu na poziomie 200 milionów kamer. W końcówce tego roku według IHS Markit na łamach WSJ kamer tak naprawdę było ich 415 milionów i jeśli trend miałby się utrzymać, na koniec 2021 roku kamer mogłoby być 540 milionów.

Gdy do monitoringu doda się system rozpoznawania twarzy i połączy się go z dostępem do wiadomości wysyłanych (w przeciągu ostatnich 6 miesięcy) za pomocą dozwolonych komunikatorów takich jak np. WeChat, brakiem możliwości anonimowego publikowania treści na chińskich portalach i danymi medycznymi można otrzymać twór nazywany przez Human Rights Watch mianem “Police Cloud”. System taki, według doniesień, służyć ma przewidywaniu działań aktywistów i mniejszości etnicznych posądzanych o posiadanie “ekstremistycznych myśli”.

Dla obywateli nie należących do mniejszości etnicznej system taki wydaje się być głównie narzędziem do tłumienia antysystemowych myśli i określania podejrzanych, na których bacznym okiem będzie patrzył już nie tylko system automatyczny, ale i służby. Dla Ujgurów (grupy etnicznej pochodzenia tureckiego) żyjących w Regionie Autonomicznym Sinciang-Ujgur sytuacja jest inna. Ze względu na obawy ze strony rządu Chin o tendencje separatystyczne wśród Ujgurów, grupa ta stała się celem zaostrzonej inwigilacji i dyskryminacji. W 2017 roku grupa Ujgurów wygnana z Chin przekazała organizacji znanej jako International Consortium of Investigative Journalists zestaw wykradzionych tajnych dokumentów opisujących instrukcje prowadzenia obozów reedukacyjnych, oraz opis siatki masowego nadzoru wykorzystującego sztuczną inteligencję pod angielską nazwą Integrated Joint Operations Platform (IJOP). System ten miał śledzić lokalizację i czynności Ujgurów oraz decydować automatycznie o tym kto ma zostać przesłuchany i potencjalnie aresztowany. W 2020 roku Human Rights Watch zdobyło listę 2000 Ujgurskich więźniów wraz z powodami ich aresztu. Wśród powodów pojawiały się takie czynności jak studiowanie Koranu bez zezwolenia państwa, posiadanie długiej brody, używanie serwisów VPN, wielokrotne wyłączanie telefonu, oraz posiadanie “ekstremistycznych myśli”. Oficjalne stanowisko Chin w sprawie tych wycieków to określenie ich jako fabrykacji i zaznaczenie, że sprawa Ujgurów jest polityką wewnętrzną państwa.

 

USA – techno-prewencja z ludzką twarzą?


Po drugiej stronie globu, w USA, sytuacja wygląda pozornie łagodniej – ale tylko częściowo. Amerykańskie agencje federalne, takie jak FBI czy NSA, od lat inwestują w narzędzia analityczne i predykcyjne oparte na sztucznej inteligencji, które monitorują media społecznościowe, wiadomości tekstowe czy aktywność online. Po protestach Black Lives Matter i szturmie na Kapitol w 2021 roku znacznie zintensyfikowano wykorzystanie systemów mających „wyłapywać” potencjalne zagrożenia, zanim dojdzie do przemocy.

Tego typu podejście, znane jako predictive policing, polega na analizie danych historycznych w celu przewidywania, gdzie może dojść do przestępstw, i które osoby należy uznać za „wysokiego ryzyka”. Choć brzmi to jak racjonalne i przydatne narzędzie, rzeczywistość okazuje się bardziej problematyczna – efektywności algorytmów tego typu opiera się niemal całkowicie na jakości danych do niego dostarczonych. Poszukując potrzebnych danych twórcy zmuszeni są do korzystania z danych historycznych, których jakość często nie jest łatwa do zweryfikowania. Może się więc zdarzyć, że system powstaje na podstawie stronniczych danych, co z kolej może skutkować profilowaniem rasowym i stygmatyzacją określonych grup społecznych.

Jednym z najbardziej znanych przykładów oprogramowania, które może zostać zaklasyfikowane jako predictive policing jest system COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), używany przez część sądów w USA do oceny ryzyka recydywy, który zyskał na popularności po 2010 roku. Wokół tego systemu przez lata ciągnie się debata nad jego skutecznością i skłonnością do nierównego traktowania mniejszości etnicznych, która to została rozpoczęta w momencie gdy ProPublica (organizacja dziennikarstwa śledczego) opublikowała bardzo krytyczną analizę jego działania. Według niej algorytm niemal dwukrotnie częściej klasyfikował czarnoskórych oskarżonych jako osoby wysokiego ryzyka, nawet jeśli nie popełniali ponownie przestępstw. Z kolei biali sprawcy, którzy faktycznie wracali na drogę przestępstwa, byli częściej oceniani jako „niskie ryzyko”. Firma odpowiedzialna za ten system Northpointe Inc., będąca teraz częścią Equivant, wystosowała odpowiedź krytykującą metodologię analizy i zapewniając, że przynależność do konkretnej grupy etnicznej nie jest brana pod uwagę podczas wyliczania oceny ryzyka. Z czasem pojawiały się kolejne analizy, część na korzyść skuteczności algorytmu, część na niekorzyść. Debata publiczna wokół tego systemu sprowokowała ustawodawstwo do rozpoczęcia regulacji tego typu oprogramowania, zaczynając od dodania do oceny ryzyka informacji, że należy brać tą ocenę jako wskazówkę, nie zaś prawdę, między innymi dlatego, że algorytm wykorzystany w systemie jest tajemnicą firmową i nie ma pewności, że nie narusza prawa do rzetelnego procesu. 

 

Francja – algorytmy na igrzyskach: bezpieczeństwo czy początek cyfrowej inwigilacji?

Francja jako gospodarz igrzysk olimpijskich 2024 nie tylko buduje stadiony, ale też rozwija… sztuczną inteligencję do nadzorowania tłumu. W 2023 roku francuski parlament przyjął ustawę, która pozwala na stosowanie systemów AI do monitorowania przestrzeni publicznych w czasie rzeczywistym. Co to oznacza w praktyce?

Nie chodzi jeszcze o pełne rozpoznawanie twarzy (chociaż niektórzy podejrzewają, że to kwestia czasu), ale o analizę tzw. „nietypowych zachowań” – biegania, paniki, pozostawionego bagażu czy tłumów gromadzących się w miejscach, gdzie nie powinno ich być. Wszystko to w imię prewencji i szybkiego reagowania.

https://wyborcza.pl/7%2C82983%2C29697404%2Cigrzyska-olimpijskie-w-paryzu-pod-czujnym-okiem-sztucznej-inteligencji.html

Jednak wiele środowisk obywatelskich bije na alarm. Organizacje takie jak La Quadrature du Net, Amnesty International czy Ligue des Droits de l’Homme ostrzegają, że ustawa tworzy niebezpieczny precedens. W ich ocenie igrzyska mogą stać się punktem zwrotnym – „poligonem doświadczalnym” dla technologii nadzoru, która po zakończeniu wydarzenia pozostanie z nami na stałe. Pojawia się pytanie: jeśli system okaże się skuteczny, to czy politycy rzeczywiście zrezygnują z jego dalszego stosowania?

Francuski urząd ochrony danych osobowych (CNIL) w swojej opinii również wyraził zaniepokojenie, apelując o bardziej precyzyjne zdefiniowanie „nietypowych zachowań”, regularne audyty i ograniczenia czasowe. W przeciwnym razie – jak zauważyli eksperci – może dojść do sytuacji, w której obywatel będzie nieustannie oceniany przez maszynę, nie mając świadomości, że podlega analizie, ani możliwości zakwestionowania tej analizy.

Z jednej strony rozumiemy, że organizacja wydarzenia na skalę igrzysk wymaga nadzwyczajnych środków bezpieczeństwa. Z drugiej jednak – nie można zgodzić się na to, by pod hasłem „tymczasowości” instalować fundamenty pod trwałą infrastrukturę algorytmicznego nadzoru. Demokracja nie działa dobrze w cieniu kamer, które – nawet jeśli nie patrzą w twarz – śledzą każdy ruch.

 

Wielka Brytania – sztuczna inteligencja kontra propaganda ekstremistów

Nie tylko Francja sięga po algorytmy sztucznej inteligencji w imię bezpieczeństwa. W Wielkiej Brytanii Ministerstwo Spraw Wewnętrznych (Home Office) wspólnie z firmą technologiczno-badawczą ASI Data Science opracowało w 2018 roku system sztucznej inteligencji zdolny do automatycznego wykrywania materiałów propagandowych publikowanych przez tzw. Państwo Islamskie (ISIS). Algorytm został przeszkolony na bazie ponad tysiąca prawdziwych materiałów wideo wykorzystywanych przez dżihadystów do rekrutacji i szerzenia nienawiści. Umożliwia to analizę zarówno zawartości wizualnej, jak i dźwiękowej, a także metadanych – takich jak długość filmu, język narracji czy typowe schematy montażu.

Według danych udostępnionych przez Home Office, algorytm osiąga skuteczność rzędu 94% w wykrywaniu treści ekstremistycznych przy marginesie błędu wynoszącym zaledwie 0,005%. System działa w czasie rzeczywistym i może zostać zintegrowany z zapleczem technologicznym dowolnej platformy internetowej, umożliwiając automatyczne blokowanie przesyłanych materiałów zanim jeszcze trafią do sieci.

Projekt miał na celu nie tylko zwiększenie bezpieczeństwa, ale też wyrównanie technologicznych szans – podczas gdy duże serwisy społecznościowe jak YouTube czy Facebook dysponują własnymi narzędziami moderacyjnymi, mniejsze platformy często stają się celem kampanii dezinformacyjnych i propagandowych. Brytyjski rząd zapewnia, że rozwiązanie może zostać udostępnione tym mniejszym podmiotom nieodpłatnie.

Choć technologia zyskała uznanie ekspertów ds. bezpieczeństwa, organizacje obywatelskie – jak Open Rights Group – ostrzegają przed brakiem przejrzystości i ryzykiem nadużyć. Kluczowe jest, by takie systemy działały w sposób transparentny i podlegały demokratycznej kontroli.

 

Wolność (i|czy) bezpieczeństwo


Przykłady z Chin, USA, Francji czy Wielkiej Brytanii pokazują, że automatyzacja nadzoru może zarówno wspierać walkę z przestępczością i ekstremizmem, jak i prowadzić do poważnych nadużyć – od systemowego profilowania po masową inwigilację całych grup społecznych. Choć przepisy krajowe i międzynarodowe próbują wyznaczyć ramy ochrony praw człowieka, łatwo wyobrazić sobie scenariusze gdy są one obchodzone lub zinterpretowane na niekorzyść obywatela. Znajomość przepisów, krytyczne spojrzenie na nowe technologie oraz otwarta debata publiczna są dziś kluczowe dla tego, by sztuczna inteligencja była narzędziem służącym ludziom – a nie przeciwko nim.

 

Źródła:

 

Leave a comment