Żyjąc w cyfrowym świecie są o nas zbierane niezliczone ilości danych, bardzo dużą część z nich sami produkujemy. Tak duża liczba danych w dzisiejszych czasach powoduje, że za analizą danych nie stoją już konkretne osoby, tylko dane są zbierane i  przetwarzane automatycznie, czasami przez bliżej nieokreślone podmioty w bliżej nieokreślony sposób. Takie sytuację, kiedy dane są przetwarzane przez pozbawiony uczuć emocji algorytm rodzą bardzo dużo wątpliwości. W tym tekście zastanowimy się nad tym czy automatyczne przetwarzanie danych może prowadzić do nadużyć i nieuczciwości w różnych przestrzenia życia publicznego takich jak medycyna czy administracja.

Czym w ogóle są dane?

Szukając definicji danych znaleźliśmy następujące wytłumaczenie:

Danymi jest wszystko to, co jest lub może być przetwarzane umysłowo lub komputerowo [1] .

Co ciekawe integralną częścią powyższej definicji jest przetwarzalność danych, które polega na tym, że dane mogą być dalej wykorzystywane, a bez możliwości przetwarzalności w pewnym sensie przestają być danymi.

Ciekawym wstępem może być odniesienie się do prac psychologa społecznego Eliota Aronsona, który badał czy ludzie w małych miejscowościach są bardziej skłonni do pomocy niż osoby z dużych aglomeracji. Okazuje się, że nie ma różnicy jeśli chodzi o poziom empatii mieszkańców wsi i miast, ale różnica polega na tym, że mieszkańcy metropolii otrzymując znacznie więcej bodźców przez co przestają na nie po prostu reagować [2]. Można pomyśleć w analogiczny sposób o przepływie informacji. W małych miejscowościach ludzie w nich mieszkający są w stanie być ze wszystkim na bieżąco, jednak w wielkich metropoliach odcinają się od informacji. Wtedy w rolę wszechwiedzącej sąsiadki, której największą wadą może być plotkowanie i irytującej świadomości, że wie o nas za dużo, może wejść jakiś inny podmiot i znacznie dynamiczniej wykorzystać zebrane informacje dzięki ich automatycznemu przetwarzaniu. Oczywiście nie ulega wątpliwości, że automatyczne przetwarzanie jest niezbędne i przynoszące wiele dobrego, ale zawsze w takich obszarach mogą wkraść się różne mniej lub bardziej świadome nadużycia.

Przez automatyczne przetwarzanie danych rozumiemy zautomatyzowany proces gromadzenia i wykorzystania danych do podejmowania decyzji. Dotyczy to m.in. profilowania czyli oceny danej osoby w celu przedstawienia korzystnej oferty.

Co ciekawe, podobne techniki są znane od wielu lat. Były one również wykorzystywane w celach komercyjnych – skłonienia często bez wiedzy człowieka do zakupu danego towaru czy usługi. Przykładem tego typu działania  było tworzenie tzw. reklam podprogowych. Były to metody polegające na oddziaływaniu na mózg człowieka bez świadomości dostrzegania tych informacji. Historia reklam sięga lat 50 XX wieku i eksperymentu Jamesa Vickary’ego. Specjalista ds. marketingu podmienił pojedyncze klatki filmu wyświetlanego w kinie samochodowym na reklamy coli i popcornu, co było niemal nie do zauważenia przez widzów. Vickry twierdził, że faktycznie reklamy spowodowały wzrost sprzedaży tych produktów.

 Choć później marketingowiec przyznał że wyniki zostały sfingowane, to w 1989 roku Rada Europy w 1989 zainicjowała konwencję o telewizji ponadgranicznej [3], która zakazuje perswazji poza świadomością widza, dlatego techniki reklamowe oddziałujące na podświadomość (chodzi tu głównie o reklamę telewizyjną i kinową) są zakazane.

Obecnie, w erze szybkiej wymiany informacji jesteśmy nieustannie bombardowani różnego rodzaju ofertami, reklamami w mediach klasycznych czy też społecznościowych. Musimy zdawać sobie sprawę, że treści do nas kierowane są tworzone na podstawie zbieranych danych z naszej aktywności.  Oczywiście istnieją odpowiednie przepisy dzięki którym wykorzystanie danych osobistych jest ograniczone. Niestety, marketingowcy nawet nie wykorzystując danych poufnych mogą wpływać na nas. W zalewie informacji, często kierowane treści mogą być nawet niedostrzegalne niczym reklamy podprogowe. Najczęściej celem automatycznego przetwarzania danych jest zwiększenie sprzedaży danego produktu co nie jest najbardziej niebezpiecznym sektorem. Niestety, dane o użytkownikach są używane także w innych celach – istnieją raporty świadczące o niebezpieczeństwach. Możemy również użyć wyobraźni, aby zauważyć obszary, w których swobodna możliwość przetwarzania danych mogłaby doprowadzić do nadużyć.

Czy nasze dane są w ogóle chronione?
Przede wszystkim dane osobiste są chronione na podstawie rozporządzenia Unii Europejskiej o pełnej nazwie Rozporządzenie o Ochronie Danych Osobowych, a znanego powszechnie pod nazwą RODO [4].

Z tego rozporządzenie w całej UE wynikają reguły obowiązującego przechowującego dane:

• obowiązek powołania IOD (Inspektora Ochrony Danych) w przedsiębiorstwach, w których przetwarzanie danych stanowi podstawę działalności,
• obowiązek informowania o wycieku danych – przedsiębiorstwo będzie miało 72 godziny na ujawnienie informacji o odkrytym naruszeniu, które mogło skutkować trafieniem prywatnych informacji w niepowołane ręce,
• obowiązek dokumentowania przetwarzania danych osobowych – przedsiębiorstwo będzie musiało tworzyć rejestr dotyczący tego, jakie dane, w jakim celu, w jaki sposób i przez kogo były przetwarzane.

Dodatkowo my jako jako osoby, o których dane są zbierane też mamy bezpośrednie prawa, wśród których jest prawo do wprowadzania korekt lub prawo do żądania usunięcia, więc de facto prawo do bycia zapomnianym.

Prawnie wygląda, że jesteśmy w pewien sposób zabezpieczeni i nie ma mamy powodów do niepokoju. Jest jednak wiele sytuacji, kiedy można mieć bardzo mieszane uczucia na temat przetwarzania danych. Poniżej prezentujemy krótki przegląd.

Polityka

Możemy wyobrazić sobie automatyczne gromadzenie danych o wyborcach – np. na podstawie aktywności w mediach społecznościowych, pochodzeniu, wieku i tak dalej. Dana partia gromadzi wyborców którzy ich popierają, a także dane osób, które wahają się. Za pomocą mediów społecznościowych, mogą być proponowane treści skłaniające do oddania głosu lub też takie które zniechęcają do głównego konkurenta. Jest wiadome, że podobne praktyki miały miejsce. Przykładowo, w czasie referendum w sprawie Brexitu, zwolennicy wyjścia Wielkiej Brytanii z Unii Europejskiej sfinansowali kampanię kierowania treści pro-Brexit najczęściej do wyborców wahających się. 

Sport

Selekcja młodych zawodników na podstawie przewidywanego rozwoju fizycznego – możemy przewidzieć rozwój np. piłkarza – wzrost i tym podobne. W ten sposób może zostać dokonywane odsiewanie zawodników nie na podstawie umiejętności ale na podstawie rozwoju fizycznego mamy więc do czynienia z dyskryminacja. Najprostszy przykład to Lionel Messi, który jeszcze jako nastolatek był bardzo niskiego wzrostu.

Innym aspektem jest pewnego rodzaju “romantyczności” sportu, a przez to atrakcyjności przez wszechobecne analizy, które mogą prowadzić do poprawy wyniku sportowego, ale często budzą niesmak kibiców.

Medycyna

Łatwo sobie wyobrazić idealną sytuację z automatycznym przetwarzaniem danych w medycynie, kiedy pewne badania, a następnie są one przetwarzane przez program sztucznej inteligencji, który jest o wiele skuteczniejszy od lekarza i dostajemy idealnie trafioną diagnozę, dzięki czemu wszystko układa się w porządku. W rzeczywistości jednak modele używane w medycynie mogą być bardzo mocno omylne, ponieważ, żeby potrafiły podjąć dobrą decyzję muszą posiadać szerokie dane uczące, na których mogłyby się nauczyć rozpoznawać różne choroby. Zazwyczaj na samym końcu stoi lekarz, który powinien być w stanie wyłapać jakiś bardzo charakterystyczny przypadek. Problem zaczyna się wtedy, kiedy wynik przetwarzania danych ma decydować o tym czy dany pacjent może się poddać lub być mu refundowana terapia. Jest to dosyć ciężki problem stwierdzenia, że de facto o życiu pacjenta decyduje algorytm i dla wielu osób może się to wydawać bezduszne.

Administracja

Policja w Chicago prowadzi potężną bazę danych, w której zawarci są osoby, które są podejrzane o bycie członkami gangów. Istotnym faktem jest tutaj samo bycia podejrzanym, które może po zwykłym wylegitymowaniu i negatywnej ocenie policjanta. Na taką ocenę wpływ ma chociażby ubiór czy tatuaże. Statystycznie 90% osób w bazie to osoby o rasie innej niż biała.

Osoby, które są w bazie mają trudności z zatrudnieniem lub licencjami do wykonywania zawodu. Paradoksalnie to, że nie dochodzi tu do jakiegoś większego przetworzenia tych danych jest krzywdzące. Problemem jest samo bycie w tej bazie – osoba starająca się o licencję kierowcy autobusu zostanie tak samo szybko odrzucona jak członek gangu [5]. 

Innym przypadkiem jest korzystanie ze sztucznej inteligencji, która ryzyko popełnienia przestępstwa przez osobę, która już raz dopuściła się czynu zakazanego [6]. W USA bardzo szeroko jest wykorzystywany w tym celu program COMPAS, który analizuje 137 cech, z których pewna część danych konkretnych faktów, natomiast część jest subiektywnymi odpowiedziami osoby, której tyczy się decyzja. Okazuje się, że algorytm ma taką samą skuteczność niż zupełnie losowe osoby przeglądające kwestionariusz, a takie same wyniki są osiągane przy korzystaniu jedynie z 4 cech.

Ciekawą stroną poruszającą podobne tematy jest strona https://privacyinternational.org/examples pokazująca kilkaset nadużyć odnoszących się do prywatności danych.

Finanse

Obecnie większość decyzji na giełdach jest podejmowana przez komputery, które analizują notowania spółek. Wprowadzenie automatycznego przetwarzania zupełnie zmieniło sytuacja na rynku akcji [7]. Najczęściej do tej pory były wykorzystywane klasyczne metody przetwarzania danych i uczenia maszynowego, które charakteryzowały się przejrzystości i ich decyzje były w miarę rozsądne dla osób zajmujących się profesjonalnie rynkami finansowymi. Wraz ze wzrostem mocy obliczeniowej wykorzystywane są jednak coraz bardziej skomplikowane algorytmy działające na zasadach czarnych skrzynek, których nie sposób zinterpretować. Powoduje to ryzyko, że nie jest się w stanie specjalnie przewidzieć rezultatów. Dotychczas mieliśmy do czynienia z wykorzystaniem algorytmów, gdzie zmienność rynków nie była gwałtowna. Eksperci obawiają się jednak niekorzystnych i nieprzewidzianych konsekwencji, co jest szczególnie istotne w warunkach niekorzystnej koniunktury rynkowej, gdyż nie były one w rzeczywistości testowane w takich warunkach [8]. Bardzo rozmywa się też pojęcie odpowiedzialności za podejmowane decyzje.

Podsumowanie

W automatycznym przetwarzaniu danych istnieje bardzo wiele budzących zaniepokojenie zakamarków. Ciężko jednak jako pojedyncza jednostka obronić się przed cyfrowym światem. Na pewno warto mieć ogólne pojęcie jak działają pewne mechanizmy i mieć dystans do tego jak dane zostaną przetworzone.

Źródła:

[1] Artykuł popularnonaukowy tłumaczący szeroko czym są dane i jak mogą być wykorzystywane –  https://publicystyka.ngo.pl/co-to-sa-danehttps://heimdalsecurity.com/blog/android-permissions-full-guide/

[2] Artykuł popularnonaukowy wpływie posiadania danych na realną władzę – https://wszystkoconajwazniejsze.pl/jan-berdychowski-kto-ma-informacje-ten-ma-wladze-i-to-sie-nie-zmienia/

[3] Konwencja zakazująca reklam podprogowych w telewizji – https://www.coe.int/en/web/conventions/full-list?module=treaty-detail&treatynum=132

[4] Pełny tekst Rozporządzenia o Ochronie Danych Osobowych – https://eur-lex.europa.eu/legal-content/PL/ALL/?uri=celex%3A32016R0679

[5] Artykuł o prowadzeniu bazy danych gangów w Chicago – https://privacyinternational.org/examples/1937/chicago-police-gang-database-targets-young-black-males

[6] Artykuł o badaniach na temat skuteczności wykrywania recydywistów przez AI – https://www.theatlantic.com/technology/archive/2018/01/equivant-compas-algorithm/550646/

[7] Artykuł o zmianach w systemie finansowym z powodu AI – https://300gospodarka.pl/news/jak-sztuczna-inteligencja-zmienia-system-finansowy

[8] AI jako nowe ryzyko finansowe – https://www.obserwatorfinansowy.pl/tematyka/rynki-finansowe/bankowosc/sztuczna-inteligencja-w-finansach-moze-stworzyc-nowe-ryzyko-systemowe/