Uczenie maszynowe opanowało nasz świat na więcej sposobów, niż nam się wydaje. Możesz otrzymać rekomendacje książek, skuteczną trasę do miejsca docelowego, a nawet zwycięską strategię gry w Go. Ale możesz również zostać przyjęty na studia, otrzymać pożyczkę lub zatrudniony do pracy w oparciu o algorytmicznie wspomagane podejmowanie decyzji. Wierzymy, że maszyny są neutralnymi arbitrami: zimnymi, kalkulującymi istotami, które zawsze podejmują właściwe decyzje, które potrafią dostrzec wzorce, których nasz ludzki umysł nie potrafi lub nie chce. Ale czy są? A może podejmowanie decyzji na podstawie algorytmów jest sposobem na wzmocnienie, rozszerzenie i uczynienie niezbadanymi uprzedzeniami i dyskryminacją, które są powszechne w społeczeństwie?

W interesie publicznym

Kodeks etyczny to coś więcej niż dokument na papierze. Istnieją setki przykładów podstawowych wartości i standardów, których przestrzega każdy członek danej dziedziny – w tym dla cechów organistów i stowarzyszeń reklamy zewnętrznej. Najstarszym i najbardziej znanym na świecie kodeksem etycznym jest przysięga Hipokratesa, którą lekarze wygłaszają obiecując, że będą odpowiedzialnie dbać o swoich pacjentów.

Istnieje związek pomiędzy lekarzami oraz informatykami – jako twórcy technologii, pomogli wprowadzić ludzkość w rytm nowoczesnego życia.  Jednak w miarę jak komputery coraz bardziej wplatają się w tkankę życia, my w tym zawodzie musimy osobiście ponownie zaangażować się w służbę społeczeństwu poprzez etyczne postępowanie.

Ostatni kodeks etyczny informatyków –  ACM został przyjęty w 1992 roku, kiedy wielu ludzi postrzegało pracę komputerową jako czysto techniczną. Internet był w powijakach i ludzie dopiero zaczynali rozumieć wartość możliwości agregowania i szerokiego rozpowszechniania informacji. Minęły jeszcze lata, zanim sztuczna inteligencja i uczenie maszynowe miały zastosowanie poza laboratoriami badawczymi. Dziś praca szeroko rozumianych informatyków może wpływać na życie i źródła utrzymania ludzi w sposób, który może być niezamierzony, a nawet nieprzewidywalny. link

Etyka sprawiedliwości i algorytmy

Kiedy maszyna podejmuje decyzje, musisz dać jej zestaw danych, z których może się uczyć. Jednak w przykładowych zestawach, bez względu na to, jak duże, może się okazać, że faworyzujesz niektóre grupy nad innymi. Na przykład zestaw testowy może zawierać dane demograficzne, które nie są zgodne z populacją. Jeśli zbadasz pojedyncze sąsiedztwo, model uczenia maszynowego może przyjąć założenia dotyczące populacji, które byłyby nieprawdziwe. Mogłoby to stworzyć stronnicze algorytmy.

Ale uczciwość to nie tylko algorytmy czy populacje. Uczciwość może również odnosić się do sposobu wykorzystywania danych. Etyka obejmuje sposób wykorzystania lub sprzedaży danych. Na przykład nieetyczne byłoby zabieranie czyichś wrażliwych danych i sprzedawanie ich podmiotom niegodnym zaufania. Jednak sprzedaż ogólnych danych opartych na zainteresowaniach firmom ukierunkowanym na sprzedaż niekoniecznie jest nieetyczna.

Coraz więcej oprogramowania jest opracowywane, aby działać z niewielkim wkładem lub bez zrozumienia ludzkiego, generując wyniki analityczne, które pomagają w podejmowaniu decyzji, na przykład kiedy zatwierdzać kredyty bankowe. Dane wyjściowe mogą mieć całkowicie niezamierzone skutki społeczne, wypaczone w stosunku do całych klas ludzi – tak jak niedawne przypadki, w których prognozy eksploracji danych o tym, kto nie wywiąże się ze spłaty pożyczki, wykazały uprzedzenia wobec osób, które poszukują pożyczek długoterminowych lub mieszkają w określonych obszarach . Istnieją również niebezpieczeństwa związane z tzw. „fałszywymi alarmami”, gdy komputer łączy dwie rzeczy, które nie powinny być ze sobą połączone – na przykład, gdy oprogramowanie do rozpoznawania twarzy ostatnio porównywało członków Kongresu do zdjęć policyjnych przestępców. Zmieniony kodeks ACM wzywa informatyków do zachowania szczególnej ostrożności w celu uniknięcia tworzenia systemów mogących uciskać lub pozbawiać prawa do korzystania całych grup ludzi.

Nawet najbardziej życzliwy analityk danych o dobrych intencjach może podejmować nieetyczne decyzje. To łatwe, jeśli nie masz się na baczności.

Po pierwsze, ludzie mają tendencję do postrzegania danych jako obiektywnych z samej ich natury. Zapominamy, że są one tak dokładne i obiektywne, jak ludzie i procesy wykorzystywane do ich generowania i gromadzenia.

W poniższym przykładzie widzimy, jak te same dane z różnymi osiami y mogą prowadzić do różnych wniosków.

Po drugie, nowoczesne narzędzia do uczenia maszynowego są tak złożone, że ludziom trudno je zinterpretować i zrozumieć. Utrudnia to określenie odpowiednich nakładów i etycznych implikacji wyników.

I wreszcie, większość naukowców zajmujących się danymi jest przeszkolona w takich dyscyplinach, jak matematyka stosowana, informatyka lub statystyka. W takich dziedzinach nauka o danych jest wykorzystywana głównie do badań i teorii akademickiej, a nie do informowania o rzeczywistych zachowaniach, które wpływają na życie ludzi. Każdy twórca DS powinien wyznawać filozofię cura personalis, czyli troski o całą osobę, co oznacza, że ​​zawsze patrzymy na konsekwencje naszej pracy dla naszych sąsiadów, społeczności i świata.

ACM stworzyło repozytorium studiów przypadków pokazujących, w jaki sposób myślenie etyczne i wytyczne można zastosować w różnych rzeczywistych sytuacjach. Grupy „Zapytaj etyka” zachęcają publiczność do zgłaszania scenariuszy lub rozterek pojawiających się w praktyce. Obecnie trwają prace nad opracowaniem modułów dydaktycznych, aby te koncepcje można było zintegrować z edukacją komputerową od szkoły podstawowej po uniwersytet.

Podsumowanie

Specjaliści komputerowi są na pierwszej linii frontu niemal w każdym aspekcie współczesnego świata. Są zaangażowani w reakcję, gdy hakerzy kradną dane osobowe setek tysięcy osób z dużej korporacji. Ich praca może chronić – lub zagrażać – krytyczną infrastrukturę, taką jak sieci elektryczne i linie transportowe . A algorytmy, które piszą, mogą określać, kto dostanie pracę, kto zostanie przyjęty do kredytu bankowego lub kto zostanie zwolniony za kaucją .

Profesjonaliści technologiczni to pierwsza i ostatnia linia obrony przed niewłaściwym wykorzystaniem technologii. Nikt inny również nie rozumie systemów i nikt inny nie jest w stanie chronić określonych elementów danych lub zapewnić, że połączenia między jednym komponentem a drugim są odpowiednie, bezpieczne i niezawodne. Ponieważ rola informatyki w społeczeństwie trwa od dziesięcioleci, informatycy mają kluczowe znaczenie dla tego, co stanie się dalej. Nie wiemy, czy nasz kod przetrwa tak długo, jak przysięga Hipokratesa. Ważne jest, aby globalna społeczność informatyczna rozumiała wpływ naszej pracy i poważnie traktowała nasze zobowiązanie wobec dobra publicznego.

Bibliografia

Ta praca zawiera wkłady należne twórcom z niżej wymienionych pozycji:

https://towardsdatascience.com/the-ethics-of-data-science-55bcba9b4ecb

https://www.loyola.edu/academics/data-science/blog/2018/why-ethics-are-important-in-data-science

https://theconversation.com/programmers-need-ethics-when-designing-the-technologies-that-influence-peoples-lives-100802

https://www.freecodecamp.org/news/the-ethics-of-data-science/