{"id":2462,"date":"2022-12-15T06:57:04","date_gmt":"2022-12-15T06:57:04","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=2462"},"modified":"2022-12-15T06:59:03","modified_gmt":"2022-12-15T06:59:03","slug":"czy-sztuczna-inteligencja-jest-rasistowska-seksistowska-a-nawet-totalitarna-analiza-statystyczna-jakie-mamy-przypadki-naduzyc-i-bledow-ai-i-ds","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/12\/15\/czy-sztuczna-inteligencja-jest-rasistowska-seksistowska-a-nawet-totalitarna-analiza-statystyczna-jakie-mamy-przypadki-naduzyc-i-bledow-ai-i-ds\/","title":{"rendered":"Czy sztuczna inteligencja jest rasistowska, seksistowska a nawet totalitarna? Analiza statystyczna. Jakie mamy przypadki nadu\u017cy\u0107 i b\u0142\u0119d\u00f3w AI i DS."},"content":{"rendered":"

Wiele zdobyczy nauk informatycznych czy data science poprawia nasz komfort \u017cycia czy te\u017c pozwala nam na uzupe\u0142nianie brak\u00f3w jakie przejawiamy jako gatunek. Czy wraz z coraz post\u0119pem AI zaczynamy tworzy\u0107 bardziej wybrakowan\u0105 pod wzgl\u0119dem etycznym inteligencj\u0119? Podam przyk\u0142ady, kiedy to stworzone przez ludzi programy okaza\u0142y si\u0119 pa\u0142a\u0107 \u201enienawi\u015bci\u0105\u201d.<\/strong><\/p>\n

Na samym pocz\u0105tku zadajmy sobie pytanie czy sztuczna inteligencja mo\u017ce by\u0107 uprzedzona do pewnych grup ludzi. Je\u015bli dane s\u0105 stronnicze (biased) to mo\u017cna m\u00f3wi\u0107 o takiej sytuacji. Nale\u017cy jednak pami\u0119ta\u0107, \u017ce roboty czy programy nie mog\u0105 mie\u0107 przekona\u0144, je\u015bli nie s\u0105 bytami \u015bwiadomymi. Jako \u017ce definicja rasizmu czy seksizmu wymaga od podmiotu posiadania przekona\u0144 per se. O problemie dyskryminacji ze strony AI nie m\u00f3wimy jednak w kontek\u015bcie tego, \u017ce roboty same w sobie mog\u0105 mie\u0107 przekonania i dewaluuj\u0105 pewne grupy ludzi. Szkody, natomiast, jakie powstaj\u0105 w wyniku takich zjawisk staj\u0105 si\u0119 coraz bardziej realne i dotkliwe, co uka\u017c\u0105 podane przyk\u0142ady. To w tym znaczeniu b\u0119dziemy nazywa\u0107 AI rasistowskim czy seksistowskim- jako narz\u0119dzia do przewidywania zachowa\u0144 ludzi czy te\u017c jako narz\u0119dzia przetwarzania j\u0119zyka naturalnego nauczone przejawia\u0107 dyskryminacj\u0119.<\/p>\n

 <\/p>\n

Sztuczna inteligencja to na ten moment narz\u0119dzie a nie autonomiczne byty. Dzi\u0119ki algorytmom uczenia maszynowego otwieraj\u0105 si\u0119 przed nami niesamowite mo\u017cliwo\u015bci. Deep learning i sieci neuronowe- te narz\u0119dzia borykaj\u0105 si\u0119 cz\u0119sto z problemem czarnej skrzynki. Stronnicze, niedok\u0142adne zbiory danych, czy te\u017c takie, kt\u00f3rym ufaj\u0105 analitycy mog\u0105 zawiera\u0107 w sobie \u201euprzedzenia\u201d. Garbage in- garbage out jak mawia si\u0119 w kr\u0119gach nauk komputerowych, a bezgraniczne zaufanie do zbior\u00f3w danych czy algorytm\u00f3w skutkuje<\/p>\n

RASIZM i SEKSIZM<\/strong><\/p>\n

Zgodnie z doniesieniami organizacji dziennikarstwa \u015bledczego ProPublica program u\u017cywany przez s\u0105d Stan\u00f3w Zjednoczonych (Compas) cz\u0119\u015bciej, od 45% do 25% przypadk\u00f3w, b\u0142\u0119dnie wybiera\u0142 osoby czarnosk\u00f3re w por\u00f3wnaniu do ludzi bia\u0142ych. Programy takie jak Compas i jemu podobne s\u0105 u\u017cywane w ca\u0142ych stanach zjednoczonych. Firma Northpoint- producent tego oprogramowania wypiera jednak doniesienia raportu jak i nie zamierza udost\u0119pnia\u0107 swojego algorytmu.<\/p>\n

Kristian Lum, g\u0142\u00f3wna statystyk HRDAG- organizacji non profit broni\u0105cej praw cz\u0142owieka w odniesieniu do analizy danych, powiedzia\u0142, \u017ce \u0142atwo o automatyzacj\u0119 uprzedze\u0144, kt\u00f3re to ta automatyzacja ma zwalcza\u0107. Wspomina r\u00f3wnie\u017c o nadmiernym patrolowaniu osiedli z wieloma mieszka\u0144cami Afroameryka\u0144skimi czy te\u017c pochodzenia Meksyka\u0144skiego. W efekcie statystyki policyjne, kt\u00f3re determinuj\u0105 rozlokowanie patrol\u00f3w, b\u0119d\u0105c zawy\u017cone, jeszcze bardziej wzmagaj\u0105 t\u0105 tendencj\u0119.<\/p>\n

G\u0142o\u015bno by\u0142o r\u00f3wnie\u017c o wirtualnym raperze FN Meka b\u0119d\u0105cym sztuczn\u0105 inteligencj\u0105 korzystaj\u0105c\u0105 z NFT, kt\u00f3rym w tym roku kontrakt podpisa\u0142a Columbia Records. Po tygodniu jednak kontrakt zerwano z powodu wulgarno\u015bci i rasizmu postaci rapera. W tym wypadku jednak ci\u0119\u017cko m\u00f3wi\u0107 o samym uprzedzeniu sztucznej inteligencji, gdy\u017c piosenki by\u0142y pisane przez anonimowego rapera. Niemniej ca\u0142a sytuacja pokazuje jak narz\u0119dzie jakim jest sztuczna inteligencja mo\u017ce s\u0142u\u017cy\u0107 do utrwalania stereotyp\u00f3w i by\u0107 wykorzystywane w nieodpowiedni spos\u00f3b przez cz\u0142owieka.<\/p>\n

J\u0119zyk kszta\u0142tuje nasze rozumienie \u015bwiata. Kiedy t\u0142umaczymy zdania z angielskiego na hiszpa\u0144ski u\u017cywaj\u0105c Translatora Google ma on tendencj\u0119 do zmian zaimk\u00f3w \u017ce\u0144skich na m\u0119skie. Algorytmy mog\u0105 nie \u201erozumie\u0107\u201d dynamiki spo\u0142ecznej i tego co mo\u017ce by\u0107 uznawane przez ludzi za dotkliwe. Projektuj\u0105c rozwi\u0105zania opieraj\u0105ce si\u0119 na sztucznej inteligencji mo\u017cemy zapomina\u0107 o weryfikacji efekt\u00f3w. Kolejnymi przyk\u0142adami s\u0105: okre\u015blanie p\u0142ci przy t\u0142umaczeniach z j\u0119zyka w\u0119gierskiego w zdaniach \u201eona myje naczynia\u201d, \u201eon zarabia du\u017co pieni\u0119dzy\u201d. Warto wspomnie\u0107, \u017ce to j\u0119zyk neutralny p\u0142ciowo. AI podj\u0119\u0142o jednak automatyczn\u0105 decyzj\u0119 w oparciu o du\u017c\u0105 liczb\u0119 wcze\u015bniejszych kontekst\u00f3w.<\/p>\n

UPRZEDZENIA KULTUROWE<\/strong><\/p>\n

Dane u\u017cywane do uczenia AI to jak wspomnia\u0142em g\u0142\u00f3wna przyczyna uprzedze\u0144 o jakich m\u00f3wimy. G\u0142\u0119bokie sieci neuronowe u\u017cywane do klasyfikacji obraz\u00f3w s\u0105 cz\u0119sto szkolone za pomoc\u0105 danych z ImageNet. Jest to zbi\u00f3r ponad 14 milion\u00f3w obraz\u00f3w z opisem. Przy przetwarzaniu j\u0119zyka naturalnego standardowe algorytmy s\u0105 szkolone na zbiorach miliard\u00f3w s\u0142\u00f3w. Badacze zazwyczaj tworz\u0105 zestawy danych dzi\u0119ki stronom internetowym takim jak Google News czy te\u017c Google images u\u017cywaj\u0105c przy tym zapyta\u0144 przy pomocy \u0142atwo dost\u0119pnych \u017ar\u00f3de\u0142 takich jak wikipedia. S\u0105 to jednak \u017ar\u00f3d\u0142a tworzone g\u0142\u00f3wnie przez student\u00f3w czy te\u017c przez crowdfunding (np. Amazon Mechanical Turk). Przy pomocy tych metod mo\u017cna nieintencjonalnie zbiera\u0107 dane oparte na przekonaniach zwi\u0105zanych z p\u0142ci\u0105, grup\u0105 etniczn\u0105 czy te\u017c na podstawie uprzedze\u0144 kulturowych.<\/p>\n

\"\"<\/p>\n

\u0179\u00f3d\u0142o grafiki: nature.com<\/p>\n

TWITTER I NAZIZM<\/strong><\/span><\/p>\n

Programy uczenia maszynowego b\u0119d\u0105 maksymalizowa\u0107 trafno\u015b\u0107 przewidywa\u0144 na podstawie przewidywania z danych treningowych. Grupy os\u00f3b pojawiaj\u0105ce si\u0119 cz\u0119\u015bciej w danych treningowych powoduj\u0105, \u017ce algorytm przeprowadzi optymalizacj\u0119 pod ich k\u0105tem, bo zwi\u0119ksza to dok\u0142adno\u015b\u0107. Informatycy oceniaj\u0105 algorytmy na \u201etestowych\u201d zbiorach danych, ale zwykle s\u0105 to losowe pod pr\u00f3bki oryginalnego zbioru ucz\u0105cego, wi\u0119c prawdopodobnie zawieraj\u0105 te same b\u0142\u0119dy.<\/p>\n

Algorytmy maj\u0105 i b\u0119d\u0105 mie\u0107 wp\u0142yw na rozwi\u0105zania systemowe. Mog\u0105 te\u017c s\u0142u\u017cy\u0107 do imitowania interakcji mi\u0119dzyludzkich. Mowa o chat botach. Jest to wyj\u0105tkowo ciekawa i poruszaj\u0105ca kwestia w kontek\u015bcie zachowa\u0144 rasistowskich czy seksistowskich (a nawet tendencji do nazizmu).<\/p>\n

Bot o imieniu Tay- algorytm stworzony przez firm\u0119 Microsoft, kt\u00f3rego premiera mia\u0142a miejsce w 2016 roku bardzo szybko musia\u0142 zosta\u0107 wy\u0142\u0105czony. Tay w spos\u00f3b dynamiczny uczy\u0142 si\u0119 na podstawie rozm\u00f3w odbywanych z internautami z platformy Twitter. Na poni\u017cszych screenach mo\u017cna zobaczy\u0107 w jaki spos\u00f3b wypowiada\u0142 si\u0119 po 24 godzinach takiego uczenia.<\/p>\n

\"\"\"\"\"\"<\/p>\n

W tym miejscu chcia\u0142bym poruszy\u0107 jedn\u0105 niepokoj\u0105c\u0105 kwesti\u0119- rozmawia\u0142 on z lud\u017ami, prawdziwymi. Oczywi\u015bcie jak powszechnie wiadomo w internecie nie brakuje \u201etrolli\u201d szczeg\u00f3lnie na platformie Twitter. Nadal jednak martwi\u0105cym jest, \u017ce takie komunikaty to odzwierciedlenie tego co s\u0105 w stanie m\u00f3wi\u0107 ludzie. Jedn\u0105 kwesti\u0105 jest dbanie o to, aby to dane nie zawiera\u0142y uprzedze\u0144, jednak jak sprawi\u0107, \u017ceby ludzie zwracali si\u0119 do siebie z wi\u0119ksz\u0105 \u017cyczliwo\u015bci\u0105?<\/p>\n

PI\u0118KNO OCZYMA SZTUCZNEJ INTELIGENCJI<\/strong><\/span><\/p>\n

Sztuczn\u0105 inteligencj\u0119 wykorzystano tak\u017ce jako narz\u0119dzie obiektywnej oceny w konkursie pi\u0119kno\u015bci. Mowa tutaj o Beauty.AI. Mia\u0142 \u00f3w program bra\u0107 pod uwag\u0119 takie aspekty jak obecno\u015b\u0107 zmarszczek czy te\u017c symetri\u0119 twarzy. Przez formularz zg\u0142oszeniowy w konkursie udzia\u0142 wzi\u0119\u0142o a\u017c oko\u0142o 6 tys. Kandydatek. Niestety jednak po wybraniu zwyci\u0119\u017cczy\u0144 okaza\u0142o si\u0119, \u017ce by\u0142y to osoby w wi\u0119kszo\u015bci o jasnej karnacji. Powodem tego by\u0142a nauka na bazie danych sk\u0142adaj\u0105cych si\u0119 g\u0142\u00f3wnie z obraz\u00f3w o jasnej karnacji twarzy.<\/p>\n

ROBOT RASISTA<\/strong><\/span><\/p>\n

Jako ostatni przyk\u0142ad chcia\u0142bym poda\u0107 sie\u0107 neuronow\u0105 CLIP. Badacze z Uniwersytetu Johna Hopkinsa, Uniwersytetu Waszyngto\u0144skiego oraz Instytutu Technologii Georgii. CLIP uczy\u0142 si\u0119 na podstawie zdj\u0119\u0107 dost\u0119pnych w Internecie. Jego dzia\u0142anie opiera si\u0119 na dopasowaniu zdj\u0119cia do tekstu, kt\u00f3ry ma je opisywa\u0107. Program zosta\u0142 po\u0142\u0105czony z systemem robotycznym Baseline wyposa\u017conym w rami\u0119 zdolne do manipulacji obiektami wirtualnymi jak i rzeczywistymi. W tym roku na konferencji Association for Computing Machinery’s w Seulu autorzy stwierdzili, \u017ce to pierwszy taki przypadek, kiedy robot korzystaj\u0105cy z systemu uczenia maszynowego w swoim dzia\u0142aniu przejawia\u0142 rasistowskie i seksitowskie uprzedzenia. Robot wykonu\u0105c polecenia; \u201ew\u0142\u00f3\u017c kryminalist\u0119 do pude\u0142ka\u201d robot si\u0119ga\u0142 po zdj\u0119cie czarnosk\u00f3rego m\u0119\u017cczyzny. Jest to tylko jeden aspekt uprzedze\u0144 jakie wykazywa\u0142. Polecam przeczyta\u0107: https:\/\/www.research.gatech.edu\/flawed-ai-makes-robots-racist-sexist<\/p>\n

Jak m\u00f3wi Dr. Hundt prawid\u0142owo zaprojektowany system powinien odm\u00f3wi\u0107 czynno\u015bci przy komendzie \u201ewybierz doktora\u201d je\u015bli zdj\u0119cie wyra\u017anie nie wskazuje na to czy dany cz\u0142owiek jest lekarzem. Podobnie w wypadku wybierania kryminalisty.<\/p>\n

To badanie daje do my\u015blenia. Mo\u017cna by powiedzie\u0107, \u017ce algorytm dzia\u0142a\u0142by w taki spos\u00f3b nawet je\u015bli robot nie wykorzystywa\u0142by go do wykonywania zada\u0144. Przyk\u0142ad ten jednak wzbudza wyobra\u017ani\u0119 i pokazuje, \u017ce wp\u0142yw rasistowskich czy seksistowskich tendencji AI mo\u017ce by\u0107 jak najbadziej realny i fizyczny.<\/p>\n

PODSUMOWANIE<\/strong><\/span><\/p>\n

Uprzedzenia ze strony program\u00f3w to wcale nie tak z\u0142a rzecz. Owszem to powa\u017cny problem, je\u015bli jednak spojrzymy na to z innej perspektywy mo\u017cna doj\u015b\u0107 do wniosku, \u017ce to o wiele lepsza sytuacja ni\u017c uprzedzenia okazywane ze strony ludzi czy te\u017c ca\u0142ych grup spo\u0142ecznych. Jak \u0142atwo si\u0119 domy\u015bli\u0107 zachowa\u0144 ludzi nie da si\u0119 w prosty spos\u00f3b modyfikowa\u0107 czy te\u017c poddawa\u0107 ich resocjalizacji. W gr\u0119 wchodz\u0105 r\u00f3wnie\u017c kwestie etyczne zwi\u0105zane z paternalizmem czy kwesti\u0105 wolno\u015bci s\u0142owa czy przekona\u0144, jak r\u00f3wnie\u017c prawne. W wypadku modeli czy te\u017c danych, na kt\u00f3rych s\u0105 oparte te uprzedzenia s\u0105 mo\u017cliwe do prze\u015bledzenia, modele mo\u017cna modyfikowa\u0107. Wystarczy tylko odpowiednia motywacja i \u015bwiadomo\u015b\u0107 potrzeby tworzenia \u201eetycznej\u201d sztucznej inteligencji, takiej kt\u00f3ra pomaga tworzy\u0107 rzeczywisto\u015b\u0107 tak\u0105 jak\u0105 chcemy, \u017ceby by\u0142a- bez krzywdz\u0105cych podzia\u0142\u00f3w czy stereotyp\u00f3w.<\/p>\n

Ludzie \u0142atwo zapominaj\u0105, \u017ce sztuczna inteligencja nie jest perfekcyjna i bezstronna. To nie odzwierciedlenie omnipotencji a tylko narz\u0119dzie jak ka\u017cde inne. \u0179le u\u017cyte mo\u017ce powodowa\u0107 wiele szk\u00f3d.<\/p>\n

Serdecznie polecam filmik w temacie posta:<\/p>\n