{"id":5383,"date":"2024-05-22T17:09:25","date_gmt":"2024-05-22T17:09:25","guid":{"rendered":"https:\/\/architeles.eu\/ethics\/?p=5383"},"modified":"2024-05-23T07:26:29","modified_gmt":"2024-05-23T07:26:29","slug":"not-black-box-but-black-hole-technologiczna-osobliwosc-i-punkt-odciecia","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2024\/05\/22\/not-black-box-but-black-hole-technologiczna-osobliwosc-i-punkt-odciecia\/","title":{"rendered":"Not black box but black hole. Technologiczna osobliwo\u015b\u0107 i punkt odci\u0119cia. Je\u015bli AI zacznie si\u0119 samoprogramowa\u0107 to czy utracimy nad ni\u0105 kontrol\u0119? Przypadki kiedy przestajemy rozumie\u0107 to co dzieje si\u0119 wewn\u0105trz system\u00f3w AI."},"content":{"rendered":"

Wzrost znaczenia sztucznej inteligencji w codziennym \u017cyciu rodzi przed tego typu wyzwania i problemy, kt\u00f3re nie by\u0142y tak g\u0142o\u015bne i pal\u0105ce w fazie bada\u0144 akademickich nad nimi. Tymczasem spodziewana wielowymiarowo\u015b\u0107 zada\u0144 przejmowanych przez AI i dziedzin \u017cycia, w kt\u00f3rych b\u0119dzie si\u0119 pojawia\u0107 zmusza do zadania pytania o takie problemy jak rozumienie ich dzia\u0142ania, mo\u017cliwo\u015bci samoprogramowania si\u0119, oraz przede wszystkim o perspektywie utraty kontroli nad systemami AI. Czy to mo\u017cliwe, \u017ce to w\u0142a\u015bnie poziom zaawansowania sztucznej inteligencji i jej skomplikowanie paradoksalnie sprawi, \u017ce brak dostatecznej kontroli nad ni\u0105 zmusi nas do rezygnacji z prze\u0142om\u00f3w, kt\u00f3re obiecujemy sobie po tej technologii?<\/strong><\/p>\n

<\/p>\n

Czy AI mo\u017cna zrozumie\u0107 – \u2018interpretability\u2019 oraz \u2018explainabiity\u2019<\/span><\/h1>\n

Najnowsze post\u0119py w technologii sztucznej inteligencji sprawiaj\u0105, \u017ce z coraz to r\u00f3\u017cnych stron s\u0142yszymy o wykorzystaniu jej przez kolejne organizacje. Nowo wdra\u017cane algorytmy uczenia maszynowego co dzie\u0144 maj\u0105 wp\u0142yw na \u017cycie wielu ludzi, jednak ich skomplikowanie i nietransparentno\u015b\u0107 dzia\u0142ania mog\u0105 znacznie utrudnia\u0107 zrozumienie jak owe decyzje s\u0105 podejmowane. Z tym tematem zwi\u0105zane s\u0105 2 poj\u0119cia –\u00a0 interpretowalno\u015bci i wyja\u015bnialno\u015bci (z ang. <\/span>Interpretability and Explainability<\/span><\/i>).\u00a0<\/span><\/p>\n

Interpretowalno\u015b\u0107 <\/b>rozumiemy jako zdolno\u015b\u0107 do zrozumienia procesu decyzyjnego jaki zachodzi wewn\u0105trz modelu AI. Model intepretowalny dostarcza wystarczaj\u0105cych informacji, aby wykaza\u0107 zwi\u0105zek pomi\u0119dzy danymi wej\u015bciowymi a wyj\u015bciowymi. Innymi s\u0142owy skupiamy si\u0119 tutaj na dok\u0142adnym wyja\u015bnieniu proces\u00f3w jakie zasz\u0142y wewn\u0105trz modelu, kt\u00f3re mia\u0142y wp\u0142yw na ostateczny wynik procesu decyzyjnego.<\/span><\/p>\n

Wyja\u015bnialno\u015b\u0107<\/b>, to r\u00f3wnie\u017c mo\u017cliwo\u015b\u0107 zrozumienia procesu decyzyjnego modelu AI, ale w taki spos\u00f3b, aby by\u0142 on zrozumia\u0142y i mo\u017cliwy do zakomunikowania dla u\u017cytkownika ko\u0144cowego – zatem zawiera jasne i intuicyjne uzasadnienia dlaczego model podj\u0105\u0142 tak\u0105, a nie inn\u0105 decyzj\u0119. Wyja\u015bnialno\u015b\u0107 mo\u017cemy po prostu rozumie\u0107, jako przedstawienia odpowiedzi na pytanie dlaczego model podj\u0105\u0142 dan\u0105 decyzj\u0119 oraz jak mo\u017ce by\u0107 ona uzasadniona w kontek\u015bcie obiektywnych fakt\u00f3w.<\/span><\/p>\n

Jak wynika z definicji oba te podej\u015bcia do rozumienia modeli AI s\u0105 niezwykle istotne w ich dalszym rozwoju i odkrywaniu nowych aplikacji dla nich. Skupienie si\u0119 na rozwoju charakterystyk sk\u0142adaj\u0105cych si\u0119 na rozumienie AI da\u0107 mo\u017ce wiele korzy\u015bci w szybko post\u0119puj\u0105cym wdra\u017caniu algorytm\u00f3w sztucznej inteligencji. W tym kontek\u015bcie wymieni\u0107 mo\u017cna w szczeg\u00f3lno\u015bci:<\/span><\/p>\n

 <\/p>\n

Odpowiedzialno\u015b\u0107<\/h3>\n

rozumienie dzia\u0142ania modelu AI i zachodz\u0105cych proces\u00f3w decyzyjnych pozwoli\u0107 mo\u017ce na przewidywanie i uwzgl\u0119dnienie mo\u017cliwych ich konsekwencji, a w efekcie, rozwi\u0105zanie pewnych problem\u00f3w z okre\u015bleniem odpowiedzialno\u015bci i rozliczalno\u015bci stron zaanga\u017cowanych we wdra\u017cania i u\u017cytkowanie technologii AI,<\/span><\/p>\n

Zaufanie<\/h3>\n

zrozumienie modeli AI za po\u015brednicwem ich interpretowalno\u015bci i wyja\u015bnialno\u015bci zwi\u0119kszy zaufanie spo\u0142ecze\u0144stwa do tych rozwi\u0105za\u0144, co zapewni bardziej przychylne stanowisko w temacie ich wdra\u017cania,<\/span><\/p>\n

Adaptacja<\/h3>\n

dog\u0142\u0119bne poznanie algorytm\u00f3w sztucznej inteligencji – z ich zaletami i wadami, pomo\u017ce w dalszym wdra\u017caniu, adaptacji i optymalizacji w czasie,<\/span><\/p>\n

Zgodno\u015b\u0107 z przepisami<\/h3>\n

wi\u0119ksza transparentno\u015b\u0107 proces\u00f3w decyzyjnych modeli AI pozwoli na \u0142atwiejsze definiowanie i sprawdzanie zgodno\u015bci z regulacjami prawnymi oraz wymaganiami etycznymi czy technicznymi,<\/span><\/p>\n

Ograniczanie tzw. \u201calgorithmic bias\u201d<\/h3>\n

wi\u0119ksze zrozumienie dzia\u0142ania modeli sztucznej inteligencji pozwoli na \u0142atwiejsz\u0105 identyfikacj\u0119, a w konsekwencji r\u00f3wnie\u017c eliminacj\u0119 tzw. algorytmicznych uprzedze\u0144 i stronniczo\u015bci algorytm\u00f3w zwi\u0105zanych z naturalnie wyst\u0119puj\u0105cymi uprzedzeniami u ludzi projektuj\u0105cych owe algorytmy, czy te\u017c w zbiorach danych stosowanych do uczenia modeli.<\/span><\/p>\n

 <\/p>\n

Sposoby na popraw\u0119 zrozumienia modeli AI<\/span><\/h2>\n

Metody wizualizacji<\/h3>\n

Zwizualizowanie zar\u00f3wno danych jak i modelu, mo\u017ce u\u0142atwi\u0107 zrozumienie dzia\u0142ania modeli AI. Przyk\u0142adowo tzw. \u201cheap maps\u201d mog\u0105 pos\u0142u\u017cy\u0107 do wizualizacji istotno\u015bci poszczeg\u00f3lnych cech branych pod uwag\u0119 przez algorytm w trakcie procesu decyzyjnego modelu.<\/span><\/p>\n

\"\"
Wygenerowane obrazy aktywacji, wskazuj\u0105ce na wp\u0142yw poszczeg\u00f3lnych fragment\u00f3w obrazka na proces decyzyjny (analiza danych z MRI przez model CNN) | \u0179r\u00f3d\u0142o: https:\/\/neptune.ai\/blog\/deep-learning-visualization<\/figcaption><\/figure>\n
\"\"
Dane wej\u015bciowe (obrazek psa) z na\u0142o\u017con\u0105 map\u0105 aktywacji modelu w jednej z jego warstw g\u0142ebokich, obrazuj\u0105ce wag\u0119 poszczeg\u00f3lnych cech (model ResNet 18) | \u0179r\u00f3d\u0142o: https:\/\/neptune.ai\/blog\/deep-learning-visualization<\/figcaption><\/figure>\n

 <\/p>\n

 <\/p>\n

Techniki dekompozycji<\/strong><\/h3>\n

Roz\u0142o\u017cenie procesu decyzyjnego na pojedyncze komponenty (pojedyncze regu\u0142y decyzyjne), przez co staje si\u0119 on prostszy do zrozumienia.<\/p>\n

\"\"
Przyk\u0142ad etap\u00f3w procesu decyzyjnego w klasyfikatorze opartym o drzewa decyzyjne | \u0179r\u00f3d\u0142o: https:\/\/neptune.ai\/blog\/visualization-in-machine-learning<\/figcaption><\/figure>\n

 <\/p>\n

Wyja\u015bnienia oparte o przyk\u0142ady<\/strong><\/h3>\n

Przedstawienie u\u017cytkownikowi innych, podobnych do tych poddanych analizie, zestaw\u00f3w danych wej\u015bciowych, kt\u00f3re u\u0142atwi\u0107 mog\u0105 zrozumienie podejmowanej decyzji. U\u017cytkownik mo\u017ce w spos\u00f3b empiryczny wywnioskowa\u0107 jakie czynniki brane s\u0105 pod uwag\u0119 w ewaluacji danych dostarczanych do modelu.<\/span><\/p>\n

Metody analizy post-hoc<\/strong><\/h3>\n

R\u00f3\u017cnego rodzaju metody, aplikowane po dokonaniu decyzji przez model, kt\u00f3re maj\u0105 pom\u00f3c okre\u015bli\u0107 co mia\u0142o na ni\u0105 wp\u0142yw. Mo\u017ce to polega\u0107 na podkre\u015bleniu, kt\u00f3re cechy mia\u0142y najwi\u0119ksz\u0105 wag\u0119 w ca\u0142ym procesie decyzyjnym.<\/span><\/p>\n

\"\"
Przyk\u0142ad wizualizacji w sieciach g\u0142\u0119bokich (model CNN) – grubo\u015b\u0107 kolorowych linii odpowiada wadze poszczeg\u00f3lnych \u015bcie\u017cek decyzyjnych modelu | \u0179r\u00f3d\u0142o: https:\/\/www.nature.com\/articles\/srep27755<\/figcaption><\/figure>\n

Bez w\u0105tpienia wyja\u015bnialno\u015b\u0107 system\u00f3w AI jest konieczna, aby otworzy\u0107 kolejne dziedziny naszego \u017cycia na t\u0105 technologi\u0119. Cie\u017cko sobie wyobrazi\u0107 ich zaawansowane wykorzystanie w domenach, kt\u00f3re opieraj\u0105 si\u0119 na dog\u0142\u0119bnym zaufaniu do nauki czy te\u017c ekspertyzy cz\u0142owieka podejmuj\u0105cego wa\u017ckie decyzje – jak np. pewne zagadnienia medycyny, in\u017cynierii czy wojskowo\u015bci. W tych to przypadkach niezwykle istotne w szerokim wdro\u017ceniu b\u0119d\u0105 transparentno\u015b\u0107 i kontrolowalno\u015b\u0107 modeli, kt\u00f3rych to bez uprzedniego zrozumienia dzia\u0142ania tej technologii po prostu nie osi\u0105gniemy.<\/span><\/p>\n

 <\/p>\n

The alignment problem – czyli jak wytresowa\u0107 AI<\/span><\/h1>\n

Jednym z fundamentalnych problem\u00f3w z jakimi mierz\u0105 si\u0119 naukowcy rozwijaj\u0105cy sztuczn\u0105 inteligencj\u0119 to tzw. \u201cAI alignment problem\u201d, czyli problem dostosowania system\u00f3w AI do cel\u00f3w stawianych przez tw\u00f3rc\u00f3w. Problem ten dotyczy kwestii posiadanej kontroli nad tymi systemami. Wykracza on znacznie poza metryki techniczne (czy algorytm radzi sobie z wyznaczonym zadaniem), ale dotyka fundamentalnych kwestii etycznych i spo\u0142ecznych (np. dozwolone \u015brodki do osi\u0105gni\u0119cia zadanego celu, zgodno\u015b\u0107 ze spo\u0142ecznym systemem warto\u015bci, czy te\u017c og\u00f3lne stawianie granic w intrepretacji celu przez model).<\/span><\/p>\n

Ciekawy eksperyment my\u015blowy prezentuj\u0105cy problematyk\u0119 AI alignment stanowi tzw. Paperclip Maximizer, czyli hipotetyczny algorytm sztucznej inteligencji, kt\u00f3rego funkcja nagrody uznaje za najwy\u017csz\u0105 warto\u015b\u0107 co\u015b co przez ludzi by\u0142oby okre\u015blone jako bezwarto\u015bciowe, np. zadanie maksymalizacji ilo\u015bci metalowych spinaczy do papieru na \u015bwiecie. Ten abstrakcyjny eksperyment pokazuje, jak technologia AGI stworzona zupe\u0142nie bez z\u0142ych zamiar\u00f3w mo\u017ce doprowadzi\u0107 do zniszczenia ludzko\u015bci. W ekstremalnym scenariuszu osi\u0105gni\u0119cia przez algorytm zdolno\u015bci pot\u0119\u017cnego optymalizatora d\u0105\u017c\u0105cego do osi\u0105gni\u0119cia takiego lub podobnego, pozornie nieszkodliwego celu, jako efekt uboczny zniszczy ludzko\u015b\u0107 poprzez zu\u017cycie wszystkich zasob\u00f3w niezb\u0119dnych do przetrwania ludzko\u015bci oraz usuni\u0119cie ze swojej drogi wszelkie przeszkody w maksymalizacji ilo\u015bci spinaczy na \u015bwiecie.<\/span><\/p>\n

\"\"
Clippit – logo us\u0142ugi Windows Office Assistant | \u0179r\u00f3d\u0142o: https:\/\/www.artsy.net\/article\/artsy-editorial-life-death-microsoft-clippy-paper-clip-loved-hate<\/figcaption><\/figure>\n

 <\/p>\n

Eksperyment my\u015blowy maksymalizatora spinaczy ma na celu zilustrowanie niekt\u00f3rych problem\u00f3w zwiazanych z rozwojem AI:<\/span><\/p>\n