{"id":4410,"date":"2024-04-03T20:25:18","date_gmt":"2024-04-03T20:25:18","guid":{"rendered":"http:\/\/architeles.eu\/ethics\/?p=4410"},"modified":"2024-04-03T20:25:18","modified_gmt":"2024-04-03T20:25:18","slug":"explainable-ai-a-generatory-w-jaki-sposob-integrowac-modele-wyjasniania-w-systemy-oparte-o-gpt","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2024\/04\/03\/explainable-ai-a-generatory-w-jaki-sposob-integrowac-modele-wyjasniania-w-systemy-oparte-o-gpt\/","title":{"rendered":"Explainable AI a generatory. W jaki spos\u00f3b integrowa\u0107 modele wyja\u015bniania w systemy oparte o GPT"},"content":{"rendered":"

Wraz z dynamicznym rozwojem LLM\u00f3w (Du\u017cych Modeli J\u0119zykowych), takich jak GPT (Generative Pre-trained Transformer), pojawia si\u0119 ca\u0142a seria pyta\u0144 dotycz\u0105cych ich transparentno\u015bci i wyja\u015bnialno\u015bci. Z racji na coraz wi\u0119ksz\u0105 popularno\u015b\u0107 tych modeli, istnieje rosn\u0105ce zapotrzebowanie na zrozumienie, dlaczego modele podejmuj\u0105 konkretne decyzje i jakie s\u0105 mechanizmy, kt\u00f3re le\u017c\u0105 u ich podstaw. Co wi\u0119cej, Explainable AI mo\u017ce odgrywa\u0107 kluczow\u0105 rol\u0119 w zrozumieniu podstawowych przyczyn problem\u00f3w powi\u0105zanych z LLMami, takich jak halucynacje, brak aktualnej wiedzy, czy brak klarowno\u015bci \u017ar\u00f3de\u0142 z kt\u00f3rych pochodz\u0105 informacje w oparciu o kt\u00f3re wygenerowana zosta\u0142a dana odpowied\u017a. Warto jest wi\u0119c przyjrze\u0107 si\u0119 w\u0142a\u015bnie tej stronie tych modeli, a co za tym idzie nie ufa\u0107 im w ciemno i postawi\u0107 sobie pytania \u2013 Jak? Sk\u0105d? i Dlaczego?<\/strong><\/p>\n

\n

 <\/p>\n

Waga Explainable AI w kontek\u015bcie Du\u017cych Modeli J\u0119zykowych<\/strong><\/h2>\n
\"\"
Halucynacje – s\u0142owo roku 2023 wed\u0142ug Dictionary.com<\/figcaption><\/figure>\n

Je\u015bli spojrzymy na histori\u0119 zwi\u0105zan\u0105 z rozwojem coraz to nowszych algorytm\u00f3w sztucznej inteligencji, cz\u0119sto mo\u017cna zauwa\u017cy\u0107 powtarzaj\u0105cy si\u0119 schemat w nast\u0119puj\u0105cej formie: Nowy algorytm \u2192 Zastosowania domenowe (finanse, medycyna, geologia, itd.) \u2192 Ulepszanie algorytm\u00f3w, Algorytmy wyja\u015bniaj\u0105ce\/ExplainableAI (XAI). Jest to do\u015b\u0107 naturalny cykl rozwojowy zar\u00f3wno z perspektywy naukowo-badawczej, jak i wdro\u017ceniowej. Z drugiej strony, je\u015bli spojrzymy na aktualne trendy w rozwoju nowych technologii, na przyk\u0142ad przygl\u0105daj\u0105c si\u0119 Gartner Hype Cycle, widzimy, \u017ce generatywna sztuczna inteligencja (GenAI), a zatem i du\u017ce modele j\u0119zykowe (LLMy, w tym oczywi\u015bcie modele GPT) s\u0105 w fazie tak zwanego \u201eSzczytu wyg\u00f3rowanych oczekiwa\u0144\u201d. Je\u015bli by wi\u0119c zag\u0142\u0119bi\u0107 si\u0119 w ten temat jeszcze bardziej i przyjrze\u0107 si\u0119 Hype Cycle w pe\u0142ni po\u015bwi\u0119conemu GenAI, to zobaczymy, \u017ce we wspomnianym \u201eSzczycie wyg\u00f3rowanych oczekiwa\u0144\u201d znajduj\u0105 si\u0119 LLMy, ale tak\u017ce AI TRiSM (AI Trust, Risk, Security Management), czyli zestaw rozwi\u0105za\u0144 maj\u0105cych na celu identyfikacj\u0119 i ograniczenie ryzyka dzia\u0142ania modeli AI. Fundamentami AI TRiSM s\u0105 prywatno\u015b\u0107, bezpiecze\u0144stwo aplikacji AI, eksploatacja modeli oraz interesuj\u0105ca nas najbardziej \u2013 wyja\u015bnialno\u015b\u0107 modeli oraz ich monitoring.<\/p>\n

\"\"
Hype Cycle nowych technologii.<\/figcaption><\/figure>\n
\"\"
Hype Cycle Generatywnej Sztucznej Inteligencji.<\/figcaption><\/figure>\n

Widzimy wi\u0119c, \u017ce explainatory modeli j\u0119zykowych s\u0105 wa\u017cne z perspektywy hype\u2019u wschodz\u0105cych technologii, ale jak wygl\u0105da to z punktu widzenia spo\u0142ecznego, a w szczeg\u00f3lno\u015bci codziennych u\u017cytkownik\u00f3w tych narz\u0119dzi? Przede wszystkim transparentno\u015b\u0107 i wyja\u015bnialno\u015b\u0107 decyzji potrzebna jest do zwyczajnego zrozumienia i ch\u0119ci poznania procesu decyzyjnego, kt\u00f3ry doprowadzi\u0142 to powstanie takiej odpowiedzi a nie innej. Jest to oczywi\u015bcie do\u015b\u0107 trywialne stwierdzenie, ale w rzeczywisto\u015bci jest ono kluczowe przy realizacji konkretnych rozwi\u0105za\u0144 dziedzinowych. Jako przyk\u0142ad przyjrzyjmy si\u0119 modelowi BioGPT \u2013 LLM do zada\u0144 biomedycznych. Zrealizujmy zapytanie maj\u0105ce na celu pr\u00f3b\u0119 diagnozy choroby w oparciu o podane symptomy.<\/p>\n

\"\"
Wynik dzia\u0142ania modelu BioGPT.<\/figcaption><\/figure>\n

I w\u0142a\u015bnie tutaj pojawia si\u0119 seria pyta\u0144 \u2013 dlaczego w\u0142a\u015bnie takie choroby zosta\u0142y zaproponowane jako potencjalna diagnoza? Kt\u00f3re symptomy by\u0142y kluczowe w podj\u0119ciu przez model decyzji? Czy podane przez model choroby w og\u00f3le istniej\u0105, a mo\u017ce s\u0105 wynikiem halucynacji modelu? I w\u0142a\u015bnie tutaj z pomoc\u0105 przychodz\u0105 modele wyja\u015bniania. Modele XAI mog\u0105 pom\u00f3c w odpowiedzi na te pytania poprzez dostarczenie wyja\u015bnie\u0144, kt\u00f3re u\u0142atwi\u0105 zrozumienie procesu decyzyjnego modelu \u2013 mog\u0105 nam na przyk\u0142ad pokaza\u0107, kt\u00f3re cechy objaw\u00f3w by\u0142y najbardziej istotne dla danego wyniku, jakie dane wej\u015bciowe mia\u0142y najwi\u0119kszy wp\u0142yw na wynik, jak model przyporz\u0105dkowa\u0142 znaczenie poszczeg\u00f3lnym objawom, a tak\u017ce jakie jest \u017ar\u00f3d\u0142o danych w oparciu o kt\u00f3re model ma posiadan\u0105 wiedz\u0105.<\/p>\n

 <\/p>\n

Metody Explainable AI dla Du\u017cych Modeli J\u0119zykowych<\/h2>\n

W ostatnim czasie pojawi\u0142o si\u0119 wiele r\u00f3\u017cnorodnych propozycji metod XAI dla LLM\u00f3w. Warto przyjrze\u0107 si\u0119 kilku wiod\u0105cym narz\u0119dziom, w\u015br\u00f3d kt\u00f3rych wyr\u00f3\u017cni\u0107 mo\u017cna:<\/p>\n

    \n
  • HELM (Holistic Evaluation of Language Models)<\/strong> \u2013 framework do oceny modeli j\u0119zykowych pod k\u0105tem szerokiego spektrum u\u017cytkowalno\u015bci, w tym uczciwo\u015bci, wydajno\u015bci, odporno\u015bci na halucynacje, toksyczno\u015bci i wielu innych. Jest to ci\u0105gle aktualizowane narz\u0119dzie na przejrzysto\u015b\u0107 modeli przy u\u017cyciu r\u00f3\u017cnych scenariuszy, wska\u017anik\u00f3w i modeli. Jest wi\u0119c to forma wyja\u015bnialno\u015bci na poziomie globalnym, gdzie mo\u017cna przeprowadzi\u0107 analiz\u0119, jak dane LLMy sprawdz\u0105 si\u0119 w danym zadaniu, np. pod wzgl\u0119dem toksyczno\u015bci generowanych tre\u015bci<\/li>\n
  • ANE (Automatic Neuron Explanation)<\/strong> \u2013 metodologia, kt\u00f3ra do interpretacji dzia\u0142ania modeli GPT wykorzystuje\u2026 model GPT! Jest to proces 3stopniowy kt\u00f3rego g\u0142\u00f3wn\u0105 domen\u0105 dzia\u0142ania jest inspekcja dzia\u0142ania poszczeg\u00f3lnych neuron\u00f3w i warstw atencji. W pierwszej kolejno\u015bci, korzystaj\u0105c z neuronu z GPT-2, generowane jest wyja\u015bnienie jego zachowania, pokazuj\u0105c odpowiednie sekwencje tekstowe i aktywacje do GPT-4. Nast\u0119pnie GPT-4 jest u\u017cywany do przewidywania aktywacji neuron\u00f3w dla ka\u017cdego tokena w danej sekwencji, przy za\u0142o\u017ceniu, \u017ce proponowane wyja\u015bnienie dok\u0142adnie i kompleksowo wyja\u015bnia zachowanie neuronu. Wreszcie, w ostatnim kroku, nast\u0119puje ocena wyja\u015bnie\u0144 poprzez por\u00f3wnanie zachowania symulowanego neuronu z zachowaniem rzeczywistego neuronu. Jest wi\u0119c to do\u015b\u0107 ciekawe podej\u015bcie do problemu, aczkolwiek wi\u0105\u017ce si\u0119 z do\u015b\u0107 spor\u0105 gam\u0105 ogranicze\u0144, w tym wymogiem do\u015b\u0107 sporych zasob\u00f3w obliczeniowych, brakiem eksploracji bardziej rozbudowanych po\u0142\u0105cze\u0144 neuronowych i wci\u0105\u017c pozostawiaj\u0105c pewn\u0105 czarno-skrzynkow\u0105 natur\u0119.<\/li>\n
  • Phoenix<\/strong> \u2013 narz\u0119dzie dedykowane raczej in\u017cynierom i data scientistom, kt\u00f3re umo\u017cliwia dog\u0142\u0119bn\u0105 analiz\u0119 dzia\u0142ania modelu z wykorzystaniem podej\u015bcia notatnikowego. Z wykorzystaniem Phoenix\u2019a mo\u017cna zbada\u0107 LLM pod wzgl\u0119dem m.in. \u015bledzenia wykonywania generacji, ewaluacji (toksyczno\u015bci, trafno\u015bci, itp.), analizy osadze\u0144, czy te\u017c wizualizacji procesu wyszukiwania danych w celu usprawnienia procesu generowania z rozszerzonym wyszukiwaniem RAG.<\/li>\n<\/ul>\n

    Widzimy wi\u0119c, \u017ce metodologia XAI rozwija si\u0119 pr\u0119\u017cnie w obr\u0119bie LLM\u00f3w, chocia\u017c ka\u017cde narz\u0119dzie ma oczywi\u015bcie pewne minusy \u2013 czy to wy\u0142\u0105cznie wyja\u015bnialno\u015b\u0107 na poziomie globalnym, czy ograniczon\u0105 eksploracj\u0119, czy w ko\u0144cu zaawansowany charakter dzia\u0142ania dedykowany in\u017cynierom i programistom.<\/p>\n

    Szersze spektrum metodologii wyja\u015bniania<\/h2>\n

    W jaki wi\u0119c spos\u00f3b wprowadzi\u0107 warstw\u0119 wyja\u015bnialn\u0105 do codziennych zastosowa\u0144 modeli GPT, kt\u00f3ra mo\u017ce by\u0107 wykorzystywana przez ka\u017cdego u\u017cytkownika tych narz\u0119dzi?\u00a0 Odpowied\u017a na to pytanie nie jest ju\u017c jakkolwiek trywialna, a dodatkowo mo\u017cna by powiedzie\u0107, \u017ce to wszystko zale\u017cy od tego, ile czasu jeste\u015bmy w stanie po\u015bwi\u0119ci\u0107 na zrozumienie podj\u0119tych przez model decyzji i analiz\u0119 otrzymanych w rezultacie wynik\u00f3w.<\/p>\n

    Analiza scenariuszy<\/h3>\n

    Przyjrzyjmy si\u0119 zatem w pierwszej kolejno\u015bci nast\u0119puj\u0105cemu podej\u015bciu. Z racji, \u017ce proces generatywny ma w sobie oczywiste elementy stochastyczne, generowanie tre\u015bci przez modele GPT ma pewien pierwiastek losowy (kontrolowany na r\u00f3\u017cne sposoby), kt\u00f3ry przyczynia si\u0119 do tego, \u017ce odpowiedzi generowane na to samo zapytanie nie zawsze b\u0119d\u0105 identyczne. Chocia\u017c zwykle sens danej wypowiedzi zostanie zachowany, ca\u0142a wypowied\u017a b\u0119dzie r\u00f3\u017cni\u0107 si\u0119 znakami interpunkcyjnymi, sk\u0142adni\u0105 itp., co jest oczywi\u015bcie wynikiem tego, \u017ce LLMy dokonuj\u0105 generacji token po tokenie. W zwi\u0105zku z tym mo\u017cna przeprowadzi\u0107 eksperyment, w kt\u00f3rym to samo zapytanie do modelu typu ChatGPT puszczone zostanie setki razy. Powstanie w\u00f3wczas pewien \u201eglobalny\u201d \u0142a\u0144cuch my\u015bli, kt\u00f3ry b\u0119dzie do\u015b\u0107 wnikliw\u0105 analiz\u0105 generacyjnego procesu token po tokenie wraz z rozbudowanym przegl\u0105dem mo\u017cliwych alternatyw. Realizacja tego pomys\u0142u zosta\u0142a wykonana na przyk\u0142ad przez Look into Machine\u2019a Mind, gdzie eksploracji poddane zostaje doko\u0144czenie promptu \u201eIntelligence is\u201d:<\/p>\n