{"id":9548,"date":"2026-05-25T15:23:41","date_gmt":"2026-05-25T15:23:41","guid":{"rendered":"https:\/\/architeles.eu\/ethics\/?p=9548"},"modified":"2026-05-25T15:23:48","modified_gmt":"2026-05-25T15:23:48","slug":"dlaczego-ai-musi-tlumaczyc-swoje-decyzje-wyzwania-interpretowalnosci-i-budowania-zaufania-w-medycznych-systemach-predykcyjnych","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2026\/05\/25\/dlaczego-ai-musi-tlumaczyc-swoje-decyzje-wyzwania-interpretowalnosci-i-budowania-zaufania-w-medycznych-systemach-predykcyjnych\/","title":{"rendered":"Dlaczego AI musi t\u0142umaczy\u0107 swoje decyzje? Wyzwania interpretowalno\u015bci i budowania zaufania w medycznych systemach predykcyjnych"},"content":{"rendered":"

Algorytmy sztucznej inteligencji coraz cz\u0119\u015bciej wspomagaj\u0105 lekarzy w stawianiu diagnoz, przewidywaniu ryzyka chor\u00f3b i rekomendowaniu terapii. Problem w tym, \u017ce najskuteczniejsze z tych modeli dzia\u0142aj\u0105 jak \u201eczarne skrzynki” – podaj\u0105 wynik, ale nie potrafi\u0105 powiedzie\u0107, dlaczego go wybra\u0142y. Medycyna to nie algorytm rekomendacyjny Netflixa – tam b\u0142\u0119dna rekomendacja filmu oznacza nudny wiecz\u00f3r. W medycynie b\u0142\u0119dna decyzja AI lub \u015blepe zaufanie do niej to kwestia \u017cycia i \u015bmierci, brak przejrzysto\u015bci staje si\u0119 barier\u0105 nie tylko technologiczn\u0105, lecz przede wszystkim etyczn\u0105 i spo\u0142eczn\u0105. Dlatego narodzi\u0142 si\u0119 nurt XAI (Explainable AI – Wyja\u015bnialna Sztuczna Inteligencja).
\nNiniejszy tekst poddaje analizie, czym jest wyja\u015bnialna sztuczna inteligencja (XAI), dlaczego jej potrzebuj\u0105 zar\u00f3wno lekarze, jak i pacjenci, jakie ramy prawne wymuszaj\u0105 transparentno\u015b\u0107, a na koniec przedstawione jest praktyczne rozwi\u0105zanie – dwupoziomowy interfejs wyja\u015bnie\u0144 oparty na bibliotekach SHAP i LIME, kt\u00f3ry dostosowuje komunikat do odbiorcy: eksperta klinicznego lub pacjenta.
\n<\/b><\/span><\/p>\n

Wsp\u00f3\u0142czesna medycyna wkracza w er\u0119, w kt\u00f3rej algorytmy uczenia maszynowego potrafi\u0105 rozpoznawa\u0107 nowotwory na zdj\u0119ciach histopatologicznych, przewidywa\u0107 ryzyko sepsy na oddzia\u0142ach intensywnej terapii, a nawet rekomendowa\u0107 schematy chemioterapii. Eric Topol w swojej prze\u0142omowej ksi\u0105\u017cce <\/span>Deep Medicine<\/span><\/i> zarysowa\u0142 wizj\u0119, w kt\u00f3rej AI uwalnia lekarzy od rutynowych zada\u0144 i pozwala im wr\u00f3ci\u0107 do tego, co w medycynie najwa\u017cniejsze – relacji z pacjentem. Jednocze\u015bnie Topol podkre\u015bla\u0142, \u017ce aby ta wizja si\u0119 urzeczywistni\u0142a, konieczne jest zaufanie – zar\u00f3wno ze strony klinicyst\u00f3w, jak i pacjent\u00f3w <\/span>(Topol, 2019)<\/b>.<\/span><\/p>\n

Tymczasem najskuteczniejsze modele – g\u0142\u0119bokie sieci neuronowe, modele gradientowe typu XGBoost, wielowarstwowe architektury transformerowe – s\u0105 z natury nieprzejrzyste. Ich wewn\u0119trzna logika, oparta na milionach parametr\u00f3w, wymyka si\u0119 ludzkiej intuicji. Powstaje fundamentalne pytanie: czy mo\u017cna ufa\u0107 systemowi, kt\u00f3rego rozumowania nie da si\u0119 prze\u015bledzi\u0107?<\/span><\/p>\n

Czarna skrzynka w gabinecie lekarskim – skala problemu<\/b><\/h2>\n

Poj\u0119cie \u201eczarnej skrzynki” (ang. <\/span>black box<\/span><\/i>) w kontek\u015bcie AI opisuje model, kt\u00f3ry produkuje trafne prognozy, ale nie udost\u0119pnia czytelnej \u015bcie\u017cki prowadz\u0105cej od danych wej\u015bciowych do wyniku. W wielu dziedzinach – od rekomendacji film\u00f3w po targetowanie reklam – taka nieprzejrzysto\u015b\u0107 jest akceptowalna. W medycynie nie jest.<\/span><\/p>\n

\"Ryc.
\nRyc. 1. Problem \u201eczarnej skrzynki” – model przyjmuje dane kliniczne pacjenta i generuje prognoz\u0119, ale nie udost\u0119pnia \u015bcie\u017cki rozumowania prowadz\u0105cej do wyniku.<\/em><\/p>\n

Rosenbacke i wsp\u00f3\u0142autorzy (2024) w systematycznym przegl\u0105dzie opublikowanym w JMIR AI<\/em> wykazali, \u017ce brak wyja\u015bnie\u0144 mo\u017ce zar\u00f3wno obni\u017ca\u0107, jak i – paradoksalnie – podwy\u017csza\u0107 zaufanie klinicyst\u00f3w do system\u00f3w AI. Ten drugi scenariusz wynika ze zjawiska zwanego b\u0142\u0119dem automatyzacji (ang. automation bias<\/em>): gdy lekarz widzi konkretn\u0105 liczb\u0119 wygenerowan\u0105 przez algorytm (np. \u201eryzyko rehospitalizacji: 78%”), sam fakt jej komputerowego pochodzenia nadaje jej aur\u0119 obiektywno\u015bci i precyzji. Zapracowany klinicysta, pod presj\u0105 czasu i z dziesi\u0105tkami pacjent\u00f3w na dy\u017curze, mo\u017ce pomy\u015ble\u0107: \u201esystem to policzy\u0142, pewnie wie lepiej” – i zaakceptowa\u0107 wynik bez krytycznej weryfikacji. Paradoks polega na tym, \u017ce gdyby system poda\u0142 wyja\u015bnienie (np. \u201eryzyko jest wysokie g\u0142\u00f3wnie z powodu podwy\u017cszonego CRP i niskiego ci\u015bnienia”), lekarz m\u00f3g\u0142by to skonfrontowa\u0107 ze swoj\u0105 wiedz\u0105 kliniczn\u0105 i powiedzie\u0107: \u201echwila, ale ten pacjent ma chronicznie niskie ci\u015bnienie – to nie jest tu czynnik ryzyka”. Wyja\u015bnienie daje punkt zaczepienia do krytyki; jego brak sprawia, \u017ce nie ma czego kwestionowa\u0107 – zostaje tylko liczba i autorytet maszyny. Z kolei pierwszy scenariusz jest prostszy: lekarz, nie rozumiej\u0105c podstaw rekomendacji, po prostu j\u0105 odrzuca i wraca do w\u0142asnego os\u0105du, ignoruj\u0105c potencjalnie warto\u015bciow\u0105 podpowied\u017a algorytmu. Oba scenariusze – zar\u00f3wno \u015blepe zaufanie, jak i ca\u0142kowite odrzucenie – s\u0105 nieskuteczne w leczeniu pacjenta (Rosenbacke i in., 2024)<\/strong>.<\/p>\n

Z perspektywy pacjenta problem przybiera inny wymiar. Wyobra\u017amy sobie, \u017ce system AI rekomenduje okre\u015blon\u0105 terapi\u0119 onkologiczn\u0105. Pacjent pyta lekarza: \u201eDlaczego akurat ten lek?”. Je\u015bli lekarz odpowiada: \u201eBo tak wskaza\u0142 algorytm” – to nie jest wyja\u015bnienie. To przeniesienie odpowiedzialno\u015bci na maszyn\u0119, kt\u00f3ra nie ponosi konsekwencji swoich b\u0142\u0119d\u00f3w. Pacjent, w odr\u00f3\u017cnieniu od klinicysty, nie ma narz\u0119dzi ani wiedzy, by samodzielnie oceni\u0107 trafno\u015b\u0107 rekomendacji – jest wi\u0119c ca\u0142kowicie zale\u017cny od jako\u015bci komunikatu, jaki otrzyma. Je\u015bli ten komunikat ogranicza si\u0119 do \u201etak powiedzia\u0142 komputer”, pacjent traci zaufanie – nie tylko do systemu AI, ale i do samego lekarza, kt\u00f3ry nie potrafi uzasadni\u0107 w\u0142asnej decyzji terapeutycznej.<\/p>\n

Interpretowalno\u015b\u0107 kontra wyja\u015bnialno\u015b\u0107 – precyzja poj\u0119\u0107<\/b><\/h2>\n

W literaturze XAI funkcjonuj\u0105 dwa pokrewne, ale nie to\u017csame terminy. <\/span>Interpretowalno\u015b\u0107<\/b> (ang. <\/span>interpretability<\/span><\/i>) oznacza, \u017ce model jest z natury zrozumia\u0142y – jego struktura pozwala cz\u0142owiekowi prze\u015bledzi\u0107, jak od danych wej\u015bciowych dochodzi do wyniku. Przyk\u0142adem s\u0105 drzewa decyzyjne, regresja logistyczna czy systemy regu\u0142owe. <\/span>Wyja\u015bnialno\u015b\u0107<\/b> (ang. <\/span>explainability<\/span><\/i>) dotyczy natomiast sytuacji, gdy z\u0142o\u017cony model (np. sie\u0107 neuronowa) jest uzupe\u0142niany o dodatkow\u0105 warstw\u0119 – mechanizm wyja\u015bniaj\u0105cy post hoc, dlaczego podj\u0105\u0142 dan\u0105 decyzj\u0119.<\/span><\/p>\n

Wyja\u015bnienia musz\u0105 by\u0107 niedok\u0142adne. Nie mog\u0105 mie\u0107 doskona\u0142ej wierno\u015bci wobec oryginalnego modelu. Gdyby wyja\u015bnienie by\u0142o w pe\u0142ni wierne temu, co model oblicza, zast\u0105pi\u0142oby sam model – i nie by\u0142oby potrzebne.
\n– Cynthia Rudin, parafraza argumentu z Nature Machine Intelligence (2019)<\/em><\/p><\/blockquote>\n

Cynthia Rudin <\/span>(2019)<\/b> w g\u0142o\u015bnym artykule opublikowanym w <\/span>Nature Machine Intelligence<\/span><\/i> argumentowa\u0142a, \u017ce w dziedzinach o wysokiej stawce – medycynie, wymiarze sprawiedliwo\u015bci – powinni\u015bmy w og\u00f3le rezygnowa\u0107 z nieprzejrzystych modeli i stosowa\u0107 modele interpretowalne z natury. Jej zdaniem wyja\u015bnienia post hoc s\u0105 z definicji niedoskona\u0142e <\/span>(Rudin, 2019)<\/b>.<\/span><\/p>\n

Stanowisko Rudin jest intelektualnie przekonuj\u0105ce, ale w praktyce budzi kontrowersje. Modele interpretowalne z natury (np. regresja liniowa) cz\u0119sto osi\u0105gaj\u0105 ni\u017csz\u0105 dok\u0142adno\u015b\u0107 od modeli z\u0142o\u017conych, zw\u0142aszcza przy du\u017cych, wielowymiarowych zbiorach danych klinicznych. Metaanalizy wskazuj\u0105, \u017ce modele interpretowalne wi\u0105\u017c\u0105 si\u0119 z utrat\u0105 5-7% AUC w por\u00f3wnaniu z modelami czarnoskrzynkowymi w zadaniach diagnostycznych. W onkologii czy kardiologii taka r\u00f3\u017cnica mo\u017ce oznacza\u0107 nierozpoznane przypadki – a wi\u0119c realne zagro\u017cenie dla \u017cycia.<\/span><\/p>\n

Dlatego bardziej pragmatyczne podej\u015bcie zak\u0142ada kompromis: stosujemy najskuteczniejszy model, ale obudowujemy go solidn\u0105 warstw\u0105 wyja\u015bnie\u0144. Tu wkraczaj\u0105 metody takie jak SHAP i LIME.<\/span><\/p>\n

SHAP i LIME – dwa filary wyja\u015bnialnej AI<\/b><\/h2>\n

SHAP<\/b> (SHapley Additive exPlanations) to metoda oparta na teorii gier, a konkretnie na warto\u015bciach Shapleya. Traktuje ka\u017cd\u0105 cech\u0119 wej\u015bciow\u0105 (np. wiek pacjenta, poziom glukozy, wyniki bada\u0144 obrazowych) jako \u201egracza” w koalicyjnej grze, a wynik modelu jako \u201ewyp\u0142at\u0119”. SHAP oblicza marginalny wk\u0142ad ka\u017cdej cechy do konkretnej predykcji, daj\u0105c zar\u00f3wno wyja\u015bnienia lokalne (dla pojedynczego pacjenta), jak i globalne (dla ca\u0142ego modelu). Jego zalet\u0105 jest solidna podbudowa matematyczna i sp\u00f3jno\u015b\u0107 – te same cechy w analogicznych sytuacjach otrzymuj\u0105 por\u00f3wnywalne warto\u015bci atrybukcji <\/span>(Salih i in., 2025)<\/b>.<\/span><\/p>\n

LIME<\/b> (Local Interpretable Model-Agnostic Explanations) dzia\u0142a inaczej: buduje uproszczony, interpretowalny model (np. regresj\u0119 liniow\u0105) w lokalnym otoczeniu konkretnego przypadku. Zaburza dane wej\u015bciowe, obserwuje, jak zmienia si\u0119 predykcja, i na tej podstawie przybli\u017ca zachowanie \u201eczarnej skrzynki” w pobli\u017cu danego punktu. LIME jest szybszy obliczeniowo i daje intuicyjne wyja\u015bnienia, ale jego wad\u0105 jest ni\u017csza wierno\u015b\u0107 (ang. <\/span>fidelity<\/span><\/i>) – lokalne przybli\u017cenie nie zawsze dok\u0142adnie odwzorowuje logik\u0119 oryginalnego modelu <\/span>(Salih i in., 2025)<\/b>.<\/span><\/p>\n

\"Ryc.
\nRyc. 2. Por\u00f3wnanie metod SHAP i LIME – obie wyja\u015bniaj\u0105 t\u0119 sam\u0105 predykcj\u0119 (ryzyko sepsy = 78%), ale w odmienny spos\u00f3b. SHAP jest idealny dla lekarza, LIME – dla pacjenta.<\/em><\/p>\n

Ahmed i wsp\u00f3\u0142autorzy (2024) w por\u00f3wnawczej analizie SHAP i LIME na danych dotycz\u0105cych prognozowania cukrzycy wykazali, \u017ce oba narz\u0119dzia istotnie poprawiaj\u0105 zrozumia\u0142o\u015b\u0107 wynik\u00f3w przez lekarzy, ale r\u00f3\u017cni\u0105 si\u0119 w poziomie szczeg\u00f3\u0142owo\u015bci. SHAP wskazuje precyzyjne warto\u015bci wk\u0142adu poszczeg\u00f3lnych cech, podczas gdy LIME oferuje bardziej uproszczony obraz – co mo\u017ce by\u0107 zalet\u0105 w komunikacji z pacjentem <\/span>(Ahmed i in., 2024)<\/b>.<\/span><\/p>\n

Por\u00f3wnanie metod wyja\u015bnialnej AI w zastosowaniach medycznych<\/b><\/h2>\n\n\n\n\n\n\n\n\n
Parametr<\/b><\/td>\nSHAP<\/b><\/td>\nLIME<\/b><\/td>\nModele interpretowalne z natury<\/b><\/td>\n<\/tr>\n
Podstawa teoretyczna<\/span><\/td>\nTeoria gier (warto\u015bci Shapleya)<\/span><\/td>\nLokalne przybli\u017cenie liniowe<\/span><\/td>\nStruktura modelu (np. drzewo decyzyjne)<\/span><\/td>\n<\/tr>\n
Typ wyja\u015bnie\u0144<\/span><\/td>\nLokalne + globalne (Salih i in., 2025)<\/b><\/span><\/td>\nTylko lokalne (Salih i in., 2025)<\/b><\/span><\/td>\nGlobalne (ca\u0142a struktura widoczna)<\/span><\/td>\n<\/tr>\n
Wierno\u015b\u0107 (fidelity)<\/span><\/td>\nWysoka (Ahmed i in., 2024)<\/b><\/span><\/td>\n\u015arednia – zale\u017cy od otoczenia lokalnego<\/span><\/td>\nDoskona\u0142a (model = wyja\u015bnienie)<\/span><\/td>\n<\/tr>\n
Koszt obliczeniowy<\/span><\/td>\nWysoki (zw\u0142aszcza KernelSHAP)<\/span><\/td>\nNiski – idealne dla czasu rzeczywistego<\/span><\/td>\nMinimalny<\/span><\/td>\n<\/tr>\n
Dok\u0142adno\u015b\u0107 modelu bazowego<\/span><\/td>\nDowolna (post hoc)<\/span><\/td>\nDowolna (post hoc)<\/span><\/td>\nNi\u017csza o 5-7% AUC (Rudin, 2019)<\/b><\/span><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Tabela 1. Por\u00f3wnanie trzech podej\u015b\u0107 do wyja\u015bnialno\u015bci AI w medycynie. Opracowanie w\u0142asne na podst. Salih i in. (2025), Ahmed i in. (2024), Rudin (2019).<\/em><\/span><\/p>\n

Czego potrzebuj\u0105 klinicy\u015bci – perspektywa u\u017cytkownika<\/b><\/h2>\n

Tonekaboni i wsp\u00f3\u0142autorzy (2019) przeprowadzili pionierskie badanie jako\u015bciowe w\u015br\u00f3d lekarzy oddzia\u0142\u00f3w intensywnej terapii i izb przyj\u0119\u0107, pytaj\u0105c, jakich wyja\u015bnie\u0144 oczekuj\u0105 od system\u00f3w AI. Wyniki by\u0142y jednoznaczne: sama dok\u0142adno\u015b\u0107 modelu nie wystarczy. Klinicy\u015bci chc\u0105 wiedzie\u0107, jakie cechy nap\u0119dzaj\u0105 konkretn\u0105 predykcj\u0119, jaki jest poziom niepewno\u015bci modelu, oraz jak model zachowywa\u0142 si\u0119 na podobnych przypadkach w przesz\u0142o\u015bci. Co istotne, lekarze stwierdzili, \u017ce potrzebuj\u0105 r\u00f3\u017cnych typ\u00f3w wyja\u015bnie\u0144 w r\u00f3\u017cnych kontekstach – inne informacje s\u0105 potrzebne przy tria\u017cu na izbie przyj\u0119\u0107, a inne przy planowaniu d\u0142ugoterminowej terapii <\/span>(Tonekaboni i in., 2019)<\/b>.<\/span><\/p>\n

Te wyniki maj\u0105 fundamentalne znaczenie projektowe: nie istnieje jedno uniwersalne wyja\u015bnienie. System XAI musi by\u0107 <\/span>adaptacyjny<\/b> – dostosowywa\u0107 form\u0119, g\u0142\u0119boko\u015b\u0107 i j\u0119zyk komunikatu do odbiorcy i sytuacji klinicznej.<\/span><\/p>\n

Pacjent jako pomini\u0119ty odbiorca wyja\u015bnie\u0144<\/b><\/h2>\n

O ile literatura na temat XAI w medycynie koncentruje si\u0119 g\u0142\u00f3wnie na klinicystach, pacjent – najwa\u017cniejszy interesariusz – bywa pomijany. Tymczasem autonomia pacjenta, wyra\u017cona m.in. w doktrynie \u015bwiadomej zgody, wymaga, by osoba poddawana diagnostyce lub terapii rozumia\u0142a podstawy podejmowanych decyzji.<\/span><\/p>\n

Systemy XAI adresowane do pacjent\u00f3w musz\u0105 unika\u0107 \u017cargonu statystycznego. Zamiast \u201ewarto\u015b\u0107 SHAP cechy hemoglobina = -0.34″ pacjent potrzebuje informacji typu: \u201eSystem uwzgl\u0119dni\u0142, \u017ce Pana\/Pani poziom hemoglobiny jest ni\u017cszy ni\u017c u wi\u0119kszo\u015bci os\u00f3b w podobnym wieku i stanie zdrowia, co zwi\u0119kszy\u0142o oszacowane ryzyko powik\u0142a\u0144”. Zdolno\u015b\u0107 systemu do personalizacji wyja\u015bnie\u0144<\/strong> – dostosowania ich do demografii, historii medycznej i poziomu wiedzy odbiorcy – jest kluczowym czynnikiem budowania zaufania.<\/span><\/p>\n

Ramy prawne – EU AI Act i wym\u00f3g transparentno\u015bci<\/b><\/h2>\n

Unijna ustawa o sztucznej inteligencji (AI Act, Regulation 2024\/1689), kt\u00f3ra wesz\u0142a w \u017cycie 1 sierpnia 2024 roku, wprowadzi\u0142a klasyfikacj\u0119 system\u00f3w AI opart\u0105 na poziomie ryzyka. Na szczycie piramidy znajduj\u0105 si\u0119 systemy ca\u0142kowicie zakazane – takie jak social scoring (algorytmiczne ocenianie obywateli na wz\u00f3r chi\u0144skiego Systemu Zaufania Spo\u0142ecznego) czy systemy manipulacji poznawczej (np. AI celowo wykorzystuj\u0105ce uzale\u017cnienia lub targetuj\u0105ce dzieci). Ni\u017cej, w kategorii system\u00f3w wysokiego ryzyka<\/strong>, znalaz\u0142y si\u0119 systemy medyczne – w tym oprogramowanie diagnostyczne, narz\u0119dzia wspomagaj\u0105ce decyzje kliniczne i systemy monitorowania pacjent\u00f3w. Kategoria ta oznacza, \u017ce AI medyczne jest dozwolone i potrzebne, ale podlega najsurowszym wymogom: jako\u015bci danych, zarz\u0105dzania ryzykiem, nadzoru ludzkiego i – co kluczowe – przejrzysto\u015bci<\/strong>.<\/p>\n

\"Ryc.
\nRyc. 3. Piramida ryzyka w EU AI Act – systemy medyczne AI klasyfikowane jako systemy wysokiego ryzyka, podlegaj\u0105ce najsurowszym wymogom transparentno\u015bci. Na podst. Regulation (EU) 2024\/1689.<\/em><\/p>\n

Dostawcy system\u00f3w AI klasy medycznej s\u0105 zobowi\u0105zani do dostarczania u\u017cytkownikom (szpitalom, lekarzom) wyczerpuj\u0105cych informacji o sposobie dzia\u0142ania systemu, jego ograniczeniach i potencjalnych ryzykach. Pe\u0142na zgodno\u015b\u0107 z wymogami dla system\u00f3w wysokiego ryzyka jest wymagana od sierpnia 2026 roku, co oznacza, \u017ce bran\u017ca medtech ma niewiele czasu na wdro\u017cenie mechanizm\u00f3w wyja\u015bnialno\u015bci<\/span>.<\/span><\/p>\n

To w\u0142a\u015bnie regulacja prawna<\/strong> mo\u017ce okaza\u0107 si\u0119 najsilniejszym katalizatorem adopcji XAI w medycynie – nie dlatego, \u017ce firmy chc\u0105 by\u0107 transparentne, ale dlatego, \u017ce musz\u0105.<\/span><\/p>\n

Komponent praktyczny – dwupoziomowy interfejs wyja\u015bnie\u0144 (DAEI)<\/b><\/h2>\n

Poni\u017cej przedstawiona jest architektura praktycznego rozwi\u0105zania: dwupoziomowego interfejsu wyja\u015bnie\u0144 (ang. Dual-Audience Explanation Interface, DAEI), kt\u00f3ry mo\u017ce towarzyszy\u0107 dowolnemu medycznemu systemowi predykcyjnemu. Kluczowym za\u0142o\u017ceniem jest zasada human-in-the-loop – pacjent nigdy nie otrzymuje surowego wyniku algorytmu. Ka\u017cda rekomendacja systemu AI trafia najpierw do lekarza, kt\u00f3ry j\u0105 weryfikuje, kontekstualizuje i dopiero wtedy decyduje, co i w jakiej formie przekaza\u0107 pacjentowi.<\/p>\n

Za\u0142o\u017cenia projektowe<\/b><\/h3>\n
    \n
  1. Dwa tryby widoku<\/strong>: tryb ekspercki (dla lekarza) i tryb pacjenta.<\/li>\n
  2. Wsp\u00f3lny silnik wyja\u015bnie\u0144<\/strong>: oparty na bibliotekach SHAP (wyja\u015bnienia globalne i lokalne) oraz LIME (szybkie lokalne przybli\u017cenia).<\/li>\n
  3. Adaptacja j\u0119zyka<\/strong>: automatyczna transformacja technicznego opisu na zrozumia\u0142y komunikat w j\u0119zyku naturalnym (NLG).<\/li>\n
  4. Wska\u017anik niepewno\u015bci<\/strong>: ka\u017cda predykcja opatrzona jest przedzia\u0142em ufno\u015bci, prezentowanym graficznie.<\/li>\n
  5. Human-in-the-loop<\/strong>: wynik generowany przez AI nie trafia bezpo\u015brednio do pacjenta – lekarz pe\u0142ni rol\u0119 bramki weryfikacyjnej, kt\u00f3ra zatwierdza, modyfikuje lub odrzuca rekomendacj\u0119 przed jej przekazaniem.<\/li>\n<\/ol>\n

    \"Ryc.
    \nRyc. 4. Architektura dwupoziomowego interfejsu wyja\u015bnie\u0144 (DAEI) – wsp\u00f3lny silnik XAI generuje dwa odmienne widoki: techniczny dla klinicysty (oparty na SHAP) i uproszczony dla pacjenta (oparty na LIME z transformacj\u0105 na j\u0119zyk naturalny).<\/em><\/p>\n

    Widok ekspercki (lekarz)<\/b><\/h3>\n

    Lekarz widzi:<\/span><\/p>\n