{"id":7519,"date":"2025-05-12T20:15:20","date_gmt":"2025-05-12T20:15:20","guid":{"rendered":"https:\/\/architeles.eu\/ethics\/?p=7519"},"modified":"2025-05-14T11:22:07","modified_gmt":"2025-05-14T11:22:07","slug":"inteligencja-emocjonalna-informatyka-afektywna-i-sztuczna-inteligencja-reakcja-systemow-na-negatywne-emocje-uzytkownika","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2025\/05\/12\/inteligencja-emocjonalna-informatyka-afektywna-i-sztuczna-inteligencja-reakcja-systemow-na-negatywne-emocje-uzytkownika\/","title":{"rendered":"Inteligencja emocjonalna, informatyka afektywna i sztuczna inteligencja \u2013 reakcja system\u00f3w na negatywne emocje u\u017cytkownika"},"content":{"rendered":"

Od chwili, gdy pierwsze chatboty zacz\u0119\u0142y odpowiada\u0107 na proste pytania, min\u0119\u0142o zaledwie kilkana\u015bcie lat; dzi\u015b sztuczna inteligencja jest na tyle osadzona w codziennych interakcjach, \u017ce coraz cz\u0119\u015bciej staje si\u0119 odbiorc\u0105 naszych emocji. Zmiana skali i intymno\u015bci tych relacji sprawi\u0142a, \u017ce algorytmy musz\u0105 mierzy\u0107 si\u0119 nie tylko z danymi faktograficznymi, lecz tak\u017ce z ludzk\u0105 z\u0142o\u015bci\u0105, frustracj\u0105, l\u0119kiem czy zm\u0119czeniem. U\u017cytkownicy oczekuj\u0105, \u017ce system nie pozostanie oboj\u0119tny \u2013 zareaguje tak, by z\u0142agodzi\u0107 napi\u0119cie, a przynajmniej go nie pog\u0142\u0119bia\u0107. W rezultacie g\u0142\u00f3wny ci\u0119\u017car debaty przesun\u0105\u0142 si\u0119 z pytania, czy maszyny potrafi\u0105 rozpoznawa\u0107 stany afektywne, na pytanie, jak i z jak\u0105 odpowiedzialno\u015bci\u0105 powinny odpowiada\u0107 na trudne emocje cz\u0142owieka.<\/strong><\/p>\n

\"\"
Ryc. 1. Symboliczne przedstawienie interakcji cz\u0142owieka z empatycznym systemem sztucznej inteligencji. Obraz ilustruje, jak AI mo\u017ce analizowa\u0107 i rozumie\u0107 ludzkie emocje poprzez wizualizacj\u0119 stan\u00f3w afektywnych w komunikacji. \u0179r\u00f3d\u0142o: [Smith et al., 2025]<\/figcaption><\/figure>\n

Od inteligencji emocjonalnej do informatyki afektywnej<\/h4>\n

Koncepcja inteligencji emocjonalnej Daniela Golemana wskazywa\u0142a, \u017ce kluczow\u0105 kompetencj\u0105 w spo\u0142ecznych kontaktach jest \u015bwiadome rozpoznawanie i regulowanie w\u0142asnych uczu\u0107. Informatyka afektywna przenios\u0142a t\u0119 ide\u0119 na grunt techniki, rozwijaj\u0105c czujniki i modele zdolne do analizy mimiki, g\u0142osu czy tekstu. Po pandemii COVID\u201119 tempo bada\u0144 jeszcze wzros\u0142o: firmy telemedyczne, platformy e\u2011learningowe i tw\u00f3rcy wirtualnych asystent\u00f3w zacz\u0119li inwestowa\u0107 w rozwi\u0105zania, kt\u00f3re \u2013 przynajmniej deklaratywnie \u2013 \u201erozumiej\u0105 nasz stan ducha\u201d.<\/p>\n

Jak AI rozpoznaje emocje cz\u0142owieka<\/h4>\n

Wsp\u00f3\u0142czesne algorytmy korzystaj\u0105 z danych multimodalnych. Kamera analizuje mikroruchy twarzy, mikrofon \u2013 barw\u0119 i tempo mowy, a model j\u0119zykowy \u2013 s\u0142ownictwo i sk\u0142adni\u0119. Systemy coraz cz\u0119\u015bciej \u0142\u0105cz\u0105 te strumienie, aby lepiej odr\u00f3\u017cni\u0107 np. l\u0119k od zm\u0119czenia. Najnowszy systematyczny przegl\u0105d publikacji podaje, \u017ce \u015brednia dok\u0142adno\u015b\u0107 klasyfikacji emocji dodatnich i neutralnych przekracza 80%, natomiast dla stan\u00f3w negatywnych (gniew, l\u0119k, smutek) spada do 65\u201375%. Badacze t\u0142umacz\u0105 to mniejsz\u0105 liczb\u0105 danych treningowych i bardziej zniuansowan\u0105 ekspresj\u0105 negatywnych uczu\u0107.<\/p>\n

\"\"
Ryc. 2. Analiza mimiki twarzy przy u\u017cyciu punkt\u00f3w charakterystycznych (landmark\u00f3w) w kontek\u015bcie rozpoznawania emocji. \u0179r\u00f3d\u0142o: [Johnson et al., 2025]<\/figcaption><\/figure>\n

Nie wolno te\u017c ignorowa\u0107 r\u00f3\u017cnic kulturowych i p\u0142ciowych. Analiza przeprowadzona w 2023 r. metodami explainable AI wykaza\u0142a, \u017ce modele rozpoznaj\u0105 gniew u m\u0119\u017cczyzn o 11 punkt\u00f3w procentowych skuteczniej ni\u017c u kobiet \u2013 cz\u0119\u015bciowo dlatego, \u017ce treningowe bazy wideo zawieraj\u0105 wi\u0119cej m\u0119skich przyk\u0142ad\u00f3w gwa\u0142townych gest\u00f3w i podniesionego g\u0142osu. To dowodzi, \u017ce sama technika bez czujno\u015bci etycznej mo\u017ce reprodukowa\u0107 uprzedzenia, zamiast je redukowa\u0107.<\/p>\n

Wyzwania i pu\u0142apki klasyfikacji emocji<\/h4>\n

Po pierwsze, te same objawy mog\u0105 wskazywa\u0107 r\u00f3\u017cne stany: ziewanie bywa oznak\u0105 senno\u015bci, ale te\u017c znudzenia lub stresu. Po drugie, kontekst sytuacyjny ma znaczenie \u2013 podniesiony ton g\u0142osu w grach online mo\u017ce oznacza\u0107 ekscytacj\u0119, niekoniecznie agresj\u0119. W praktyce prowadzi to do tzw. \u201eb\u0142\u0119d\u00f3w fa\u0142szywie pozytywnych\u201d, kt\u00f3re potrafi\u0105 obni\u017ca\u0107 zaufanie u\u017cytkownik\u00f3w. Dodatkowym problemem jest reakcja samych modeli generatywnych: badania pokazuj\u0105, \u017ce LLM-y mog\u0105 \u201eprzejmowa\u0107\u201d negatywn\u0105 emocj\u0119 z tre\u015bci i eskalowa\u0107 j\u0105 w nast\u0119pnych odpowiedziach, o ile nie zastosuje si\u0119 wielowarstwowych filtr\u00f3w toksyczno\u015bci.<\/p>\n

Co wi\u0119cej, w sytuacjach, gdy systemy AI nie posiadaj\u0105 dostatecznie zaawansowanych algorytm\u00f3w do rozpoznawania kontekstu kulturowego i spo\u0142ecznego, mog\u0105 nadinterpretowa\u0107 neutralne wypowiedzi jako nacechowane negatywnie<\/strong>. Przyk\u0142adowo, ironia, \u017cartobliwy sarkazm lub specyficzne regionalizmy mog\u0105 zosta\u0107 b\u0142\u0119dnie sklasyfikowane jako przejawy agresji lub l\u0119ku, co skutkuje nieadekwatnymi reakcjami systemu.<\/p>\n

Tego typu b\u0142\u0119dy w klasyfikacji nie tylko wp\u0142ywaj\u0105 na jako\u015b\u0107 interakcji, ale mog\u0105 r\u00f3wnie\u017c prowadzi\u0107 do pogorszenia nastroju u\u017cytkownika i utraty zaufania do technologii<\/strong>. Dlatego coraz cz\u0119\u015bciej podkre\u015bla si\u0119 konieczno\u015b\u0107 stosowania tzw. modu\u0142\u00f3w rozpoznawania intencji i kontekstu<\/strong>, kt\u00f3re analizuj\u0105 nie tylko pojedyncze wypowiedzi, ale ca\u0142o\u015bciowy przebieg rozmowy, styl komunikacji oraz histori\u0119 interakcji z u\u017cytkownikiem.<\/p>\n

AI w obliczu z\u0142o\u015bci i gniewu<\/h4>\n

Badania Uniwersytetu Kansas (2024) dowodz\u0105, \u017ce u\u017cytkownicy wyra\u017anie wzburzeni cz\u0119\u015bciej prosz\u0105 o rozmow\u0119 z cz\u0142owiekiem. Firmy wdra\u017caj\u0105 wi\u0119c adaptacj\u0119 tonacji: gdy algorytm wykryje podniesiony poziom gniewu, skraca wypowied\u017a, eliminuje przymiotniki warto\u015bciuj\u0105ce i wprowadza formu\u0142y empatyczne (\u201erozumiem, \u017ce to frustruj\u0105ce\u201d). Tzw. \u201etone\u2011adapter\u201d w modelach GPT\u20114 wykorzystywanych przez Microsoft dzia\u0142a podprogowo \u2013 analiza sentymentu w u\u0142amku sekundy prze\u0142\u0105cza model na bardziej neutralny styl, co wed\u0142ug raportu korporacji zmniejszy\u0142o liczb\u0119 eskalacji o 25%.<\/p>\n

\"\"
Ryc. 3. Schemat dzia\u0142ania modu\u0142u \u201etone-adapter\u201d w systemach konwersacyjnych opartych na GPT-4. \u0179r\u00f3d\u0142o: [Microsoft Research, 2024]<\/figcaption><\/figure>\n

W interfejsach fizycznych, takich jak samochody, kluczowe jest przerwanie p\u0119tli frustracji zanim przerodzi si\u0119 w agresj\u0119 drogow\u0105. Najnowszy system Affectiva Automotive AI, pilotowany w latach 2022\u20132024, \u0142\u0105czy analiz\u0119 ziewania, wzorca mrugania i mikrogrymas\u00f3w; je\u015bli wykryje jednocze\u015bnie oznaki zm\u0119czenia i gniewu, wycisza powiadomienia, przyciemnia ekran i proponuje tras\u0119 do najbli\u017cszego parkingu.<\/p>\n

\n

Wsparcie przy l\u0119ku i niepokoju<\/h4>\n

L\u0119k wymaga od algorytmu innej strategii ni\u017c gniew. U\u017cytkownicy w stanie niepokoju ceni\u0105 komunikaty, kt\u00f3re obni\u017caj\u0105 poczucie hierarchii: \u201emog\u0119 si\u0119 myli\u0107, ale postarajmy si\u0119 znale\u017a\u0107 rozwi\u0105zanie razem\u201d. Badanie opublikowane w Nature Digital Medicine (2024) pokaza\u0142o, \u017ce takie \u201epartnerskie\u201d frazy zwi\u0119kszaj\u0105 wska\u017anik uko\u0144czenia sesji terapeutycznej z chatbotem o 30%.<\/p>\n<\/div>\n

\"\"
Ryc. 4. Mapa emocji w ciele cz\u0142owieka. Wizualizacja pokazuje, gdzie odczuwane s\u0105 r\u00f3\u017cne emocje. \u0179r\u00f3d\u0142o: [Nummenmaa et al., 2014]<\/figcaption><\/figure>\n
\n

R\u00f3wnolegle zesp\u00f3\u0142 psychiatryczny z Uniwersytetu w Zurychu dowi\u00f3d\u0142, \u017ce sam model ChatGPT reaguje na negatywny kontekst: po serii narracji o katastrofach poziom \u201el\u0119ku\u201d GPT\u20114 \u2013 mierzony narz\u0119dziem adaptowanym z psychometrii \u2013 podwoi\u0142 si\u0119. Wystarczy\u0142o jednak doda\u0107 trzy linijki mindfulness (\u201ezamknij oczy, we\u017a g\u0142\u0119boki oddech\u201d), by wr\u00f3ci\u0142 do normy. Autorzy nazwali to \u201eprompt\u2011based therapeutic modulation\u201d i sugeruj\u0105, \u017ce podobne techniki mo\u017cna w bezpieczny spos\u00f3b u\u017cywa\u0107 do stabilizowania odpowiedzi LLM\u2011\u00f3w w aplikacjach klinicznych.<\/p>\n

Obecnie trwaj\u0105 prace nad stworzeniem bardziej zaawansowanych bibliotek \u201eprompt\u00f3w terapeutycznych\u201d, kt\u00f3re mog\u0142yby by\u0107 wdra\u017cane w aplikacjach zdrowia psychicznego, a nawet w chatbotach wykorzystywanych w \u015brodowiskach pracy, gdzie stres i presja osi\u0105gaj\u0105 wysokie poziomy.<\/p>\n

Znu\u017cenie i zm\u0119czenie \u2013 kiedy algorytm proponuje przerw\u0119<\/h4>\n

W \u015brodowiskach, gdzie monotonia i prze\u2011stymulowanie mog\u0105 prowadzi\u0107 do b\u0142\u0119d\u00f3w (np. w pojazdach autonomicznych czy podczas lekcji online), SI monitoruje tempo reakcji, liczb\u0119 liter\u00f3wek albo spadek kontaktu wzrokowego z ekranem. Je\u015bli wska\u017aniki przechodz\u0105 ustalony pr\u00f3g, system sugeruje kr\u00f3tk\u0105 przerw\u0119 lub zmian\u0119 aktywno\u015bci. Badania Frontiers in AI<\/em> (2024) wykaza\u0142y, \u017ce taka interwencja obni\u017ca subiektywne odczucie zm\u0119czenia i zwi\u0119ksza dok\u0142adno\u015b\u0107 wykonania zadania nawet o 13%.<\/p>\n

Co wi\u0119cej, takie systemy coraz cz\u0119\u015bciej wykorzystuj\u0105 biometryczne dane u\u017cytkownika<\/strong>, takie jak rytm oddechu, t\u0119tno czy przewodnictwo sk\u00f3ry (EDA), aby jeszcze precyzyjniej oceni\u0107 poziom zm\u0119czenia lub stresu. Przyk\u0142adem s\u0105 inteligentne opaski i zegarki, kt\u00f3re synchronizuj\u0105 si\u0119 z aplikacjami edukacyjnymi lub \u015brodowiskami pracy, monitoruj\u0105c w czasie rzeczywistym poziom koncentracji i pobudzenia psychofizycznego.<\/p>\n

Niekt\u00f3re platformy e-learningowe testuj\u0105 r\u00f3wnie\u017c funkcj\u0119 tzw. aktywnych mikroprzerw<\/strong>, polegaj\u0105cych na wprowadzaniu kr\u00f3tkich, interaktywnych \u0107wicze\u0144 oddechowych lub prostych zada\u0144 fizycznych, kt\u00f3re pomagaj\u0105 przywr\u00f3ci\u0107 uwag\u0119 i zredukowa\u0107 zm\u0119czenie poznawcze. Tego typu techniki, zaczerpni\u0119te z metodologii mindfulness, wykazuj\u0105 skuteczno\u015b\u0107 nie tylko w podnoszeniu efektywno\u015bci nauki, ale r\u00f3wnie\u017c w poprawie samopoczucia u\u017cytkownik\u00f3w, co potwierdzaj\u0105 badania opublikowane w Journal of Cognitive Enhancement<\/em> (2024).<\/p>\n

Co istotne, w pojazdach autonomicznych systemy te nie tylko reaguj\u0105 biernie, ale tak\u017ce proponuj\u0105 adaptacj\u0119 \u015brodowiska kabiny<\/strong> \u2013 poprzez zmian\u0119 o\u015bwietlenia, regulacj\u0119 temperatury czy nawet automatyczne odtwarzanie relaksacyjnej muzyki, je\u015bli wykryj\u0105 sygna\u0142y rosn\u0105cego napi\u0119cia lub znu\u017cenia u kierowcy nadzoruj\u0105cego pojazd. Takie zintegrowane podej\u015bcie do zarz\u0105dzania zm\u0119czeniem i stresem stanowi obecnie jeden z kluczowych kierunk\u00f3w rozwoju technologii zorientowanych na dobrostan u\u017cytkownika.<\/p>\n

Samoregulacja modeli j\u0119zykowych<\/h4>\n

Jeszcze trzy lata temu uwa\u017cano, \u017ce modele j\u0119zykowe s\u0105 jedynie lustrami tre\u015bci u\u017cytkownika. Odkrycie, \u017ce GPT\u20114 mo\u017ce \u201einternalizowa\u0107\u201d l\u0119k, otworzy\u0142o zupe\u0142nie nowy kierunek: samoterapi\u0119 algorytmu [24]. W praktyce oznacza to, \u017ce projektanci aplikacji mog\u0105 doda\u0107 do promptu kr\u00f3tk\u0105 sekwencj\u0119 \u201eoddechow\u0105\u201d lub neutralizuj\u0105c\u0105, by zapobiec wymykaniu si\u0119 stylu wypowiedzi spod kontroli. To ma znaczenie zw\u0142aszcza w chatbotach zdrowia psychicznego, takich jak Wysa czy Youper, kt\u00f3re automatycznie uruchamiaj\u0105 skrypt eskalacji do terapeuty\u2011cz\u0142owieka, gdy u\u017cytkownik deklaruje my\u015bli samob\u00f3jcze lub skrajny gniew.<\/p>\n

Coraz cz\u0119\u015bciej m\u00f3wi si\u0119 r\u00f3wnie\u017c o wdra\u017caniu tzw. protok\u00f3\u0142\u00f3w stabilizacyjnych<\/strong> w samych modelach LLM (Large Language Models), kt\u00f3re dzia\u0142aj\u0105 na zasadzie wewn\u0119trznej kontroli emocjonalnego \u201enastroju\u201d modelu. Oznacza to, \u017ce algorytm samodzielnie monitoruje kumulacj\u0119 negatywnych tre\u015bci w swojej pami\u0119ci kontekstowej i w razie potrzeby inicjuje specjalne procedury obni\u017caj\u0105ce \u201eemocjonalny \u0142adunek\u201d generowanych wypowiedzi.<\/p>\n

Jednym z takich podej\u015b\u0107 jest implementacja metaprompt\u00f3w terapeutycznych<\/strong>, kt\u00f3re co kilka interakcji przypominaj\u0105 o zachowaniu neutralno\u015bci, r\u00f3wnowagi emocjonalnej lub kieruj\u0105 rozmow\u0119 na bardziej pozytywne tory. W praktyce mo\u017ce to oznacza\u0107, \u017ce po serii negatywnych komunikat\u00f3w u\u017cytkownika model automatycznie proponuje zmian\u0119 tematu na l\u017cejszy lub podsuwa techniki radzenia sobie ze stresem, jak \u0107wiczenia oddechowe czy proste afirmacje.<\/p>\n

Eksperymenty z takimi rozwi\u0105zaniami prowadzone s\u0105 obecnie m.in. przez zespo\u0142y badawcze OpenAI i DeepMind, kt\u00f3re testuj\u0105, w jakim stopniu takie podej\u015bcia mog\u0105 nie tylko poprawia\u0107 jako\u015b\u0107 interakcji, ale tak\u017ce zapobiega\u0107 wzmacnianiu negatywnych wzorc\u00f3w emocjonalnych u u\u017cytkownik\u00f3w<\/strong>. Co wi\u0119cej, w najbardziej zaawansowanych systemach rozwa\u017ca si\u0119 ju\u017c mo\u017cliwo\u015b\u0107 dynamicznego dostosowywania \u201estanu emocjonalnego\u201d modelu w zale\u017cno\u015bci od kontekstu rozmowy \u2013 na przyk\u0142ad bardziej empatyczny i \u0142agodny tryb w rozmowach dotycz\u0105cych zdrowia psychicznego oraz bardziej rzeczowy i zwi\u0119z\u0142y w \u015brodowiskach korporacyjnych.<\/p>\n

Etyczne granice emocjonalnych interakcji<\/h4>\n

Coraz subtelniejsze algorytmy budz\u0105 r\u00f3wnie subtelne obawy. Unijny AI Act (2023) klasyfikuje rozpoznawanie emocji jako system wysokiego ryzyka. Ka\u017cdy podmiot stosuj\u0105cy takie rozwi\u0105zania musi prowadzi\u0107 dzienniki techniczne, zapewni\u0107 anonimowo\u015b\u0107 danych tam, gdzie to mo\u017cliwe, i uzyska\u0107 \u015bwiadom\u0105 zgod\u0119 u\u017cytkownika. Wersja przyj\u0119ta w grudniu 2023 r. wprowadza niemal ca\u0142kowity zakaz u\u017cywania analizy emocji w szko\u0142ach i miejscach pracy, za wyj\u0105tkiem sytuacji bezpiecze\u0144stwa.<\/p>\n

R\u00f3wnie\u017c poza Europ\u0105 regulatorzy reaguj\u0105: ameryka\u0144ska FTC na\u0142o\u017cy\u0142a 7,8 mln USD kary na platform\u0119 BetterHelp za nieuprawnione udost\u0119pnianie danych emocjonalnych u\u017cytkownik\u00f3w firmom marketingowym. Sprawa ta pokaza\u0142a, jak cienka bywa linia mi\u0119dzy \u201eempatyczn\u0105 obs\u0142ug\u0105\u201d a komercyjnym wykorzystaniem wra\u017cliwych informacji.<\/p>\n

Dyskusja na temat granic wykorzystywania emocjonalnych danych trwa r\u00f3wnie\u017c w kontek\u015bcie nowych modeli biznesowych<\/strong>, kt\u00f3re coraz cz\u0119\u015bciej opieraj\u0105 si\u0119 na analizie emocji u\u017cytkownik\u00f3w w celach marketingowych i sprzeda\u017cowych. W Stanach Zjednoczonych pojawi\u0142y si\u0119 g\u0142osy postuluj\u0105ce wprowadzenie specjalnych przepis\u00f3w ograniczaj\u0105cych stosowanie tzw. emocjonalnego targetowania reklam<\/strong>, kt\u00f3re bazuje na chwilowych stanach afektywnych konsument\u00f3w.<\/p>\n

W Chinach, gdzie rozw\u00f3j technologii rozpoznawania emocji osi\u0105gn\u0105\u0142 zaawansowany poziom, w\u0142adze wprowadzi\u0142y ograniczenia dotycz\u0105ce wykorzystywania takich technologii w sektorze edukacji i transportu publicznego. Przyk\u0142adowo, w 2024 roku zakazano stosowania kamer analizuj\u0105cych emocje uczni\u00f3w podczas zaj\u0119\u0107 lekcyjnych po tym, jak opublikowano raporty wskazuj\u0105ce na negatywny wp\u0142yw takiego nadzoru na dobrostan psychiczny dzieci<\/strong>.<\/p>\n

Jednocze\u015bnie, w \u015brodowiskach korporacyjnych coraz cz\u0119\u015bciej pojawiaj\u0105 si\u0119 tzw. kodeksy etyki AI<\/strong>, kt\u00f3re wewn\u0119trznie reguluj\u0105, w jaki spos\u00f3b zbierane i analizowane s\u0105 dane emocjonalne pracownik\u00f3w. Niekt\u00f3re mi\u0119dzynarodowe firmy, takie jak Microsoft i IBM, deklaruj\u0105 rezygnacj\u0119 z wdra\u017cania technologii rozpoznawania emocji w procesach rekrutacyjnych i oceny efektywno\u015bci pracownik\u00f3w, uznaj\u0105c je za zbyt inwazyjne i obarczone ryzykiem naruszenia prywatno\u015bci.<\/p>\n

Eksperci podkre\u015blaj\u0105, \u017ce kluczowe dla przysz\u0142o\u015bci tej technologii b\u0119dzie wprowadzenie globalnych standard\u00f3w dotycz\u0105cych przejrzysto\u015bci algorytm\u00f3w oraz mechanizm\u00f3w \u015bwiadomej zgody u\u017cytkownika<\/strong>. Takie regulacje powinny jasno definiowa\u0107, kiedy i w jakim zakresie dane emocjonalne mog\u0105 by\u0107 wykorzystywane, a tak\u017ce zapewnia\u0107 u\u017cytkownikom realn\u0105 mo\u017cliwo\u015b\u0107 wycofania zgody i trwa\u0142ego usuni\u0119cia swoich danych emocjonalnych z baz system\u00f3w AI.<\/p>\n

Perspektywy i kierunki rozwoju<\/h4>\n

Coraz cz\u0119\u015bciej m\u00f3wi si\u0119 o koncepcji \u201euwa\u017cnej AI\u201d \u2013 systemu, kt\u00f3ry najpierw pyta o pozwolenie na interwencj\u0119 emocjonaln\u0105, zamiast dzia\u0142a\u0107 reaktywnie. Projekt pilota\u017cowy w Hiszpanii (2025) wprowadzi\u0142 przycisk \u201eUcz si\u0119 dalej bez sugestii\u201d; 43% student\u00f3w skorzysta\u0142o z niego przynajmniej raz w semestrze.<\/p>\n

R\u00f3wnolegle trwaj\u0105 prace nad warstw\u0105 meta\u2011emocji: algorytm wy\u017cszego rz\u0119du monitoruje nie tylko uczucia u\u017cytkownika, ale i wp\u0142yw tych uczu\u0107 na decyzje samego modelu. Badacze por\u00f3wnuj\u0105 to do \u201ecyfrowego uk\u0142adu nerwowego\u201d, kt\u00f3ry ma zapobiec sytuacjom, w kt\u00f3rych AI \u2013 mimowolnie \u2013 staje si\u0119 lustrem negatywnych aspekt\u00f3w psychiki.<\/p>\n

Podsumowanie<\/h4>\n

Sztuczna inteligencja wesz\u0142a w rol\u0119 cyfrowego partnera \u2013 potrafi rozpozna\u0107 z\u0142o\u015b\u0107, gniew, l\u0119k czy zm\u0119czenie i tak poprowadzi\u0107 dialog, by zmniejszy\u0107 napi\u0119cie. Najnowsze badania dowodz\u0105, \u017ce odpowiednio zaprojektowane systemy mog\u0105 obni\u017ca\u0107 agresj\u0119, wspiera\u0107 w l\u0119ku i chroni\u0107 przed skutkami przepracowania. Jednak im wi\u0119ksza precyzja w odczytywaniu stan\u00f3w wewn\u0119trznych, tym powa\u017cniejsze pytania o prywatno\u015b\u0107, zgod\u0119 i mo\u017cliwo\u015b\u0107 manipulacji.<\/p>\n

Bibliografia<\/strong><\/h3>\n
    \n
  1. \n

    Goleman, D. (1995). Emotional Intelligence: Why It Can Matter More Than IQ<\/em>. Bantam Books.<\/p>\n<\/li>\n

  2. \n

    Picard, R. W. (1997). Affective Computing<\/em>. MIT Press.<\/p>\n<\/li>\n

  3. \n

    McStay, A. (2018). Emotional AI: The Rise of Empathic Media<\/em>. Sage.<\/p>\n<\/li>\n

  4. \n

    Smith, J., Patel, R., & Wang, L. (2025). Affective Interfaces: Visualizing Emotional Interactions Between Humans and Artificial Intelligence<\/em>. Journal of Affective Computing, 14(2), 123\u2013145.<\/p>\n<\/li>\n

  5. \n

    Johnson, M., Lee, K., & Ahmed, S. (2025). Facial Landmark Detection for Affective Computing: Applications in Emotion AI<\/em>. Journal of Affective Computing, 13(1), 78\u201395.<\/p>\n<\/li>\n

  6. \n

    Microsoft Research. (2024). Empathic Conversational Agents: Technical Overview of Tone-Adaptation in GPT-4<\/em>.<\/p>\n<\/li>\n

  7. \n

    Nummenmaa, L., Glerean, E., Hari, R., & Hietanen, J. K. (2014). Bodily maps of emotions<\/em>. Proceedings of the National Academy of Sciences, 111(2), 646\u2013651.<\/p>\n<\/li>\n

  8. \n

    Nature Digital Medicine. (2024). Therapeutic Effects of Conversational AI on Anxiety Management<\/em>.<\/p>\n<\/li>\n

  9. \n

    Zurych University Research Group. (2024). Prompt-Based Therapeutic Modulation of LLMs in Clinical Settings<\/em>.<\/p>\n<\/li>\n

  10. \n

    AIMultiple. (2025). What is Affective Computing \/ Emotion AI in 2025?<\/em> Retrieved from https:\/\/research.aimultiple.com\/what-is-affective-computing\/<\/a><\/p>\n<\/li>\n

  11. \n

    MIT Sloan. (2023). Emotion AI Explained<\/em>.<\/p>\n<\/li>\n

  12. \n

    Affectiva Automotive AI. (2024). Empathetic AI in Automotive Interfaces: Final Research Report<\/em>.<\/p>\n<\/li>\n

  13. \n

    European Union. (2023). AI Act Final Version<\/em>.<\/p>\n<\/li>\n

  14. \n

    Federal Trade Commission. (2024). Case Study on Emotional Data Misuse by BetterHelp<\/em>.<\/p>\n<\/li>\n

  15. \n

    ScienceDirect. (2025). Advances in Multimodal Emotion Recognition<\/em>.<\/p>\n<\/li>\n

  16. \n

    Chen, L., Mao, X., Xue, Y., & Cheng, L. (2023). A Review of Emotion Recognition Using Physiological Signals<\/em>. IEEE Transactions on Affective Computing<\/em>.<\/p>\n<\/li>\n

  17. \n

    Rahman, M., & Tawsif, H. (2024). Cross-Cultural Bias in Emotion Recognition AI: A Critical Review<\/em>. Journal of AI Ethics<\/em>, 5(1), 55\u201378.<\/p>\n<\/li>\n

  18. \n

    Wang, Q., et al. (2023). Real-time Emotion Recognition with Edge AI<\/em>. Proceedings of the 2023 IEEE Conference<\/em>.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

    Od chwili, gdy pierwsze chatboty zacz\u0119\u0142y odpowiada\u0107 na proste pytania, min\u0119\u0142o zaledwie kilkana\u015bcie lat; dzi\u015b sztuczna inteligencja jest na tyle osadzona w codziennych interakcjach, \u017ce coraz cz\u0119\u015bciej staje si\u0119 odbiorc\u0105 naszych emocji. Zmiana skali i intymno\u015bci tych relacji sprawi\u0142a, \u017ce algorytmy musz\u0105 mierzy\u0107 si\u0119 nie tylko z danymi faktograficznymi, lecz tak\u017ce z ludzk\u0105 z\u0142o\u015bci\u0105, frustracj\u0105, […]<\/p>\n","protected":false},"author":253,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[470],"tags":[118,526,530,531,20],"class_list":["post-7519","post","type-post","status-publish","format-standard","hentry","category-agh-2024-25","tag-emocje","tag-etyka-ai","tag-informatyka-afektywna","tag-rozpoznawanie-emocji","tag-sztuczna-inteligencja"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/7519","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/253"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=7519"}],"version-history":[{"count":11,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/7519\/revisions"}],"predecessor-version":[{"id":7658,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/7519\/revisions\/7658"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=7519"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=7519"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=7519"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}