{"id":9672,"date":"2026-06-15T18:53:25","date_gmt":"2026-06-15T18:53:25","guid":{"rendered":"https:\/\/architeles.eu\/ethics\/?p=9672"},"modified":"2026-06-15T18:53:25","modified_gmt":"2026-06-15T18:53:25","slug":"od-empatii-maszyn-do-ekonomii-uwagi-granica-miedzy-personalizacja-a-manipulacja-w-systemach-ai","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2026\/06\/15\/od-empatii-maszyn-do-ekonomii-uwagi-granica-miedzy-personalizacja-a-manipulacja-w-systemach-ai\/","title":{"rendered":"Od empatii maszyn do ekonomii uwagi — granica mi\u0119dzy personalizacj\u0105 a manipulacj\u0105 w systemach AI"},"content":{"rendered":"

Wyobra\u017amy sobie system sztucznej inteligencji, kt\u00f3ry potrafi rozpozna\u0107, \u017ce jeste\u015bmy zm\u0119czeni, sfrustrowani lub zestresowani. Czy powinien dostosowa\u0107 do tego spos\u00f3b komunikacji? W wielu sytuacjach odpowied\u017a wydaje si\u0119 oczywista — spersonalizowana pomoc mo\u017ce by\u0107 bardziej skuteczna i przyjazna dla u\u017cytkownika. Problem pojawia si\u0119 jednak wtedy, gdy ta sama wiedza o emocjach zostaje wykorzystana nie po to, aby pom\u00f3c cz\u0142owiekowi osi\u0105gn\u0105\u0107 jego cele, lecz aby zwi\u0119kszy\u0107 zaanga\u017cowanie, sprzeda\u0107 produkt lub wp\u0142yn\u0105\u0107 na decyzj\u0119. Wraz z rozwojem generatywnej sztucznej inteligencji i system\u00f3w rozpoznawania emocji granica mi\u0119dzy pomoc\u0105 a manipulacj\u0105 staje si\u0119 coraz trudniejsza do wyznaczenia.<\/strong><\/p>\n

<\/p>\n

Maszyna, kt\u00f3ra „rozpoznaje” emocje<\/h1>\n

W debacie publicznej mo\u017cna spotka\u0107 si\u0119 ze sformu\u0142owaniem, \u017ce sztuczna inteligencja \u201eczyta emocje”. Jest to uproszczenie, kt\u00f3re jednak nie jest ca\u0142kowicie pozbawione podstaw. Systemy AI nie maj\u0105 bezpo\u015bredniego dost\u0119pu do subiektywnych prze\u017cy\u0107 cz\u0142owieka — zamiast tego analizuj\u0105 sygna\u0142y, na podstawie kt\u00f3rych przewiduj\u0105 prawdopodobie\u0144stwo wyst\u0119powania okre\u015blonego stanu emocjonalnego. Ta pozornie drobna r\u00f3\u017cnica jest w rzeczywisto\u015bci istotna.<\/p>\n

Dziedzina zajmuj\u0105ca si\u0119 tworzeniem system\u00f3w zdolnych do rozpoznawania i reagowania na ludzkie emocje nosi nazw\u0119 affective computing<\/em><\/a>. Termin ten spopularyzowa\u0142a Rosalind Picard w wydanej w 1997 roku ksi\u0105\u017cce o tym samym tytule (Picard, 1997). Przez dekady by\u0142a to nisza akademicka; dzi\u015b staje si\u0119 przemys\u0142em wartym miliardy dolar\u00f3w. Wsp\u00f3\u0142czesne systemy mog\u0105 analizowa\u0107 dob\u00f3r s\u0142\u00f3w, d\u0142ugo\u015b\u0107 zda\u0144 i interpunkcj\u0119 w tek\u015bcie, tempo mowy, barw\u0119 i wysoko\u015b\u0107 g\u0142osu, d\u0142ugo\u015b\u0107 pauz, mimik\u0119 twarzy rejestrowan\u0105 kamer\u0105, ruchy oczu, dane z urz\u0105dze\u0144 typu wearable technology<\/em>, a nawet wzorce interakcji z interfejsem takie jak pr\u0119dko\u015b\u0107 przewijania czy si\u0142a nacisku na ekran.<\/p>\n

Tu jednak zaczyna si\u0119 pierwszy powa\u017cny problem, i to nie techniczny<\/em>, lecz epistemologiczny<\/em>. Psycholo\u017cka Lisa Feldman Barrett w swojej ksi\u0105\u017cce How Emotions Are Made<\/em> (2017) argumentuje, \u017ce emocje nie s\u0105 uniwersalnymi stanami biologicznymi mo\u017cliwymi do odczytania z twarzy czy g\u0142osu — s\u0105 w znacznej mierze konstruowane przez kontekst kulturowy, indywidualne do\u015bwiadczenia i j\u0119zyk (Barrett, 2017). Innymi s\u0142owy: to samo zmarszczenie brwi mo\u017ce oznacza\u0107 skupienie, zdenerwowanie, b\u00f3l fizyczny lub po prostu efekt zbyt jasnego s\u0142o\u0144ca. System AI, kt\u00f3ry \u201ewidzi” zmarszczenie brwi i klasyfikuje je jako gniew, nie rozpoznaje emocji — tworzy interpretacj\u0119 opart\u0105 na statystycznych korelacjach wyuczonych na danych treningowych.<\/p>\n

Powa\u017cno\u015b\u0107 tego problemu potwierdzaj\u0105 dane empiryczne. Instytut AI Now<\/em> w 2018 roku wskaza\u0142, \u017ce komercyjne systemy rozpoznawania emocji maj\u0105 powa\u017cne luki metodologiczne i s\u0142ab\u0105 trafno\u015b\u0107 (AI Now Institute, 2018). Badania nad stronniczo\u015bci\u0105 algorytm\u00f3w twarzowych pokazuj\u0105 z kolei, \u017ce systemy analizy ekspresji mog\u0105 wykazywa\u0107 systematyczne r\u00f3\u017cnice w dok\u0142adno\u015bci w zale\u017cno\u015bci od p\u0142ci i koloru sk\u00f3ry osoby badanej, co oznacza, \u017ce model \u201eemocji” jest de facto modelem emocji pewnego konkretnego, demograficznie ograniczonego wycinka ludzko\u015bci (Buolamwini & Gebru, 2018; Domnich & Anbarjafari, 2021). System nie rozpoznaje Twoich emocji, a bardziej rozpoznaje emocje kogo\u015b, kto jest do Ciebie podobny w spos\u00f3b, jaki uzna za istotny.<\/p>\n

Od personalizacji do manipulacji — gdzie przebiega granica?<\/h1>\n

Samo rozpoznawanie emocji nie jest moralnie dobre, ani te\u017c nie jest z g\u00f3ry godne pot\u0119pienia. Twierdzimy, \u017ce wiele zastosowa\u0144 tej technologii ma charakter autentycznie pomocowy: system edukacyjny, kt\u00f3ry zauwa\u017ca frustracj\u0119 ucznia i proponuje dodatkowe obja\u015bnienie; asystent g\u0142osowy, kt\u00f3ry w odpowiedzi na oznaki stresu upraszcza komunikaty; aplikacja wspieraj\u0105ca zdrowie psychiczne, kt\u00f3ra wykrywa pogorszenie nastroju i sugeruje kontakt ze specjalist\u0105. W tych przypadkach wiedza o emocjach s\u0142u\u017cy temu, u kogo si\u0119 przejawiaj\u0105 i kogo dotycz\u0105 — u\u017cytkownikowi.<\/p>\n

Problem zaczyna si\u0119 wtedy, gdy ta sama wiedza zostaje skierowana ku innym celom. Badacz B.J. Fogg, tw\u00f3rca poj\u0119cia captology<\/em><\/a> (nauki o komputerach jako technologiach perswazji), ju\u017c w 2003 roku pisa\u0142, \u017ce systemy komputerowe zaprojektowane z my\u015bl\u0105 o zmianie postaw i zachowa\u0144 maj\u0105 zar\u00f3wno jasn\u0105, jak i ciemn\u0105 stron\u0119 — i \u017ce granica mi\u0119dzy perswazj\u0105 a manipulacj\u0105 jest cz\u0119sto kwesti\u0105 intencji projektanta, a nie mechanizmu dzia\u0142ania (Fogg, 2003). Dwie dekady p\u00f3\u017aniej, w erze system\u00f3w AI potrafi\u0105cych analizowa\u0107 emocje w czasie rzeczywistym, ta przestroga brzmi jeszcze bardziej aktualnie.<\/p>\n

Pomocne jest tu my\u015blenie o kontinuum obejmuj\u0105cym trzy poziomy. Pomoc<\/em> — kiedy system wspiera u\u017cytkownika w realizacji jego w\u0142asnych cel\u00f3w. Perswazja<\/em> — kiedy pr\u00f3buje sk\u0142oni\u0107 go do okre\u015blonego dzia\u0142ania, ale czyni to transparentnie i pozostawia przestrze\u0144 do \u015bwiadomej decyzji. Manipulacja<\/em> — kiedy wykorzystuje asymetri\u0119 wiedzy lub chwilow\u0105 podatno\u015b\u0107 emocjonaln\u0105, aby osi\u0105gn\u0105\u0107 cel korzystny przede wszystkim dla operatora systemu, przy czym u\u017cytkownik nie jest w stanie dostrzec, \u017ce jest obiektem wp\u0142ywu. Technicznie rzecz bior\u0105c, wszystkie trzy operacje mog\u0105 opiera\u0107 si\u0119 na identycznych mechanizmach analizy emocji. R\u00f3\u017cnica tkwi wy\u0142\u0105cznie w tym, czyim interesom s\u0142u\u017cy adaptacja.<\/p>\n

Wr\u00f3\u0107my do przyk\u0142adu z pocz\u0105tku tekstu: platforma e-commerce, kt\u00f3ra wykrywa zm\u0119czenie i wy\u015bwietla ofert\u0119 \u201eograniczon\u0105 czasowo” w\u0142a\u015bnie w tym momencie. Jest to klasyczny przypadek, w kt\u00f3rym wiedza o emocjonalnej podatno\u015bci u\u017cytkownika zostaje u\u017cyta jako d\u017awignia wp\u0142ywu. U\u017cytkownik nie wie, \u017ce jest zm\u0119czony w spos\u00f3b \u201ewidoczny” dla systemu. Nie wie, \u017ce w\u0142a\u015bnie dlatego widzi t\u0119 konkretn\u0105 ofert\u0119 w tej konkretnej chwili. Nie mo\u017ce wi\u0119c \u015bwiadomie zdecydowa\u0107, czy chce, \u017ceby jego stan emocjonalny wp\u0142ywa\u0142 na prezentowane mu tre\u015bci. Wydaje nam si\u0119, \u017ce to jest ta asymetria, kt\u00f3ra zmienia perswazj\u0119 w manipulacj\u0119.<\/p>\n

Ekonomia uwagi i emocjonalna optymalizacja<\/h1>\n

Aby zrozumie\u0107 skal\u0119 problemu, trzeba wzi\u0105\u0107 pod uwag\u0119 bod\u017ace, jakie rz\u0105dz\u0105 wsp\u00f3\u0142czesnymi platformami cyfrowymi. Shoshana Zuboff w swojej pracy The Age of Surveillance Capitalism<\/em> opisuje model ekonomiczny, w kt\u00f3rym dane o zachowaniach u\u017cytkownik\u00f3w staj\u0105 si\u0119 surowcem<\/em> do przewidywania i kszta\u0142towania ich przysz\u0142ych dzia\u0142a\u0144 (Zuboff, 2019). Dane emocjonalne s\u0105 w tym modelu szczeg\u00f3lnie cennym zasobem — emocje s\u0105 jednym z najskuteczniejszych predyktor\u00f3w dzia\u0142ania.<\/p>\n

Wa\u017cn\u0105 obserwacj\u0105 jest to, \u017ce w systemach optymalizowanych pod k\u0105tem zaanga\u017cowania i czasu sp\u0119dzonego w aplikacji nie potrzeba koniecznie z\u0142ej woli projektant\u00f3w, \u017ceby emocje sta\u0142y si\u0119 narz\u0119dziem. Wystarczy, \u017ce algorytm nagradzany jest za klikni\u0119cia i czas ogl\u0105dania. Tre\u015bci wywo\u0142uj\u0105ce silne emocje — zw\u0142aszcza gniew, l\u0119k, oburzenie — naturalnie \u201ewygrywaj\u0105” w takiej optymalizacji, bo silne emocje nap\u0119dzaj\u0105 reakcje<\/em>. Algorytm czy model nie \u201echce” wywo\u0142ywa\u0107 negatywnych emocji; po prostu odkrywa, \u017ce to dzia\u0142a, i zaczyna promowa\u0107 takie tre\u015bci. Badania opublikowane w PNAS Nexus (Milli et al., 2025) roku wskazuj\u0105, \u017ce algorytm rekomendacyjny Twittera wzmacnia emocjonalnie na\u0142adowane, stronnicze tre\u015bci w por\u00f3wnaniu z chronologicznym feedem i, co istotne, u\u017cytkownicy pytani o preferencje wybieraj\u0105 inaczej ni\u017c to, co algorytm im serwuje. To nie jest zgodno\u015b\u0107 mi\u0119dzy preferencjami u\u017cytkownika a dzia\u0142aniem systemu — wr\u0119cz przeciwnie — ujawnia si\u0119 tu rozbie\u017cno\u015b\u0107.<\/p>\n

Jednym z najlepszych dowod\u00f3w, \u017ce platformy s\u0105 zdolne do celowej manipulacji emocjonalnej na masow\u0105 skal\u0119, pozostaje eksperyment opisany przez Kramera, Guillory’ego i Hancocka w 2014 roku. W 2012 roku Facebook bez wiedzy swoich u\u017cytkownik\u00f3w zmodyfikowa\u0142 tre\u015bci wy\u015bwietlane w aktualno\u015bciach blisko 700 tysi\u0119cy os\u00f3b: cz\u0119\u015b\u0107 widzia\u0142a mniej pozytywnych post\u00f3w, cz\u0119\u015b\u0107 mniej negatywnych (Kramer et al., 2014). Wyniki wskazywa\u0142y, \u017ce taka ingerencja w informacyjne \u015brodowisko u\u017cytkownika rzeczywi\u015bcie wp\u0142ywa\u0142a na emocjonalne zabarwienie ich w\u0142asnych publikacji. Gdy badanie sta\u0142o si\u0119 publiczne, wywo\u0142a\u0142o burz\u0119. Facebook broni\u0142 si\u0119, powo\u0142uj\u0105c si\u0119 na regulamin, kt\u00f3ry u\u017cytkownicy zaakceptowali przy zak\u0142adaniu konta — jako, rzekomo, wystarczaj\u0105c\u0105 podstaw\u0119 do przeprowadzenia eksperymentu na ich emocjach (WEB3). Redaktor naczelny PNAS opublikowa\u0142 specjaln\u0105 not\u0119 wyra\u017caj\u0105c\u0105 zaniepokojenie zgodno\u015bci\u0105 badania z zasadami \u015bwiadomej zgody (Flick, 2016). Jeden z autor\u00f3w publicznie przeprasza\u0142 za niepok\u00f3j, jaki wywo\u0142a\u0142 artyku\u0142 — ale nie za sam eksperyment.<\/p>\n

Ta sprawa jest wa\u017cna nie tylko jako anegdota sprzed kilkunastu lat. Pokazuje, \u017ce mechanizmy emocjonalnej ingerencji na masow\u0105 skal\u0119 by\u0142y technicznie mo\u017cliwe i realnie stosowane ju\u017c ponad dekad\u0119 temu, przy u\u017cyciu znacznie prostszych narz\u0119dzi ni\u017c te, kt\u00f3rymi dzi\u015b dysponuj\u0105 systemy generatywnej AI.<\/p>\n

A co je\u015bli algorytm si\u0119 myli?<\/h1>\n

W dyskusjach o manipulacji emocjonalnej zwykle zak\u0142ada si\u0119 milcz\u0105co, \u017ce system poprawnie<\/em> rozpoznaje emocje u\u017cytkownika. To za\u0142o\u017cenie jest jednak w\u0105tpliwe i ta w\u0105tpliwo\u015b\u0107 otwiera dodatkowy wymiar problemu. Emocje s\u0105 z\u0142o\u017cone, zale\u017cne od kontekstu rozmowy, kontekstu\u00a0 kulturowego czy cech osobowych i podatne na b\u0142\u0119dn\u0105 interpretacj\u0119. Ironia mo\u017ce zosta\u0107 odczytana jako agresja. Zm\u0119czenie mo\u017ce zosta\u0107 zaklasyfikowane jako smutek. Kr\u00f3tkie, rzeczowe odpowiedzi mog\u0105 wynika\u0107 z po\u015bpiechu, a nie frustracji. Cisza mo\u017ce oznacza\u0107 skupienie lub roztargnienie w r\u00f3wnym stopniu.<\/p>\n

Konsekwencje b\u0142\u0119dnej klasyfikacji mog\u0105 by\u0107 powa\u017cne i r\u00f3\u017cni\u0105 si\u0119 w zale\u017cno\u015bci od kontekstu zastosowania. System edukacyjny, kt\u00f3ry b\u0142\u0119dnie ocenia poziom zaanga\u017cowania ucznia, mo\u017ce podejmowa\u0107 nieadekwatne interwencje pedagogiczne. Aplikacja wspieraj\u0105ca zdrowie psychiczne, kt\u00f3ra interpretuje ironiczny komentarz jako wyraz realnego kryzysu, mo\u017ce generowa\u0107 reakcje wzmacniaj\u0105ce niepok\u00f3j zamiast go \u0142agodzi\u0107. Platforma rekrutacyjna oceniaj\u0105ca kandydata na podstawie wyrazu twarzy w trakcie wideo-rozmowy mo\u017ce dyskryminowa\u0107 osoby z odmiennymi sposobami wyra\u017cania emocji lub po prostu reprezentuj\u0105ce kultur\u0119, w kt\u00f3rej konwencje ekspresji wygl\u0105daj\u0105 inaczej.<\/p>\n

Kto ponosi odpowiedzialno\u015b\u0107 za b\u0142\u0119dne rozpoznanie emocji i niefortunne, by\u0107 mo\u017ce szkodliwe, decyzje podj\u0119te z tego powodu? Projektant modelu, kt\u00f3ry nie przewidzia\u0142, \u017ce skupienie wygl\u0105da jak stres? Operator platformy, kt\u00f3ry wdro\u017cy\u0142 system bez odpowiedniej walidacji? Instytucja, kt\u00f3ra zgodzi\u0142a si\u0119 na jego stosowanie? Obecne regulacje prawne nie daj\u0105 jednoznacznej odpowiedzi \u2013 a to samo w sobie jest istotn\u0105 obserwacj\u0105 etyczn\u0105. Odpowiedzialno\u015b\u0107 rozp\u0142ywa si\u0119 mi\u0119dzy kolejne ogniwa \u0142a\u0144cucha, a cz\u0142owiek, kt\u00f3rego dotyczy b\u0142\u0105d, pozostaje bez skutecznego \u015brodka odwo\u0142awczego, gdyby taki by\u0142 potrzebny.<\/p>\n

Co wi\u0119cej, brak z\u0142ej woli po stronie projektanta nie jest argumentem zwalniaj\u0105cym z odpowiedzialno\u015bci moralnej. Czy nie prawd\u0105 jest, \u017ce przewidywalno\u015b\u0107 szkody nak\u0142ada obowi\u0105zek jej zapobiegania? Je\u015bli wiadomo, \u017ce systemy rozpoznawania emocji maj\u0105 okre\u015blony poziom b\u0142\u0119du i \u017ce b\u0142\u0119dy te s\u0105 nier\u00f3wnomiernie roz\u0142o\u017cone mi\u0119dzy r\u00f3\u017cne grupy demograficzne, to wdro\u017cenie takiego systemu w kontek\u015bcie wysokiej stawki (edukacja, rekrutacja, opieka zdrowotna) jest \u015bwiadomym wyborem, nie niewinn\u0105 pomy\u0142k\u0105.<\/p>\n

Paradoks polega na tym, \u017ce nawet system zaprojektowany z jak najlepszymi intencjami mo\u017ce ogranicza\u0107 autonomi\u0119 u\u017cytkownika, je\u015bli jego model emocji jest b\u0142\u0119dny. Decyzje podejmowane przez algorytm na podstawie b\u0142\u0119dnych za\u0142o\u017ce\u0144 dotycz\u0105cych stanu psychicznego cz\u0142owieka wp\u0142ywaj\u0105 na rzeczywisto\u015b\u0107 tego cz\u0142owieka — czasem bez jego wiedzy i bez mo\u017cliwo\u015bci korekty, zale\u017cnie od projektu systemu. Z perspektywy u\u017cytkownika nie ma znaczenia, czy system go \u015bwiadomie manipuluje, czy po prostu myli si\u0119 z konsekwencjami — skutek jest podobny: \u015brodowisko informacyjne, w kt\u00f3rym funkcjonuje, zosta\u0142o ukszta\u0142towane w oparciu o co\u015b, czego on sam nie czuje.<\/p>\n

Jak chroni\u0107 autonomi\u0119 u\u017cytkownika?<\/h1>\n

Skoro ca\u0142kowity zakaz analizy emocji by\u0142by zar\u00f3wno nierealistyczny, jak i potencjalnie szkodliwy dla zastosowa\u0144 autentycznie u\u017cytecznych, pytaniem staje si\u0119: jak oddzieli\u0107 zastosowania dozwolone od tych, kt\u00f3re powinny by\u0107 zakazane lub \u015bci\u015ble regulowane? Proponujemy tu koncepcj\u0119 zestawu rozwi\u0105za\u0144 technicznych i organizacyjnych stanowi\u0105cych warstw\u0119 po\u015bredni\u0105 mi\u0119dzy modu\u0142em analizy emocji a systemem decyzyjnym.<\/p>\n

Pierwszy filar to rozr\u00f3\u017cnienie dozwolonych i niedozwolonych zastosowa\u0144 danych emocjonalnych<\/strong>. Dane te mog\u0142yby by\u0107 u\u017cywane w celach edukacyjnych, terapeutycznych i s\u0142u\u017c\u0105cych poprawie dost\u0119pno\u015bci — a wi\u0119c wsz\u0119dzie tam, gdzie adaptacja s\u0142u\u017cy celom u\u017cytkownika. Natomiast zakazane by\u0142oby ich wykorzystywanie do dynamicznego ustalania cen, oceny zdolno\u015bci kredytowej, podejmowania decyzji rekrutacyjnych oraz wszelkich form mikrotargetowania. To nie jest tylko nasze my\u015blenie \u017cyczeniowe, bo europejskie prawo wydaje si\u0119 zmierza\u0107 w\u0142a\u015bnie w tym kierunku. Artificial Intelligence Act<\/em>, kt\u00f3ry wszed\u0142 w \u017cycie w sierpniu 2024 roku, zakazuje od lutego 2025 roku stosowania system\u00f3w rozpoznawania emocji w miejscu pracy i plac\u00f3wkach edukacyjnych, z wyj\u0105tkiem cel\u00f3w medycznych i bezpiecze\u0144stwa (European Union, 2024). Naruszenie tego zakazu grozi kar\u0105 do 35 milion\u00f3w euro lub 7% globalnego obrotu firmy (WEB1). To krytycznie wa\u017cny precedens: prawodawstwo uznaje, \u017ce kontekst u\u017cycia technologii emocjonalnej ma fundamentalne znaczenie etyczne.<\/p>\n

Drugi filar to przejrzysto\u015b\u0107 w czasie rzeczywistym,<\/strong> w my\u015bl zasady transparentno\u015bci zaproponowanej przez OECD (WEB2). U\u017cytkownik powinien wiedzie\u0107, kiedy<\/em> i w jaki spos\u00f3b<\/em> analiza emocjonalna wp\u0142ywa na tre\u015bci, kt\u00f3re widzi, lub na spos\u00f3b dzia\u0142ania interfejsu. Pewn\u0105 inspiracj\u0105 mog\u0142aby by\u0107 tu znana z prawa europejskiego zgoda na pliki cookie — z t\u0105 r\u00f3\u017cnic\u0105, \u017ce komunikat dotyczy\u0142by adaptacji emocjonalnej. Przyk\u0142adowy komunikat interfejsu m\u00f3g\u0142by wygl\u0105da\u0107 nast\u0119puj\u0105co:<\/p>\n

\u201eNa podstawie wzorc\u00f3w Twojej interakcji system oceni\u0142, \u017ce mo\u017cesz by\u0107 zm\u0119czony. Interfejs zosta\u0142 uproszczony. Mo\u017cesz wy\u0142\u0105czy\u0107 t\u0119 funkcj\u0119 w Ustawieniach \u2192 Personalizacja \u2192 Adaptacja emocjonalna.”<\/p><\/blockquote>\n

Taki komunikat spe\u0142nia kilka funkcji jednocze\u015bnie: informuje u\u017cytkownika, umo\u017cliwia mu podj\u0119cie \u015bwiadomej decyzji i — co wa\u017cne — zmusza operatora systemu do jawno\u015bci wobec w\u0142asnych algorytm\u00f3w. Platformy, kt\u00f3re dzi\u015b nie musia\u0142yby ujawnia\u0107, \u017ce stosuj\u0105 analiz\u0119 emocjonaln\u0105, nagle staj\u0105 przed pytaniem: czy jeste\u015bmy gotowi powiedzie\u0107 to naszym u\u017cytkownikom wprost?<\/p>\n

Trzecim filarem jest prawo do emocjonalnego opt-out<\/strong> — mo\u017cliwo\u015b\u0107 wy\u0142\u0105czenia adaptacji emocjonalnej bez utraty dost\u0119pu do us\u0142ugi i bez ukrytych konsekwencji (np. pogorszenia jako\u015bci rekomendacji). Analogia do funkcji \u201enie \u015bled\u017a” w przegl\u0105darkach internetowych jest tu trafna, cho\u0107 historia tego mechanizmu pokazuje, \u017ce dobrowolne standardy bez egzekucji prawnej maj\u0105 ograniczon\u0105 skuteczno\u015b\u0107. Dlatego prawo do opt-out musi by\u0107 egzekwowalne i niewarunkowe.<\/p>\n

Na poziomie organizacyjnym warto rozwa\u017cy\u0107 model audyt\u00f3w algorytmicznych, analogiczny do audyt\u00f3w finansowych. Niezale\u017cny podmiot zewn\u0119trzny mia\u0142by dost\u0119p do dokumentacji dotycz\u0105cej tego, jakie dane emocjonalne s\u0105 zbierane, w jaki spos\u00f3b klasyfikowane i do jakich cel\u00f3w u\u017cywane. Zasada dzia\u0142ania jest prosta: je\u015bli firma nie jest w stanie wyja\u015bni\u0107 audytorowi, w jaki spos\u00f3b dane emocjonalne wp\u0142ywaj\u0105 na decyzje systemu, powinna mie\u0107 zakaz ich stosowania.<\/p>\n

Konkluzja?<\/h1>\n

Emocje to wa\u017cny spos\u00f3b, w jaki ludzie wyra\u017caj\u0105 siebie wobec innych. Staj\u0105 si\u0119 teraz j\u0119zykiem, kt\u00f3ry odczytuj\u0105 — z r\u00f3\u017cnym stopniem dok\u0142adno\u015bci, ale z rosn\u0105c\u0105 precyzj\u0105 — maszyny. Sam fakt odczytywania nie jest problemem. Problem zaczyna si\u0119 wtedy, gdy wiedza o emocjach zostaje skierowana nie ku cz\u0142owiekowi, kt\u00f3ry je prze\u017cywa, lecz ku komu\u015b, kto chce na nich zarobi\u0107 lub przez nie wp\u0142yn\u0105\u0107. Kluczowe pytanie nie brzmi ju\u017c: „czy AI potrafi rozpoznawa\u0107 emocje?”. Brzmi: „komu s\u0142u\u017cy ta wiedza i jakie granice powinni\u015bmy jej wyznaczy\u0107?”. I tu zaczynaj\u0105 si\u0119 podzia\u0142y, kt\u00f3re nie daj\u0105 si\u0119 rozstrzygn\u0105\u0107 czysto technicznie ani prawnie.<\/p>\n

Utylitaryzm podpowiada\u0142by, \u017ce adaptacja emocjonalna jest etycznie uzasadniona, o ile w og\u00f3lnym rozrachunku zwi\u0119kszy\u0142aby dobrostan u\u017cytkownik\u00f3w \u2013 je\u015bli wi\u0119cej os\u00f3b skorzysta na spersonalizowanej pomocy, ni\u017c ucierpi na manipulacji. To podej\u015bcie ma swoj\u0105 si\u0142\u0119, ale ma te\u017c powa\u017cn\u0105 s\u0142abo\u015b\u0107: kto i jak mia\u0142by ten rachunek przeprowadzi\u0107? Kto decyduje, \u017ce korzy\u015bci dla wi\u0119kszo\u015bci usprawiedliwiaj\u0105 naruszenie autonomii mniejszo\u015bci? A mo\u017ce u\u017cywanie wiedzy o czyich\u015b emocjach jako d\u017awigni wp\u0142ywu \u2013 nawet w dobrej wierze, nawet z pozytywnym skutkiem \u2013 traktuje cz\u0142owieka jako \u015brodek do celu, nie jako cel sam w sobie? Z tej perspektywy problem nie le\u017cy w skutkach adaptacji emocjonalnej, lecz w samej jej strukturze: w tym, \u017ce dzia\u0142a za plecami u\u017cytkownika, bez jego \u015bwiadomej zgody, na podstawie czego\u015b tak intymnego jak stan emocjonalny.<\/p>\n

\u017badne z tych stanowisk nie daje gotowej odpowiedzi na pytanie, jak projektowa\u0107 systemy AI jutro, ale razem wyznaczaj\u0105 napi\u0119cie, z kt\u00f3rym projektanci, regulatorzy i u\u017cytkownicy b\u0119d\u0105 musieli si\u0119 zmierzy\u0107: mi\u0119dzy efektywno\u015bci\u0105 a autonomi\u0105, mi\u0119dzy personalizacj\u0105 a prywatno\u015bci\u0105, mi\u0119dzy tym, co dzia\u0142a, a tym, co jest dozwolone. Czy projektuj\u0105c system, kt\u00f3ry adaptuje si\u0119 do emocji u\u017cytkownika, mo\u017cna by\u0107 moralnie neutralnym? To pytanie warto zabra\u0107 ze sob\u0105 \u2013 szczeg\u00f3lnie je\u015bli za kilka lat b\u0119dziesz po drugiej stronie tego systemu, jako jego tw\u00f3rca.<\/p>\n

Literatura<\/h1>\n

Barrett, L. F. (2017). How emotions are made: The secret life of the brain<\/em>. Pan Macmillan.<\/p>\n

Buolamwini, J., & Gebru, T. (2018, January). Gender shades: Intersectional accuracy disparities in commercial gender classification<\/em>. In Conference on fairness, accountability and transparency (pp. 77-91). PMLR.<\/p>\n

Domnich, A., & Anbarjafari, G. (2021). Responsible AI: Gender bias assessment in emotion recognition.<\/em> arXiv preprint arXiv:2103.11436.<\/p>\n

Milli, S., Carroll, M., Wang, Y., Pandey, S., Zhao, S., & Dragan, A. D. (2025). Engagement, user satisfaction, and the amplification of divisive content on social media.<\/em> PNAS nexus, 4(3), pgaf062.<\/p>\n

Flick, C. (2016). Informed consent and the Facebook emotional manipulation study<\/em>. Research Ethics, 12(1), 14-28.<\/p>\n

Fogg, B. J. (2002). Persuasive technology: using computers to change what we think and do<\/em>. Ubiquity, 2002(December), 2.<\/p>\n

Kramer, A. D., Guillory, J. E., & Hancock, J. T. (2014). Experimental evidence of massive-scale emotional contagion through social networks.<\/em> Proceedings of the National Academy of Sciences, 111(24), 8788-8790.<\/p>\n

Picard, R. W. (2000). Affective computing<\/em>. MIT press.<\/p>\n

Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power.<\/em> PublicAffairs.<\/p>\n

\u0179r\u00f3d\u0142a internetowe<\/h1>\n

(WEB1) European Commission — EU AI Act, prohibited practices (Article 5). https:\/\/digital-strategy.ec.europa.eu\/en\/policies\/regulatory-framework-ai<\/a><\/p>\n

(WEB2) OECD AI Principles. https:\/\/oecd.ai\/en\/ai-principles<\/a><\/p>\n

(WEB3) EPIC — In re: Facebook (Psychological Study). https:\/\/epic.org\/documents\/in-re-facebook-psychological-study\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Wyobra\u017amy sobie system sztucznej inteligencji, kt\u00f3ry potrafi rozpozna\u0107, \u017ce jeste\u015bmy zm\u0119czeni, sfrustrowani lub zestresowani. Czy powinien dostosowa\u0107 do tego spos\u00f3b komunikacji? W wielu sytuacjach odpowied\u017a wydaje si\u0119 oczywista — spersonalizowana pomoc mo\u017ce by\u0107 bardziej skuteczna i przyjazna dla u\u017cytkownika. Problem pojawia si\u0119 jednak wtedy, gdy ta sama wiedza o emocjach zostaje wykorzystana nie po to, […]<\/p>\n","protected":false},"author":346,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[597],"tags":[339,15,118,12,61,41,536,55,531,13,109],"class_list":["post-9672","post","type-post","status-publish","format-standard","hentry","category-agh-2025-26","tag-sztucznainteligencja","tag-ai","tag-emocje","tag-etyka","tag-inwigilacja","tag-manipulacja","tag-personalizacja","tag-prywatnosc","tag-rozpoznawanie-emocji","tag-spoleczenstwo","tag-zaufanie"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/9672","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/346"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=9672"}],"version-history":[{"count":19,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/9672\/revisions"}],"predecessor-version":[{"id":9729,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/9672\/revisions\/9729"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=9672"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=9672"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=9672"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}