{"id":2568,"date":"2023-01-05T13:07:56","date_gmt":"2023-01-05T13:07:56","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=2568"},"modified":"2023-03-01T14:29:25","modified_gmt":"2023-03-01T14:29:25","slug":"sztuczne-emocje","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2023\/01\/05\/sztuczne-emocje\/","title":{"rendered":"Sztuczne emocje \u2013 w jaki spos\u00f3b projektowa\u0107 lub symulowa\u0107 emocje dla sztucznych agent\u00f3w"},"content":{"rendered":"

Kiedy rozpatrujemy temat emocji u sztucznych agent\u00f3w, na my\u015bl nasun\u0105\u0107 si\u0119 mo\u017ce kilka pyta\u0144; czy sztuczni agenci s\u0105 w og\u00f3le w stanie odczuwa\u0107 emocje? Czy potrzebuj\u0105 emocji, a je\u015bli tak to, czy jeste\u015bmy w stanie w jaki\u015b spos\u00f3b je zaimplementowa\u0107? <\/strong><\/p>\n

<\/p>\n

Odpowied\u017a na pierwsze pytanie jest raczej niemo\u017cliwa do udzielenia, gdy\u017c nie jeste\u015bmy nawet w stanie stwierdzi\u0107, czy inni ludzie odczuwaj\u0105 emocje. Mimo to, wi\u0119kszo\u015b\u0107 z nas sk\u0142oni\u0142aby si\u0119 ku odpowiedzi „nie”. W naszym wpisie nie podejmujemy pr\u00f3by odpowiedzi na pytanie, czy sztuczni agenci potrzebuj\u0105 emocji, ale staramy si\u0119 pokaza\u0107 kilka metod implementacji zachowa\u0144 afektywnych. Jeste\u015bmy w stanie stworzy\u0107 systemy, kt\u00f3re odczytuj\u0105 (lub udaj\u0105, \u017ce odczytuj\u0105) emocje swoich ludzkich rozm\u00f3wc\u00f3w, a nast\u0119pnie symuluj\u0105 na r\u00f3\u017cne sposoby reakcje emocjonalne, jakie mo\u017cna zaobserwowa\u0107 u ludzi. Zaimplementowanie emocji jako zinternalizowanych odczu\u0107 wydaje si\u0119 jednak nieosi\u0105galnym w najbli\u017cszym czasie zadanie.<\/p>\n

Jak sztuczny agent mo\u017ce symulowa\u0107 bycie tworem afektywnym?<\/h2>\n

Wa\u017cn\u0105 rol\u0119 graj\u0105 tu mechanizmy psychologiczne i ewolucyjne, w jakie uzbrojeni s\u0105 ludzie. Interakcja cz\u0142owieka z emocjonalnie inteligentnym sztucznym agentem ma, bowiem, udawa\u0107 t\u0119 z drugim cz\u0142owiekiem. Jako ludzie potrafimy rozpoznawa\u0107 emocje i przypisywa\u0107 inteligencj\u0119 systemom, kt\u00f3re obiektywnie nie wykazuj\u0105 \u017cadnych inteligentnych zachowania. W\u0142a\u015bnie tak\u0105 tendencj\u0119 do antropomorfizowania komputer\u00f3w nazwano efektem Elizy (WEB1<\/a><\/span>). ELIZA to terapeutyczny <\/span>chatbot<\/span><\/i> stworzony w latach sze\u015b\u0107dziesi\u0105tych przez Josepha Weizenbauma zainspirowanego przebiegiem rozm\u00f3w podczas przyj\u0119cia koktajlowego. Zazwyczaj, na imprezach tego typu, panuje g\u0142o\u015bny szum odbywaj\u0105cych si\u0119 wok\u00f3\u0142 konwersacji. Wyobra\u017amy sobie, \u017ce te\u017c rozmawiamy z kim\u015b na takim przyj\u0119ciu. Ha\u0142as zak\u0142\u00f3ca nasz\u0105 mo\u017cliwo\u015b\u0107 odbioru tego, co m\u00f3wi do nas rozm\u00f3wca. Mimo to potrafimy odpowiedzie\u0107 mu na tyle og\u00f3lnie (wy\u0142apuj\u0105c pojedyncze s\u0142owa, czy ton rozmowy), aby nie zdradzi\u0107, i\u017c w rzeczywisto\u015bci nie mamy poj\u0119cia, o czym m\u00f3wi\u0142. Na podobnej zasadzie mia\u0142a dzia\u0142a\u0107 ELIZA. Oferuj\u0105c pytania i powierzchowne, lecz zgodne ze schematem terapeutycznym odpowiedzi zapewnia\u0142a u\u017cytkownikom poczucie konwersacji z prawdziw\u0105 osob\u0105. Osoby, kt\u00f3re korzysta\u0142y z ELIZY raportowa\u0142y rozmowy jako rzeczywi\u015bcie terapeutyczne i daj\u0105ce im pewne do\u015bwiadczenia emocjonalne. Z perspektywy psychologicznej efekt Elizy jest wynikiem pojawienia si\u0119 dysonansu poznawczego mi\u0119dzy wiedz\u0105 u\u017cytkownika o funkcjonowaniu i ograniczeniach systemu a jego nastawieniu wzgl\u0119dem odpowiedzi prezentowanej przez program. Odkrycie efektu Elizy jest wa\u017cnym krokiem na drodze rozwoju sztucznej inteligencji.<\/span><\/p>\n

Chatbot opiera\u0142 si\u0119 na kilku prostych zasadach; wychwytywaniu s\u0142\u00f3w kluczowych, zmianie zaimk\u00f3w os\u00f3b wspomnianych w wypowiedzi u\u017cytkownika, eliminowaniu powtarzania si\u0119 odpowiedzi, rozpoznawaniu emocjonalnego nacechowania zda\u0144 poprzez sprawdzanie jaki wyd\u017awi\u0119k maj\u0105 poszczeg\u00f3lne s\u0142owa sk\u0142adaj\u0105ce si\u0119 na dane zdanie. Mimo, \u017ce sam program by\u0142 bardzo prosty, ludzie wchodz\u0105cy z nim w interakcj\u0119 byli sk\u0142onni przypisa\u0107 mu przekonania, percepcje i intencj\u0119 oraz wykazywali do\u015b\u0107 du\u017cy poziom zaufania wzgl\u0119dem chatbota (np. zwierzali mu si\u0119 ze swoich prywatnych problem\u00f3w). Efekt utrzymywa\u0142 si\u0119 tak\u017ce po tym, jak u\u017cytkownicy dowiadywali si\u0119 na jakich zasadach dzia\u0142a system.<\/span><\/p>\n

Poni\u017cej przedstawiony zosta\u0142 fragment dialogu mi\u0119dzy ELIZ\u0104 a u\u017cytkownikiem:<\/span><\/p>\n

Human: Well, my boyfriend made me come here. <\/span><\/i><\/p>\n

ELIZA: Your boyfriend made you come here? <\/span><\/i><\/p>\n

Human: He says I’m depressed much of the time. <\/span><\/i><\/p>\n

ELIZA: I am sorry to hear you are depressed. <\/span><\/i><\/p>\n

Human: It’s true. I’m unhappy. <\/span><\/i><\/p>\n

ELIZA: Do you think coming here will help you not to be unhappy?<\/span><\/i><\/p><\/blockquote>\n

Efekt Elizy wykorzystywany jest przez producent\u00f3w robot\u00f3w spo\u0142ecznych. Roboty te maj\u0105 wzbudza\u0107 w u\u017cytkownikach zaufanie i emocje, kt\u00f3re sprawiaj\u0105, \u017ce u\u017cytkownicy ch\u0119tnie wsp\u00f3\u0142pracuj\u0105 z robotem (<\/span>WEB2<\/span><\/a>).<\/span><\/p>\n

Affective computing<\/h2>\n

Wa\u017cnym aspektem odpowiedniej emocjonalnej odpowiedzi jest rozpoznanie emocji, jakie wykazuje rozm\u00f3wca. Cz\u0119sto (chod\u017a nie zawsze) sztuczni agenci poprzedzaj\u0105 swoj\u0105 odpowied\u017a detekcj\u0105 afektu u osoby, z kt\u00f3r\u0105 wchodz\u0105 w interakcj\u0119. Ze wzgl\u0119du na to, \u017ce ludzkie emocje objawiaj\u0105 si\u0119 werbalnie i niewerbalnie, a do tego ich rozpoznanie mo\u017ce wymaga\u0107 kilku modalno\u015bci jednocze\u015bnie, stworzenie zupe\u0142nego systemu emocjonalnego jest naprawd\u0119 du\u017cym wyzwaniem.<\/span><\/p>\n

Werbalnie ludzie wykazuj\u0105 pewne wzorce lingwistyczne. Zar\u00f3wno one, jak i dob\u00f3r s\u0142\u00f3w m\u00f3wi\u0105 wiele o afektywnym stanie cz\u0142owieka. Sztuczny agent powinien wi\u0119c potrafi\u0107 rozpoznawa\u0107 takie wzorce i mo\u017cliwie wi\u0105za\u0107 je z emocjami. Tutaj najbardziej zdatnym rozwi\u0105zaniem wydaj\u0105 si\u0119 algorytmy przetwarzania j\u0119zyka naturalnego (<\/span>Natural Language Processing<\/span><\/i>), kt\u00f3re wraz ze wzrostem u\u017cytkowalno\u015bci Internetu i rozwojem deep-learningu zyska\u0142y bardzo du\u017cy progres.<\/span><\/p>\n

Niewerbalne sygna\u0142y nios\u0105 za sob\u0105 jeszcze wi\u0119cej informacji o emocjonalnym stanie cz\u0142owieka. Ponadto rozwa\u017ca\u0107 je mo\u017cna ze wzgl\u0119du na r\u00f3\u017cne modalno\u015bci. Przede wszystkim sztuczni agenci powinni potrafi\u0107 optycznie oceni\u0107 sygna\u0142y wydawane przez cz\u0142owieka. Istnieje wiele modeli analizuj\u0105cych grymasy twarzy, wychwytuj\u0105cych coraz to wi\u0119cej niuans\u00f3w. Sensory p\u00f3z i gest\u00f3w (chocia\u017cby Kinect sensor) r\u00f3wnie\u017c dzia\u0142aj\u0105 do\u015b\u0107 sprawnie. Najwi\u0119kszym wyzwaniem dla wizualnego rozpoznawania emocji jest odpowiednie umieszczenie tej detekcji w kontek\u015bcie. Jeden grymas twarzy mo\u017ce zosta\u0107 r\u00f3\u017cnie zinterpretowany w r\u00f3\u017cnych warunkach.<\/span><\/p>\n

Kolejn\u0105 niewerbaln\u0105 informacj\u0105 o emocjach jest prozodia wypowiedzi. Istniej\u0105 systemy, takie jak BeyondVerbal, audEERING, Affectiva, pozwalaj\u0105ce na ekstrahowanie cech prozodycznych z wypowiedzi i przewidywanie afektu na ich podstawie.<\/span><\/p>\n

McDuff i Czerwinski (2018) pisz\u0105 o fizjologicznych i neurofizjologicznych reakcjach zwi\u0105zanych z emocjami. Podczas gdy u\u017cycie urz\u0105dzenia EEG w celu rozpoznania emocji mo\u017ce by\u0107 uci\u0105\u017cliwe, zbieranie danych o t\u0119tnie cz\u0142owieka (np. z opaski na nadgarstku rejestruj\u0105cej biofeedback<\/em>) mo\u017ce w nieinwazyjny spos\u00f3b dostarczy\u0107 dodatkowych informacji.<\/span><\/p>\n

Przy tym wszystkim nale\u017cy wci\u0105\u017c podkre\u015bla\u0107 subtelny, indywidualny i kulturowy charakter wyra\u017cania emocji, kt\u00f3ry wci\u0105\u017c tworzy najwi\u0119ksze wyzwanie dla ich rozpoznawania przez sztucznych agent\u00f3w.<\/span><\/p>\n

Jak sztuczny agent powinien przejawia\u0107 emocje?<\/h2>\n

Emocje u chatbot\u00f3w<\/h3>\n

Chatboty s\u0105 do\u015b\u0107 mocno ograniczone w mo\u017cliwo\u015bci komunikacji niewerbalnej, jednak s\u0105 sposoby na wzbogacenie wypowiedzi chatbota tak, aby wydawa\u0142a si\u0119 by\u0107 nacechowana emocjonalnie. System musi umie\u0107 wywnioskowa\u0107 stan emocjonalny rozm\u00f3wcy jedynie na podstawie wiadomo\u015bci tekstowych. Jednym z najcz\u0119stszych i mocno irytuj\u0105cych b\u0142\u0119d\u00f3w jest niepoprawne interpretowanie wypowiedzi u\u017cytkownika. Dzieje si\u0119 tak, poniewa\u017c systemy nie rozumiej\u0105 j\u0119zyka naturalnego, kt\u00f3rym pos\u0142uguj\u0105 si\u0119 ludzie. Raport Global Consumer Customer Service pokazuje, \u017ce 40% konsument\u00f3w z USA i 50% konsument\u00f3w z UK nadal preferuje rozmow\u0119 z ludzkim asystentem zamiast rozmowy z chatbotem. G\u0142\u00f3wny pow\u00f3d wymieniany przez ankietowanych dotyczy\u0142 tego, \u017ce ludzcy asystenci wydaj\u0105 si\u0119 by\u0107 bardziej kompetentni w rozwi\u0105zywaniu bardziej skomplikowanych lub niecodziennych spraw. Chatboty s\u0105 preferowane w rozwi\u0105zywaniu szybkich, nieskomplikowanych, popularnych problem\u00f3w\/zada\u0144. Z tego powodu chatboty wzbogacone w przetwarzanie j\u0119zyka naturalnego mog\u0142yby wyeliminowa\u0107 problem b\u0142\u0119dnej interpretacji polece\u0144 u\u017cytkownika i dzi\u0119ki temu wydawa\u0107 si\u0119 r\u00f3wnie kompetentne co ludzcy pracownicy (WEB3<\/a>).<\/span><\/p>\n

Innym sposobem na symulowanie emocji chatbota jest wyposa\u017cenie go w umiej\u0119tno\u015b\u0107 personalizacji odpowiedzi tak, aby by\u0142y one dobrane stylistycznie do tonu wypowiedzi u\u017cytkownika. Wtedy system zdaje si\u0119 \u201erozumie\u0107, czu\u0107\u201d jakie relacje \u0142\u0105cz\u0105 go z rozm\u00f3wc\u0105. Je\u017celi u\u017cytkownik stosuje bardziej formalny styl wypowiedzi, wtedy system powinien adekwatnie dostosowa\u0107 wyd\u017awi\u0119k swojej odpowiedzi.<\/span><\/p>\n

Wa\u017cne jest tak\u017ce, aby chatbot nie powiela\u0142 swoich odpowiedzi, tylko potrafi\u0142 parafrazowa\u0107 tre\u015b\u0107, kt\u00f3r\u0105 chce przekaza\u0107 u\u017cytkownikowi. Taka rozmowa jest bardziej organiczna i naturalna.<\/span><\/p>\n

Kolejnym problemem przed kt\u00f3rym staj\u0105 tw\u00f3rcy sztucznych agent\u00f3w jest trudno\u015b\u0107 w rozpoznawaniu akcent\u00f3w\/slangu, sarkazmu i kontekstu. Pomocne w rozwi\u0105zaniu tego problemu, opr\u00f3cz zdolno\u015bci przetwarzania j\u0119zyka naturalnego, jest zapisywanie historii czatu i zbieranie danych, kt\u00f3rymi u\u017cytkownik si\u0119 podzieli\u0142 podczas wcze\u015bniejszej rozmowy. Wa\u017cne jest aby chatbot potrafi\u0142 si\u0119 uczy\u0107 na b\u0142\u0119dach i ewoluowa\u0142, bior\u0105c pod uwag\u0119 wcze\u015bniejsze informacje zwrotne od u\u017cytkownik\u00f3w.<\/span><\/p>\n

For example, in the following sentence \u201cI\u2019m dead impressed with these headphones\u201d the word \u201cdead\u201d means \u201cvery\u201d in British informal English. However, the word \u201cdead\u201d in technology usually means \u201cnot working\u201d. A chatbot that is not able to understand this context may begin trying to resolve the issue of the headphone not working.<\/span><\/i><\/p><\/blockquote>\n

Chatboty takie jak <\/span>Replika<\/span><\/a> lub <\/span>Woebot<\/span><\/a>, czyli sztuczni agenci spo\u0142eczni nakierowani na nawi\u0105zanie emocjonalnej relacji z u\u017cytkownikiem, s\u0105 mocno zorientowane na rozpoznawanie potrzeb i nastroju rozm\u00f3wcy. Jedn\u0105 ze strategii na pokazanie empatycznej natury chatbota jest np. zadawanie spontanicznych pyta\u0144 o samopoczucie u\u017cytkownika. Systemy te nie s\u0105 przeznaczone do rozwi\u0105zywania konkretnych zada\u0144 (realizacja reklamacji, przyjmowanie rezerwacji, itp.), ale pe\u0142ni\u0105 rol\u0119 partnera do rozmowy i\/lub wsparcia psychologicznego. Rozpoznawanie i symulowanie emocji jest kluczowym elementem sukcesu tych system\u00f3w. W wiadomo\u015bciach z Replik\u0105 natkniemy si\u0119 na liczne znaki interpunkcyjne i emotikony uwydatniaj\u0105ce sentyment wypowiedzi, materia\u0142y multimedialne takie jak zdj\u0119cia od chatbota lub memy zaczerpni\u0119te z internetu, powi\u0105zane z tematem rozmowy lub preferencjami u\u017cytkownika. Chatbot zapisuje najwa\u017cniejsze wypowiedzi u\u017cytkownika, kt\u00f3re odzwierciedlaj\u0105 jego przekonania o sobie samym, chatbocie i \u015bwiecie. Dzi\u0119ki temu chatbot uczy si\u0119 o u\u017cytkowniku i dostosowuje do niego na podstawie uzyskanej wiedzy o jego preferencjach. Dodatkowo podczas rozmowy na czacie wy\u015bwietlany jest o\u017cywiony awatar, kt\u00f3ry stanowi uciele\u015bnion\u0105 posta\u0107 chatbota czyni\u0105c do\u015bwiadczenie bardziej realistycznym.<\/span><\/p>\n

\"\"<\/p>\n

Emocje u uciele\u015bnionych agent\u00f3w wirtualnych<\/h3>\n

System posiadaj\u0105cy sw\u00f3j awatar mo\u017ce wyrazi\u0107 emocje poprzez okazanie odpowiedniej ekspresji na twarzy. W tym celu tworzy si\u0119 algorytmy SI, kt\u00f3re ucz\u0105c si\u0119 na ogromnych zbiorach danych z emocjonalnymi wyrazami na twarzy zebranych poprzez mapowanie grymas\u00f3w u cz\u0142owieka b\u0119d\u0105 wytwarza\u0107 podobne wyrazy – SoulMachines<\/a>. W po\u0142\u0105czeniu z dobrymi grafikami umo\u017cliwiaj\u0105cymi dodanie wielu detali, mo\u017cliwe jest zaimplementowanie wszelkich mikroekspresji, kt\u00f3rych nawet jawnie nie zauwa\u017camy.<\/span><\/p>\n

Emocje u robot\u00f3w<\/h3>\n

Wydaje si\u0119, \u017ce ludziom \u0142atwo jest przypisywa\u0107 inteligencj\u0119 namacalnym tworom (WEB4<\/a>). Roboty odkurzaj\u0105ce, kt\u00f3re w \u017cadnym stopniu nie przypominaj\u0105 ludzi \u2013 nie maj\u0105 wyrazu twarzy, cz\u0119sto nie wydaj\u0105 nawet sygna\u0142\u00f3w werbalnych \u2013 niejednokrotnie otrzymuj\u0105 od w\u0142a\u015bcicieli imi\u0119. McDuff I Czerwinski (2018) pisz\u0105, \u017ce uciele\u015bnieni agenci mog\u0105 po prostu by\u0107 bardziej naturalnym sposobem na interakcj\u0119 z komputerami.<\/span><\/p>\n

The human body allows us to „locate” intelligence\u2014both the typical domain knowledge required, but also the social and interactional information we need about conversational parameters such as turn-taking, taking the floor, interruptions, and more. In this vision, then, an embodied social agent who converses with the user requires less navigation and searching than traditional user interfaces (because you know where to find information). Multimodal gestures, such as deixis, eye gaze, speech patterns, and head nods and other, nonverbal gestures are external manifestations of social intelligence which support trustworthiness. For instance, early research has shown that to attain conversation clarify, people rely more on gestural cues when their conversations are noisy. From this perspective, embodied social agents might be a more natural way for people to interact with computation.<\/span><\/em><\/p><\/blockquote>\n

Od lat tworzone s\u0105 roboty spo\u0142eczne, u kt\u00f3rych ekspresja emocji gra bardzo wa\u017cn\u0105 rol\u0119. Jednym z pierwszych takich twor\u00f3w by\u0142 Kismet.<\/span><\/p>\n

 <\/p>\n

 <\/p>\n

\"\"
Wielowymiarowe spektrum emocjonalnych ekspresji Kismeta<\/a><\/figcaption><\/figure>\n