Home » Uncategorized » Nudge technology – technologie poprawiające nasze zachowania, w jaki sposób sztuczna inteligencja mogłaby wykryć, że nasze działania są niemoralne lub pozbawione dobrego smaku.

Tagi

Wyróżnione posty

Zobacz też

Statystyki

  • 71
  • 238
  • 23 583
  • 6 652
  • 19

Nudge technology – technologie poprawiające nasze zachowania, w jaki sposób sztuczna inteligencja mogłaby wykryć, że nasze działania są niemoralne lub pozbawione dobrego smaku.

Spread the love

“Teoria szturchania” (Nudge Theory) jest koncepcją używaną w naukach behawioralnych, ekonomii behawioralnej oraz teorii politycznej. Proponuje ona wzmocnienie pozytywne i pośrednie sugestie jako sposoby wpływania na zachowanie jednostki. Metoda ta kontrastuje z innymi sposobami osiągnięcia zgodności, takimi jak edukacja, prawodawstwo lub egzekwowanie.

 

Pierwsze sformułowanie terminu szturchnięcie i związanych z nim zasad zostało opracowane w cybernetyce przez Jamesa Wilka przed 1995 r. i opisane przez naukowca Brunel University, D.J. Stewarta, jako „the art of the nudge” (czasami określane jako “micronudges”). Skorzystał również z metodologicznych wpływów psychoterapii klinicznej. W tym wariancie szturchnięcie jest projektem mikrotargetowanym skierowanym do określonej grupy osób, niezależnie od skali zamierzonej interwencji.

Koncepcja ta została spopularyzowana w 2008 roku w książce “Nudge: Improving Decisions About Health, Wealth, and Happiness” autorstwa ekonomisty behawioralnego Richarda Thalera i naukowca prawa Cassa Sunsteina. Autorzy określają wpływ na zachowanie bez przymusu jako libertariański paternalizm (oznacza dążenie do zmian ludzkich zachowań poprzez ograniczanie wyboru), a influencerów jako architektów wyboru.

Szturchnięcie, to każdy aspekt architektury wyboru, który zmienia zachowanie ludzi w przewidywalny sposób bez zabraniania jakichkolwiek opcji lub znaczącej zmiany bodźców ekonomicznych. Aby liczyć się jako zwykłe “szturchanie”, interwencja musi być łatwa i tania do uniknięcia. Szturchnięcia nie są nakazami. 

“Teoria szturchania” w praktyce

Aby lepiej zrozumieć czym jest nudge theory, dobrze będzie przytoczyć kilka przykładów. Jednym z miejsc gdzie można znaleźć najwięcej zabiegów wykonanych w myśl tej teorii są markety. Celem właścicieli sklepów jest uzyskanie jak największego utargu, czyli sprzedać jak najwięcej artykułów. Ludzie, którzy wybierają się na zakupy zazwyczaj mają zaplanowany zakup podstawowych artykułów takich jak chleb, mleko, czy jajka. Jak to się dzieje w takim razie, że nierzadko kończymy z koszykiem pełnym niepotrzebnych rzeczy? 

Jedną ze sztuczek jakie wykorzystują sprzedawcy jest rozmieszczenie towaru w sklepie. Najpotrzebniejsze artykuły będą w odleglejszych od wejścia i kasy miejscach tak aby konieczne było przejście obok mniej podstawowych rzeczy. Dzięki temu w każdej chwili możemy się zdecydować na dodatkowy zakup. Inną ciekawą techniką stosowaną w sklepach jest sposób rozmieszczenia samego towaru na półkach – te przedmioty, które powinny zostać sprzedane jak najszybciej bądź w jak największej ilości znajdziemy na linii naszego wzroku. Może się to tyczyć droższych artykułów, bądź takich, których ważność szybciej się kończy. Towary o niższej cenie, bądź dłuższej dacie ważności będą mniej dostępne np. schowane głębiej na półce, lub położone niżej. Ostatnim przykładem użycia nudge theory w sklepach jest umiejscowienie słodyczy przy kasie. Rzadko kiedy planuje się zakup batonów, czy wafelków, ale jak już się stoi w kolejce, to czemu by nie wrzucić paru do koszyka? 🙂

W Holandii przeprowadzono eksperyment polegający na monitorowaniu ilości zakupionych owoców i zdrowych przekąsek w zależności od umiejscowienia tego towaru w sklepie. Zauważono, że sprzedaż tych artykułów znacznie wzrasta po przeniesieniu ich w okolice kasy. Od tego momentu takie postępowanie jest uznawane jako pozytywne “szturchnięcie”. 

W świecie cyfrowym również możemy napotkać się z tymi technikami, może nawet jeszcze częściej niż w rzeczywistości. Idealnym przykładem są rekomendacje na takich stronach jak YouTube czy Spotify. Posiadają one ogromną bazę materiałów, którą nie sposób jest w całości przejrzeć, czy przesłuchać. Odtworzone przez nas zostaną zatem te nagrania, które będą nam zaproponowane jako pierwsze. A w interesie tych serwisów jest, abyśmy na ich przeglądaniu spędzili jak najwięcej czasu i obejrzeli jak najwięcej reklam, bądź wykupili subskrypcję. Tutaj również do wykorzystania nudge theory w praktyce można zaliczyć spersonalizowane reklamy. Odwiedzając różne witryny internetowe zostawiamy na nich swoje dane, które następnie zostają wykorzystane do pokazywania nam jak najlepiej dopasowanych reklam, tym samym maksymalizując szansę sprzedaży.

Czy te techniki są w takim razie wykorzystywane tylko w celach komercyjnych? Możemy znaleźć również przykłady zastosowań tej teorii w bardziej poważnych sytuacjach. W Niemczech obowiązuje prawo, że nie można wykonać przeszczepu organów od zmarłej osoby, jeżeli ta nie wyraziła na to wcześniej zgody, przez co potencjalnym dawcą jest około 1 na 10 osób, w porównaniu do innych krajów gdzie domyślnie taki przeszczep można wykonać jest to 9 na 10 osób. Jest tutaj wykorzystana teoria, która mówi, że ludzie preferują domyślne ustawienia. Więcej o tym w artykule: 

https://biznes.gazetaprawna.pl/artykuly/1418352,ekonomia-behawioralna-w-polityce-co-to-jak-stosowac.html

Więcej przykładów można znaleźć w artykule:

https://www.skipprichard.com/10-examples-of-nudge-theory/

Czy sztuczna inteligencja pomaga nam podjąć lepsze decyzje?

Teoria Nudge proponuje sposoby, w jakie można pośrednio wpływać na zachowanie, zmieniając otoczenie lub architekturę wyboru na różne sposoby, zwykle w celu wywołania pewnego rodzaju pożądanego wyniku behawioralnego poprzez wykorzystanie naszych naturalnych błędów poznawczych. Pomysł nie jest w pewnym sensie niczym nowym – reklamodawcy od dawna wiedzą, że przykuwając naszą uwagę obrazami i słowami, mogą wpływać na nasze decyzje. Nowością są jednak różne sposoby, za pomocą których można to teraz zrobić online, na przykład manipulując naszymi wynikami wyszukiwania, za pomocą sugestywnych wyszukiwarek, rekomendacji zakupów, reklam ukierunkowanych, a nawet integrując reklamy z naszymi kanałami mediów społecznościowych. Co więcej, rządy, korporacje i inne instytucje mają teraz możliwość kierowania bodźcami dla każdej osoby. Korzystając z algorytmów, które operują na dużych zbiorach danych, można dostosowywać impulsy do poszczególnych osób, a ich skuteczność można śledzić i dostosowywać, gdy algorytm uczy się na podstawie danych zwrotnych śledzących zachowanie użytkownika.

Niezależnie od tego, czy chcemy to przyznać, czy nie, budujemy relacje z aplikacjami. A aplikacje, podobnie jak ludzie, mogą wywoływać u nas zarówno pozytywne, jak i negatywne zachowania. Kiedy ludzie z wysoką inteligencją emocjonalną wchodzą z nami w interakcję, uczą się naszych wzorców, wczuwają się w nasze motywacje i uważnie ważą swoje reakcje. Decydują się nas zignorować, rzucić wyzwanie lub zachęcić nas w zależności od tego, jak przewidują, że zareagujemy. Sztuczną inteligencję można wyszkolić, aby robiła to samo. Nasze zachowania są bardziej przewidywalne, niż lubimy myśleć. Przemysł odchudzający o wartości 70 miliardów dolarów kwitnie, ponieważ firmy dietetyczne wiedzą, że większość ludzi odzyskuje utraconą wagę. Branża kasyn o wartości 40 miliardów dolarów czerpie zyski z nielogicznej nadziei graczy na powrót. Firmy wydające karty kredytowe wiedzą, że ludziom trudno jest przełamać swoje nawyki związane z wydatkami.

Chociaż jest jeszcze dość wcześnie, dziedziny nauk behawioralnych i uczenia maszynowego już dostarczają obiecujących technik tworzenia sztucznej inteligencji o wyższym ilorazie inteligencji emocjonalnej, które organizacje wykorzystują w celu uzyskania lepszych wyników. Techniki te obejmują:

  • Odnotowywanie przerw we wzorcach i szturchanie. Ludzie, którzy cię znają, mogą łatwo stwierdzić, kiedy łamiesz schemat i odpowiednio zareagować. Na przykład znajomy może zauważyć, że nagle zmieniłeś swoją rutynę i zapytać, dlaczego. Internetowy system płacenia rachunków Bank of America podobnie odnotowuje łamanie wzorców, aby zapobiec błędom w wprowadzaniu danych przez użytkownika. System zapamiętuje schemat płatności dokonanych w przeszłości i wysyła ostrzeżenie, jeśli znacząco zwiększysz swoją płatność na rzecz dostawcy.
  • Zachęcanie do samoświadomości za pomocą benchmarków. Mówienie bez ogródek osobom, że radzą sobie słabo, często przynosi odwrotny skutek, prowokując raczej postawę obronną niż większy wysiłek. Bardziej dyplomatyczna metoda po prostu pozwala ludziom zobaczyć, jak porównują się z innymi. Na przykład duża firma technologiczna wykorzystała sztuczną inteligencję do generowania dokładniejszych prognoz sprzedaży niż zespół sprzedaży. Aby skłonić zespół do poprawiania kursu, system zapewnia każdemu członkowi zespołu spersonalizowane wizualizacje pokazujące, jak ich prognozy różnią się od prognoz AI. Proste szturchnięcie następnie pyta, dlaczego tak się dzieje. Członek zespołu może przedstawić racjonalne wyjaśnienie, uniknąć przekazywania informacji zwrotnych lub twierdzić, że sztuczna inteligencja jest nieprawidłowa. Sztuczna inteligencja dowiaduje się o istocie i czasie reakcji jednostki, porównuje ją z luką w dwóch prognozach i może wybrać odpowiednią zachętę drugiego rzędu.
  • Używanie teorii gier do akceptowania lub kwestionowania wniosków. Wyobraź sobie, że jesteś w zespole, który każdego dnia musi znaleźć błędy w ponad 100 000 transakcji funduszy inwestycyjnych. Fundusz zarządzający aktywami o wartości biliona dolarów rozwiązuje ten zniechęcający problem z użyciem sztucznej inteligencji. Pierwsza wersja sztucznej inteligencji oceniała potencjalne błędy (zwane „anomalią”) według ryzyka i potencjalnych kosztów, a następnie umieszczała w kolejce najbardziej ryzykowne anomalie. Następnie system śledził czas, jaki analityk spędził na każdej anomalii. Założono, że analitycy spędzą więcej czasu na anomaliach obarczonych ryzykiem, a mniej na „bez myślenia”. W rzeczywistości niektórzy analitycy przelatywali przez najbardziej ryzykowne anomalie, dochodząc do podejrzanie szybkich wniosków. W większości masowych systemów badań przesiewowych odsetek fałszywych trafień jest często bardzo wysoki. Analitykom funduszy powierniczych przeszukujących niezliczone transakcje, którzy mają do czynienia z tysiącami pasażerów, oczy po prostu prześlizgują się po anomaliach. Fundusz walczy z tym niebezpiecznym, choć wysoce przewidywalnym zachowaniem za pomocą algorytmu stosowanego przez programy do gry w szachy. Ta zmodyfikowana wersja sekwencyjnej teorii gier najpierw monitoruje, czy analityk dochodzi do wniosku, że anomalia jest fałszywym alarmem, czy też decyduje się poświęcić jej więcej czasu. Sztuczna inteligencja, grając rolę szachowego przeciwnika, może podjąć decyzję o kontrataku, akceptując decyzję analityka lub kwestionując ją.

  • Wybór odpowiedniego czasu na wgląd i działanie. Jeff Bezos może być uznawany za autorytet w kwestii podejmowania decyzji. W jednym wywiadzie z Davidem Rubensteinem z Bloomberg TV opisał swój sposób podejmowania decyzji. Kiedy późnym popołudniem podchodził do podejmowania trudnej i skomplikowanej decyzji, często odpowiada: “To nie brzmi jak decyzja na czwartą po południu, to brzmi jak decyzja na 9 rano”.
    Aby zmaksymalizować odpowiedzi na e-maile od potencjalnych klientów należy wybrać odpowiednią porę dnia. Istnieje dramatyczna różnica we wskaźnikach odpowiedzi między wiadomościami wysłanymi we wtorek rano i w piątek po południu. Wiele systemów wiadomości dla konsumentów jest dostosowanych do maksymalizacji wydajności. Algorytm dostrajania można ulepszyć, aby określić rodzaj decyzji, którą należy podjąć, oraz tendencję użytkowników do reagowania i dokonywania lepszych wyborów. Na przykład decyzje, które wymagają więcej przemyśleń, mogą być prezentowane w czasie, gdy decydent ma więcej czasu na przemyślenie. Taka pora jest wybierana albo poprzez przewidywanie, albo przez harmonogram użytkownika.

Wpływ kontra wykrywanie

Sztuczna inteligencja bazująca na przetwarzaniu danych, w których może znajdować się historia działań, może jak najbardziej wykryć, czy nasze akcje są nieprawidłowe. Przykładami może być tutaj analiza danych z kamer CCTV, gdzie AI jest w stanie wykryć kieszonkowców, bądź mogą to być modele wytrenowane do rozpoznawania sentymentów i oceniające, czy posty użytkowników są obraźliwe. Samo nudge theory jednak nie mówi wprost o wykrywaniu ludzkich zachowań, a właśnie wręcz zakłada, że niektóre zachowania u ludzi są wspólne i powtarzalne, a dopiero ta informacja jest wykorzystana aby w określony sposób wpłynąć na działanie jakiejś grupy. Możemy natomiast znaleźć przykłady, gdzie AI będzie tworzyło pewne połączenie z nudge theory. Jeżeli jakiś użytkownik danego portalu będzie publikował nieodpowiednie materiały, niezgodne z polityką danego serwisu, to do najszybszego wykrycia takiej aktywności można zastosować sztuczną inteligencję, która będzie potrafiła określić szkodliwość materiału. Jeżeli jego zawartość jest pozytywna, zgodnie z nudge theory, taki kontent będzie promowany i pojawi się na pierwszej stronie innych użytkowników, w przeciwnym razie zostanie umieszczony na sam koniec, gdzie większość użytkowników najprawdopodobniej nie dotrze.

Wiąże to ze sobą pewne zagrożenie, że techniki te będą wykorzystane do manipulacji. Na platformach takich jak Twitter, czy Telegram, których główną rolą jest wymiana informacji z innymi użytkownikami można w bardzo prosty sposób poddać kontroli udostępniane treści. Ludzie, którzy łamią zasady danego serwisu, wrzucają niewygodne posty, bądź wyznają ideologię sprzeczną z polityką portalu, mogą zostać wykryci przez sztuczną inteligencję i w efekcie zasięg ich wiadomości zostanie znacznie ograniczony.

Bibliografia

  1. Tagliabue, Marco; Simon, Carsta (2018). “Feeding the behavioral revolution : Contributions of behavior analysis to nudging and vice versa”. Journal of Behavioral Economics for Policy. 2 (1): 91–97. S2CID 173172300. Retrieved 2019-06-27.
  2. Wilk, J. (1999), “Mind, nature and the emerging science of change: An introduction to metamorphology.”, in G. Cornelis; S. Smets; J. Van Bendegem (eds.), EINSTEIN MEETS MAGRITTE: An Interdisciplinary Reflection on Science, Nature, Art, Human Action and Society: Metadebates on science, vol. 6, Springer Netherlands, pp. 71–87, doi:10.1007/978-94-017-2245-2_6, ISBN 978-90-481-5242-1
  3.  “Nudge Theory”. www.businessballs.com. Retrieved 2021-05-03.
  4. Kosters, Mark; Van der Heijden, Jeroen (2015). “From mechanism to virtue: evaluating nudge theory” (PDF). Evaluation. 21 (3): 276–91. doi:10.1177/1356389015590218. hdl:1885/71637. S2CID 44192004.
  5. Andrew Sparrow (2008-08-22). “Speak ‘Nudge’: The 10 key phrases from David Cameron’s favorite book”. The Guardian. London. Retrieved 2009-09-09.
  6. Carrasco-Villanueva, Marco (2017-10-18). “Richard Thaler y el auge de la Economía Conductual”. Lucidez (in Spanish). Retrieved 2018-10-31.
  7. Bob Suh “Can AI Nudge Us to Make Better Choices?” https://hbr.org/2019/05/can-ai-nudge-us-to-make-better-choices
  8. Karina Vold, PhD: https://odsc.com/speakers/ai-nudging-data-privacy-manipulation/

Leave a comment

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Najnowsze komentarze

  1. Ciekawe jest porównanie tradycyjnej terapii z nowymi rozwiązaniami opartymi na modelach językowych. Warto zauważyć, że mimo obiecujących wyników, istnieją ważne…