{"id":83,"date":"2022-03-15T19:34:16","date_gmt":"2022-03-15T19:34:16","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=83"},"modified":"2022-03-17T13:24:05","modified_gmt":"2022-03-17T13:24:05","slug":"deep-fake-dzialanie-wykrywanie","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/03\/15\/deep-fake-dzialanie-wykrywanie\/","title":{"rendered":"Deep fake – dzia\u0142anie, wykrywanie"},"content":{"rendered":"

Cz\u0142owiek o wielu twarzach, maski z Mission Impossible, zmiana swojego wizerunku na zawo\u0142anie \u2014 technologie z film\u00f3w, technologie przysz\u0142o\u015bci. Ale czy na pewno? Nazwa deepfake, czyli zbitka angielskich s\u0142\u00f3w deep (g\u0142\u0119boko\u015b\u0107) oraz fake (fa\u0142sz) to technologia pozwalaj\u0105ca na zmian\u0119 swojej twarzy, ale te\u017c\u00a0g\u0142osu, otoczenia i wielu innych. Ograniczeniem jest, \u017ce nie chodzi tutaj o zmian\u0119 w sensie fizycznym, ale cyfrowym. <\/strong><\/p>\n

Czym jest deepfake<\/span><\/h2>\n

Deepfake to zbi\u00f3r rozwi\u0105za\u0144 pozwalaj\u0105cych na zmian\u0119 r\u00f3\u017cnych aspekt\u00f3w materia\u0142\u00f3w cyfrowych w taki spos\u00f3b, \u017ce efekty s\u0105 niemal nierozr\u00f3\u017cnialne od rzeczywisto\u015bci. Materia\u0142ami, o kt\u00f3rych mowa s\u0105 zdj\u0119cia oraz nagrania. Aspektami ulegaj\u0105cymi zmianie mo\u017ce by\u0107 cokolwiek \u2014 twarz osoby na zdj\u0119ciu, s\u0142owa wypowiadane na nagraniu i tak dalej.\u00a0<\/span><\/p>\n

Rozwi\u0105zania deepfake oparte s\u0105 na technologii sieci neuronowych i nie s\u0105 proste do zrobienia. Ich przygotowanie zwykle wymaga du\u017cego wcze\u015bniejszego nak\u0142adu pracy w spreparowaniu ogromnych zbior\u00f3w danych b\u0119d\u0105cych podstaw\u0105 p\u00f3\u017aniejszego uczenia.<\/span><\/p>\n

Wyniki osi\u0105gane w ten spos\u00f3b potrafi\u0105 bez problemu zmyli\u0107 ludzkie oko. Nawet zaawansowane narz\u0119dzia sztucznej inteligencji przygotowywane specjalnie w celu wykrywania deepfake\u2019\u00f3w nie zawsze potrafi\u0105 rozr\u00f3\u017cni\u0107 prawd\u0119 od fikcji. Ale o tym opowiemy p\u00f3\u017aniej. Wa\u017cne jest, \u017ceby technologie tego typu u\u017cywa\u0107 rozwa\u017cnie, poniewa\u017c u\u017cycie ich ze z\u0142o\u015bliwymi lub destrukcyjnymi zamiarami mo\u017ce potencjalnie przynie\u015b\u0107 bardzo du\u017ce szkody w r\u00f3\u017cnych sferach \u017cycia publicznego, jak i prywatnego.<\/span><\/p>\n

Jak si\u0119 tworzy deepfake<\/span><\/h2>\n

Aby dobrze wyt\u0142umaczy\u0107, w jaki spos\u00f3b tworzone s\u0105 deepfake\u2019i, nale\u017cy zacz\u0105\u0107 od poj\u0119cia sieci neuronowej, a dok\u0142adniej od neuronu. Neuron to pojedyncza \u201ckom\u00f3rka\u201d, realizuj\u0105ca jedn\u0105, stosunkowo prost\u0105 operacj\u0119 matematyczn\u0105. Jest on podstawowym \u201cbudulcem\u201d sieci neuronowej, kt\u00f3rej idea polega na po\u0142\u0105czeniu grup neuron\u00f3w w warstwy, a nast\u0119pnie przekazywanie wynik\u00f3w oblicze\u0144 neuron\u00f3w z jednej warstwy do kolejnej. Obszar sieci neuronowych jest tematem obszernym, my zajmiemy si\u0119 tylko jednym podtypem, wykorzystywanym w technologiach deepfake. Podstaw\u0105 powstania pierwszych deepfake by\u0142 rozw\u00f3j technologii GAN (z angielskiego Generative Adversarial Network, czyli w dos\u0142ownym t\u0142umaczeniu \u201cGeneratywne Sieci Wsp\u00f3\u0142zawodnicz\u0105ce\u201d). Brzmi strasznie, ale nie ma co si\u0119 negatywnie nastawia\u0107. Podstaw\u0105 dzia\u0142ania architektury GAN jest istnienie dw\u00f3ch przeciwstawnych sieci neuronowych: generatora i dyskryminatora. Obydwie sieci posiadaj\u0105 wsp\u00f3lny zbi\u00f3r danych, na podstawie kt\u00f3rego ucz\u0105 si\u0119 wykonywa\u0107 r\u00f3\u017cne czynno\u015bci. Generator tworzy nowe materia\u0142y pasuj\u0105ce do otrzymanego zbioru danych. Dyskryminator stara si\u0119 odr\u00f3\u017cni\u0107 dane prawdziwe od danych fa\u0142szywych (czyli te ze zbioru danych od tych wygenerowanych przez generator). Obie sieci ze sob\u0105 wsp\u00f3\u0142dzia\u0142aj\u0105, oddzia\u0142ywuj\u0105c na siebie nawzajem. Wraz z rozwojem jednej z sieci rozwija si\u0119 te\u017c druga. Uczenie si\u0119 mo\u017cna uzna\u0107 za sko\u0144czone, kiedy dyskryminator nie jest ju\u017c w stanie odr\u00f3\u017cni\u0107 danych wygenerowanych od danych autentycznych. Podstaw\u0105 uczenia sieci neuronowych, jak i w og\u00f3lno\u015bci uczenia maszynowego, s\u0105 r\u00f3\u017cnego rodzaju dane. Zbiorem danych wykorzystywanym podczas uczenia sieci neuronowych mo\u017ce by\u0107 niemal\u017ce cokolwiek. Zdj\u0119cia zwierz\u0105t, budynk\u00f3w, samochod\u00f3w \u2014 a w przypadku deepfake twarze ludzi lub ich g\u0142osy. <\/span><\/p>\n

Zagro\u017cenia<\/span><\/h2>\n

Mo\u017cliwo\u015b\u0107 przyw\u0142aszczenia sobie czyjego\u015b wizerunku mo\u017cna wykorzysta\u0107 na wiele sposob\u00f3w. Sam wizerunek, szczeg\u00f3lnie w wersji cyfrowej, nie wystarczy do \u201cklasycznego\u201d wykorzystania kradzie\u017cy osobowo\u015bci, czyli wy\u0142udzenia pieni\u0119dzy, ale mo\u017cna zaszkodzi\u0107 w inny, potencjalnie nawet gorszy spos\u00f3b. Najcz\u0119stszymi ofiarami tego typu dzia\u0142a\u0144 s\u0105 kobiety. A jednymi z pierwszych pokrzywdzonych za pomoc\u0105 tego typu narz\u0119dzi by\u0142y trzy celebrytki – Gal Gadot, Maisie Williams i Taylor Swift. Zapytasz zapewne czytelniku, w jaki spos\u00f3b zosta\u0142y pokrzywdzone. Czy utraci\u0142y maj\u0105tki, straci\u0142y role, zosta\u0142y w jaki\u015b spos\u00f3b zast\u0105pione? Ot\u00f3\u017c nie. Zosta\u0142o pokrzywdzone to, co zosta\u0142o im \u201cukradzione\u201d, czyli ich wizerunek. Pierwszym zastosowaniem technologii deepfake by\u0142 przemys\u0142 pornograficzny. Wizerunki znanych os\u00f3b by\u0142y komputerowo umieszczane zamiast twarzy aktorek w filmach pornograficznych. Taki spos\u00f3b wykorzystania tej technologii jest aktualnie dominuj\u0105cy. Wed\u0142ug raportu Deeptrace (o kt\u00f3rym p\u00f3\u017aniej), 96% film\u00f3w \u201cdeepfejkowych\u201d to filmy o tle pornograficznym. Filmy te s\u0105 oczywi\u015bcie bez wiedzy i zgody poszkodowanych. Ludzie wykorzystuj\u0105cy t\u0119 technologi\u0119 poszli nawet o krok dalej i stworzyli aplikacj\u0119 DeepNude \u2014 oprogramowanie umo\u017cliwiaj\u0105ce \u201cusuwanie\u201d ubra\u0144 z fotografii kobiet. Cho\u0107 po serii protest\u00f3w i r\u00f3\u017cnego rodzaju dzia\u0142a\u0144, aplikacja zosta\u0142a wycofana, to zgodnie z powiedzeniem \u201cz internetu nic kompletnie nie znika\u201d, wersje tej aplikacji nadal kr\u0105\u017c\u0105 po sieci. Cho\u0107 negatywne wykorzystanie tej technologii w przewa\u017caj\u0105cej wi\u0119kszo\u015bci znajduje si\u0119 w przemy\u015ble pornograficznym, w innych dziedzinach \u017cycia r\u00f3wnie\u017c znajduje zastosowanie, z potencjalnie gorszymi skutkami. Politycy oraz osoby maj\u0105ce znacz\u0105cy wp\u0142yw, potrafi\u0105 jedn\u0105 wypowiedzi\u0105, jednym tweetem, wywo\u0142a\u0107 lawin\u0119 konsekwencji, od gwa\u0142townych zmian na rynkach inwestycyjnych, po narastanie napi\u0119\u0107 w konfliktach mi\u0119dzynarodowych. Jest to idealna szansa dla przest\u0119pc\u00f3w, aby \u201cna \u017c\u0105danie\u201d wywo\u0142a\u0107 tego typu sytuacj\u0119. I cho\u0107 mo\u017ce by\u0107 to szybko zdementowane przez osoby, kt\u00f3rych wizerunek kto\u015b \u201cukrad\u0142\u201d, to wywo\u0142ane zawirowania (umiej\u0119tnie wykorzystane) potrafi\u0105 zapewni\u0107 z\u0142odziejowi znaczny przyp\u0142yw pieni\u0119dzy. A skoro ju\u017c jeste\u015bmy w obszarze przest\u0119pczo\u015bci – kolejnym gro\u017anym zastosowaniem deepfake jest fabrykowanie nagra\u0144 np. z monitoringu. Filmy tego typu cz\u0119sto stanowi\u0105 mocny dow\u00f3d przeciwko sprawcy. A co, gdyby kto\u015b potrafi\u0142 zmieni\u0107 nagranie i wrobi\u0107 niewinn\u0105 osob\u0119? Jest to realne zagro\u017cenie, kt\u00f3re nie powinno zosta\u0107 pomini\u0119te w przysz\u0142ych procesach legislacyjnych.<\/span><\/p>\n

Przyk\u0142ady deepfake<\/span><\/h2>\n