{"id":5058,"date":"2024-05-08T23:04:13","date_gmt":"2024-05-08T23:04:13","guid":{"rendered":"http:\/\/architeles.eu\/ethics\/?p=5058"},"modified":"2024-05-09T07:20:14","modified_gmt":"2024-05-09T07:20:14","slug":"czy-aktorow-na-netflixie-bedziemy-wybierac-jak-wojownikow-w-mortal-kombat-wplyw-deepfakeu-na-kinematografie","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2024\/05\/08\/czy-aktorow-na-netflixie-bedziemy-wybierac-jak-wojownikow-w-mortal-kombat-wplyw-deepfakeu-na-kinematografie\/","title":{"rendered":"Czy aktor\u00f3w na Netflixie b\u0119dziemy wybiera\u0107 jak wojownik\u00f3w w Mortal Kombat? Wp\u0142yw deepfake’u na kinematografi\u0119."},"content":{"rendered":"

Modele i narz\u0119dzia generuj\u0105ce obrazy ju\u017c zawita\u0142y do naszej codzienno\u015bci. Jednak gdy w gr\u0119 wchodzi generowanie wysokiej jako\u015bci wideo, wydawa\u0142oby si\u0119, \u017ce ten etap jest jeszcze przed nami. A mo\u017ce realistyczne wideo, uzyskane z pomoc\u0105 pot\u0119\u017cnego modelu to ju\u017c tera\u017aniejszo\u015b\u0107? Jak wykorzystywany jest deepfake i czy da si\u0119 z nim walczy\u0107? W tym artykule postaramy si\u0119 to przedyskutowa\u0107. Zawrzemy te\u017c nasz\u0105 opini\u0119 na temat deepfake’u i jego moralno\u015bci.<\/strong><\/p>\n

<\/p>\n

Wst\u0119p<\/h1>\n

Deepfake<\/em> to technologia (b\u0105d\u017a media powsta\u0142e w wyniku jej u\u017cycia) umo\u017cliwiaj\u0105ca stworzenie wysoce realistycznych medi\u00f3w syntetycznych takie jak obrazy, wideo b\u0105d\u017a nagrania, na kt\u00f3rych osoba, b\u0105d\u017a jej g\u0142os s\u0105 zamieniane na podobizn\u0119\/g\u0142os innej osoby.<\/p>\n

Narz\u0119dzia deepfake wykorzystuj\u0105 zaawansowane metody uczenia maszynowego, aby manipulowa\u0107 lub generowa\u0107 tre\u015bci wizualne i audio, tworz\u0105c fa\u0142szywe multimedia, kt\u00f3re mog\u0105 by\u0107 trudne do odr\u00f3\u017cnienia od prawdziwych. Cho\u0107 taka technologia i matematyczne mechanizmy wykorzystane przy budowie takich narz\u0119dzi mog\u0105 brzmie\u0107 ekscytuj\u0105co, deepfake zwykle kojarzymy z czym\u015b negatywnym.<\/p>\n

W tym artykule zg\u0142\u0119bimy i przedyskutujemy kilka temat\u00f3w dotycz\u0105cych deepfake’u. Zaczniemy od rozr\u00f3\u017cnienia tego, co jest, a co nie jest deepfake’iem i om\u00f3wienia najnowszych osi\u0105gni\u0119\u0107 w dziedzinie sztucznej inteligencji stosowanej do generowania wideo. Nast\u0119pnie przejdziemy do zastosowania deepfake w kinematografii, np. tworzeniu sztucznych aktor\u00f3w przez Disney’a oraz wp\u0142ywie na przemys\u0142 filmowy widzianym na przyk\u0142adzie strajku SAG-AFTRA. Na koniec podamy przyk\u0142ady szkodliwego wykorzystywania tej technologii, om\u00f3wimy jej wp\u0142yw na spo\u0142ecze\u0144stwo oraz jej moralne implikacje.<\/p>\n

 <\/p>\n

\"Fake<\/a>
Stworzony przez Midjourney fa\u0142szywy wizerunek papie\u017ca Franciszka w puchowej kurtce.<\/figcaption><\/figure>\n

Co jest deepfake’em a co nim nie jest?<\/h1>\n

Termin „deepfake” zosta\u0142 po raz pierwszy u\u017cyty na szerok\u0105 skal\u0119 w grudniu 2017 roku, kiedy to u\u017cytkownik platformy Reddit o pseudonimie Deepfakes opublikowa\u0142 wideo pornograficzne z wykorzystaniem technologii zamiany twarzy znanych os\u00f3b na twarze znanych aktorek (m.in. Gal Gadot, Maisie Williams i Taylor Swift). Narz\u0119dzia deepfake s\u0142u\u017c\u0105ce do tworzenia wideo wykorzystuj\u0105 metody uczenia maszynowego takie jak autoenkodery wariacyjne (VAE<\/em>), generatywne sieci przeciwstawne (GAN<\/em>) czy modele dyfuzyjne (diffusion models<\/em>).<\/p>\n

Deepfake mo\u017cna podzieli\u0107 na r\u00f3\u017cne kategorie na podstawie u\u017cytej technologii:
\n1. Face swapping<\/strong> \u2013 zamiana jednej twarzy na inn\u0105 w istniej\u0105cym wideo czy zdj\u0119ciu.
\n2. Facial reenactment<\/strong> \u2013 manipulacja ekspresjami twarzy w zapisie wideo, tak aby osoba na wideo zdawa\u0142a si\u0119 m\u00f3wi\u0107 co\u015b innego ni\u017c w rzeczywisto\u015bci.
\n3. Synthetic image generation<\/strong> \u2013 generowanie ca\u0142kowicie nowych obraz\u00f3w twarzy lub innych element\u00f3w, kt\u00f3re nie s\u0105 oparte na \u017cadnej istniej\u0105cej postaci.
\n4. Audio deepfakes<\/strong> \u2013 generowanie syntetycznych \u015bcie\u017cek d\u017awi\u0119kowych, kt\u00f3re na\u015bladuj\u0105 g\u0142os konkretnej osoby.<\/p>\n

 <\/p>\n

\"Face
Diagram przedstawiaj\u0105cy proces Face swapping dla klatki wideo [1].<\/figcaption><\/figure>\n

Zale\u017cnie od celu ich stworzenia, materia\u0142y deepfake mo\u017cna klasyfikowa\u0107 jako:
\n1. Rozrywkowe<\/strong> \u2013 maj\u0105 charakter humorystyczny, cz\u0119sto dotycz\u0105 bohater\u00f3w popkultury lub postaci fikcyjnych np. zmiana twarzy aktor\u00f3w w filmach.
\n2. Edukacyjne<\/strong> \u2013 wykorzystanie do symulacji scenariuszy lub rekonstrukcji historycznych wydarze\u0144.
\n3. Dezinformacyjne<\/strong> \u2013 propagowanie nieprawdziwych informacji, maj\u0105 charakter fake news\u00f3w, mog\u0105 dotyczy\u0107 os\u00f3b publicznych i wprowadza\u0107 odbiorc\u0119 w b\u0142\u0105d.
\n4. Dyskredytuj\u0105ce<\/strong> \u2013 u\u017cywanie deepfake do o\u015bmieszenia b\u0105d\u017a kompromitacji przez publikacj\u0119 nagra\u0144 lub zdj\u0119\u0107 fa\u0142szuj\u0105cych czyny, lub wypowiedzi os\u00f3b; niekt\u00f3re z takich przypadk\u00f3w klasyfikuj\u0105 si\u0119 jako dzia\u0142ania przest\u0119pcze.<\/p>\n

Badania wykaza\u0142y, \u017ce oko\u0142o 96% wideo deepfake’\u00f3w to filmy pornograficzne i prawie wszystkie z nich dotyczy\u0142y kobiet [2]. Pozosta\u0142e 4% w wi\u0119kszo\u015bci stanowi\u0105 filmy przedstawiaj\u0105ce znane osoby: m.in. celebryt\u00f3w i polityk\u00f3w.<\/p>\n

Innym przyk\u0142adem wykorzystywania deepfake’\u00f3w jest sytuacja gdy kto\u015b podszywa si\u0119 pod naszego przyjaciela i wysy\u0142a nam wideo, w kt\u00f3rym np. prosi o szczodry przelew. Podobna sytuacja, ale na wi\u0119ksz\u0105 skal\u0119, zdarzy\u0142a si\u0119 w Marcu 2019 roku, gdy CEO brytyjskiej firmy energetycznej otrzyma\u0142 telefon od swojego szefa, prezesa firmy-matki z Niemiec. Odebra\u0142 telefon i us\u0142ysza\u0142 znajomy g\u0142os z niemieckim akcentem \u2014 szef przekaza\u0142 mu, \u017ce ma przela\u0107 220 000 euro na konto dostawcy na W\u0119grzech. Brytyjczyk go pos\u0142ucha\u0142. Jednak gdy fake’owy szef spr\u00f3bowa\u0142 tego triku ponownie, ten drugi sta\u0142 si\u0119 podejrzliwy i nie zrealizowa\u0142 ju\u017c kolejnych przelew\u00f3w. Niestety, 220 000 euro zosta\u0142o ju\u017c stracone. W przysz\u0142o\u015bci, wraz z rozwojem takich technologii, podszywanie si\u0119 pod innych stanie si\u0119 dziecinnie proste (np. na podstawie jednego zdj\u0119cia), wi\u0119c musimy by\u0107 przygotowani i podejrzliwie reagowa\u0107 na niestandardowe pro\u015bby od naszych znajomych.<\/p>\n

Inn\u0105, ale podobn\u0105 (i cz\u0119\u015bciowo si\u0119 pokrywaj\u0105c\u0105) ga\u0142\u0119zi\u0105 technologii s\u0105 modele generuj\u0105ce wideo. Nie s\u0105 one tym samym co narz\u0119dzia do deepfake’u \u2014 narz\u0119dzia deepfake, takie jak FaceApp, DeepFaceLab czy ZAO, s\u0142u\u017c\u0105 bezpo\u015brednio do manipulacji i generowania fa\u0142szywej tre\u015bci w mediach, gdzie g\u0142\u00f3wnym celem jest zmiana wygl\u0105du twarzy lub mowy w zarejestrowanych materia\u0142ach.<\/p>\n

Modele typu text-to-video<\/em>, jak SORA od OpenAI, cho\u0107 mog\u0105 by\u0107 stosowane do tworzenia realistycznych scen opartych na wprowadzonych opisach tekstowych, nie s\u0142u\u017c\u0105 bezpo\u015brednio do generowania fa\u0142szywych film\u00f3w. S\u0105 to bardziej zaawansowane narz\u0119dzia s\u0142u\u017c\u0105ce do przekszta\u0142cania tekstowych opis\u00f3w w dynamiczne wizualizacje, kt\u00f3re mog\u0105 obejmowa\u0107 zar\u00f3wno sceny przypominaj\u0105ce rzeczywisto\u015b\u0107 jak i syntetyczne postacie oraz sytuacje nieistniej\u0105ce naprawd\u0119.<\/p>\n

W kontek\u015bcie etycznym i prawnym r\u00f3\u017cnica mi\u0119dzy narz\u0119dziami przeznaczonymi stricte do tworzenia deepfake’\u00f3w a modelami generuj\u0105cymi tre\u015bci video z tekstu ma kluczowe znaczenie, poniewa\u017c manipulacje deepfake\u2019owe zazwyczaj wi\u0105\u017c\u0105 si\u0119 z wi\u0119kszym ryzykiem nadu\u017cy\u0107 i s\u0105 bardziej kontrowersyjne ni\u017c inne formy sztucznej generacji tre\u015bci, kt\u00f3re mog\u0105 mie\u0107 wiele pozytywnych zastosowa\u0144.<\/p>\n

Nowo\u015bci w Video AI<\/h1>\n

Najnowsze osi\u0105gni\u0119cia w dziedzinie Video AI pokazuj\u0105, \u017ce deepfake’i mog\u0105 sta\u0107 si\u0119 nie niemal nieodr\u00f3\u017cnialne od rzeczywisto\u015bci. SORA od OpenAI i VASA-1 od Microsoft definiuj\u0105 nowe granice mo\u017cliwo\u015bci generowania wideo, ale r\u00f3wnie\u017c stawiaj\u0105 pytania dotycz\u0105ce etyki i bezpiecze\u0144stwa cyfrowego.<\/p>\n

SORA <\/b>\u2014 rozwijany przez OpenAI model AI specjalizuj\u0105cy si\u0119 w generowaniu kr\u00f3tkich klip\u00f3w wideo na podstawie opis\u00f3w tekstowych. Pozwala on na tworzenie scen obejmuj\u0105cych r\u00f3\u017cnorodne elementy \u2014 od detalicznych ruch\u00f3w kamery po wyra\u017canie emocji przez postacie. Co wa\u017cne, model ma zdolno\u015b\u0107 do przed\u0142u\u017cania istniej\u0105cych ju\u017c klip\u00f3w poprzez dodawanie do nich nowej tre\u015bci, co otwiera nowe perspektywy dla sektora filmowego.<\/p>\n

Zadziwiaj\u0105ce jest, jak SORA radzi sobie z interpretacj\u0105 j\u0119zyka i przek\u0142adaniem tekstu na dynamiczne wideo. Dzi\u0119ki wykorzystaniu architektury diffusion transformer<\/em>\u00a0model\u00a0jest w stanie wygenerowa\u0107 wysokiej jako\u015bci materia\u0142 wideo, kt\u00f3ry jest nie tylko realistyczny, ale i zgodny z intencjami tw\u00f3rcy.<\/p>\n

Jednak\u017ce, jak przyzna\u0142o OpenAI, model ten napotyka problemy z symulacj\u0105 fizyki kompleksowej sceny oraz zrozumieniem przyczynowo\u015bci, co mo\u017ce wp\u0142ywa\u0107 na autentyczno\u015b\u0107 wygenerowanych scen. Mimo tych niedoskona\u0142o\u015bci potencja\u0142 SORA jest ogromny, cho\u0107 niekt\u00f3rzy wyra\u017caj\u0105 obawy zwi\u0105zane z mo\u017cliwo\u015bci\u0105 wykorzystania tej technologii do cel\u00f3w dezinformacyjnych.<\/p>\n

 <\/p>\n