{"id":492,"date":"2022-04-03T16:06:41","date_gmt":"2022-04-03T16:06:41","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=492"},"modified":"2022-04-07T11:16:37","modified_gmt":"2022-04-07T11:16:37","slug":"raport-deepfake-padles-ofiare-manipulacji-jak-przeciwdzialac-jak-sie-chronic-od-analizy-technologii-po-systemy-zabezpieczen","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/04\/03\/raport-deepfake-padles-ofiare-manipulacji-jak-przeciwdzialac-jak-sie-chronic-od-analizy-technologii-po-systemy-zabezpieczen\/","title":{"rendered":"Raport: Deepfake &#8211; pad\u0142e\u015b ofiar\u0119 manipulacji? Jak przeciwdzia\u0142a\u0107, jak si\u0119 chroni\u0107. Od analizy technologii po systemy zabezpiecze\u0144"},"content":{"rendered":"<p><strong>W dzisiejszym \u015bwiecie granica pomi\u0119dzy rzeczywisto\u015bci\u0105 a \u015bwiatem wirtualnym zaciera si\u0119 coraz bardziej. Co wi\u0119cej, coraz trudniej zorientowa\u0107 si\u0119, czy to, na co patrzymy, to rzeczywisto\u015b\u0107, czy te\u017c wytw\u00f3r komputerowej technologii. Deepfake oraz rosn\u0105ce mo\u017cliwo\u015bci sztucznej inteligencji powoduj\u0105, i\u017c coraz \u0142atwiej jest nas oszuka\u0107. Jak rozpozna\u0107, czy to , na co patrzymy, to deepfake? Jak si\u0119 przed nimi chroni\u0107? To pytania, na kt\u00f3re warto zna\u0107 odpowied\u017a.<\/strong><\/p>\n<p><!--more--><\/p>\n<p><strong>Deepfake &#8211; co to takiego?<\/strong><\/p>\n<p>Nazwa deepfake pochodzi ze zlepku dw\u00f3ch s\u0142\u00f3w &#8211; deep (deep learning &#8211; metody uczenia maszynowego wykorzystuj\u0105ce sieci neuronowe do takich zastosowa\u0144, jak klasyfikacja tekstu czy generacja obraz\u00f3w) oraz fake (z angielskiego &#8222;fa\u0142szywy&#8221;). S\u0105 to sztucznie wytworzone obrazy lub filmy, w kt\u00f3rych twarz, sylwetka b\u0105d\u017a te\u017c g\u0142os osoby w nich wyst\u0119puj\u0105cej s\u0105 zmienione. Proces nak\u0142adania twarzy na istniej\u0105c\u0105 na nagraniu, generacji ruchu oraz mowy dokonywany jest poprzez g\u0142\u0119bokie sieci neuronowe. Wytworzone w ten spos\u00f3b materia\u0142y, jak np. film pornograficzny b\u0105d\u017a nagie zdj\u0119cia, na kt\u00f3re na\u0142o\u017cona zosta\u0142a czyja\u015b twarz, s\u0105 cz\u0119sto bardzo trudne do odr\u00f3\u017cnienia od prawdziwych.<\/p>\n<p>Jako, \u017ce cz\u0119sto obraz jest wart wi\u0119cej, ni\u017c tysi\u0105c s\u0142\u00f3w, intuicyjne zrozumienie, czym jest deepfake, najlepiej b\u0119dzie osi\u0105gn\u0105\u0107 poprzez przyk\u0142ady:<\/p>\n<ol>\n<li>Twarz Nicolas-a Cage-a wkomponowana w cia\u0142o Davida Schwimmera, Ross-a z serialu Przyjaciele<\/li>\n<\/ol>\n<p><img decoding=\"async\" src=\"https:\/\/pbs.twimg.com\/media\/DynBP1IWkAAkNZX?format=jpg&amp;name=900x900\" alt=\"Zdj\u0119cie\" \/><\/p>\n<p style=\"text-align: right\">\u0179r\u00f3d\u0142o: <a href=\"https:\/\/twitter.com\/clapifyoulikeme\/status\/1092616907340029952\">https:\/\/twitter.com\/clapifyoulikeme\/status\/1092616907340029952<\/a><\/p>\n<p>Dla os\u00f3b niezaznajomionych bli\u017cej z serialem, zdj\u0119cie po prawej mo\u017ce nie budzi\u0107 \u017cadnych podejrze\u0144.<\/p>\n<p>&nbsp;<\/p>\n<p>2. Filmy z &#8222;Tomem Cruisem&#8221; popularne na tik toku<\/p>\n<p><iframe loading=\"lazy\" title=\"Very realistic Tom Cruise Deepfake | AI Tom Cruise\" width=\"600\" height=\"338\" src=\"https:\/\/www.youtube.com\/embed\/iyiOVUbsPcM?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>Osoby nie maj\u0105ce poj\u0119cia o obecnych mo\u017cliwo\u015bciach technologicznych bez mrugni\u0119cia okiem mog\u0142yby uzna\u0107, i\u017c patrz\u0105 na prawdziwego Toma Cruise-a.<\/p>\n<p>&nbsp;<\/p>\n<p>3. Wyst\u0119p &#8222;m\u0142odej Carrie Fisher&#8221; w filmie Star Wars Rouge One<\/p>\n<p><iframe loading=\"lazy\" title=\"Princess Leia Ending Scene - Rogue One: A Star Wars Story (2016) (HD)\" width=\"600\" height=\"338\" src=\"https:\/\/www.youtube.com\/embed\/6Yj31YCa3Xw?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>&nbsp;<\/p>\n<p>Twarz zosta\u0142a oczywi\u015bcie zmodyfikowana cyfrowo. Reporta\u017c odno\u015bnie powstawania tych scen, jak r\u00f3wnie\u017c przywr\u00f3cenia Moffa Tarkina mo\u017cemy obejrze\u0107 w tym filmie:<\/p>\n<p><iframe loading=\"lazy\" title=\"How Rogue One Created Princess Leia, Grand Moff Tarkin\" width=\"600\" height=\"338\" src=\"https:\/\/www.youtube.com\/embed\/xMB2sLwz0Do?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>&nbsp;<\/p>\n<h2>Technologie wykorzystywane przy tworzeniu deepfake<\/h2>\n<p>Deepfake mo\u017ce dotyczy\u0107 generowania twarzy, podmieniania twarzy, generowania video, generowania g\u0142os\u00f3w i innych. Aby po kr\u00f3tce opisa\u0107 jedno z narz\u0119dzi wykorzystywanych do ich tworzenia, skupimy si\u0119 tylko na podmianie twarzy. W tym konkretnym przypadku tworzenia deepfake, bardzo cz\u0119sto wykorzystywanym narz\u0119dziem jest enkoder- dekoder.<\/p>\n<p>W du\u017cym skr\u00f3cie, enkoder-dekoder to g\u0142\u0119boka sie\u0107 neuronowa, podzielona na dwie mniejsze. Jako ca\u0142o\u015b\u0107, ma ona za zadanie nauczy\u0107 si\u0119 kompresowa\u0107 zdj\u0119cie do bardzo ma\u0142ej reprezentacji a nast\u0119pnie, na jej podstawie, generowa\u0107 pierwotne zdj\u0119cie z powrotem. Pierwsza cz\u0119\u015b\u0107 sieci, czyli enkoder, stara si\u0119 jak najlepiej zakodowa\u0107 zdj\u0119cie w postaci najcz\u0119\u015bciej kr\u00f3tkiego wektora liczb. Przyk\u0142adowo zdj\u0119cie 640 na 640 pixeli enkodowane jest poprzez wektor 100 liczb. Druga cz\u0119\u015b\u0107 sieci, stara si\u0119 nauczy\u0107 jak najlepiej generowa\u0107 pierwotne zdj\u0119cie maj\u0105c na wej\u015bciu jego zakodowan\u0105 reprezentacj\u0119. Diagram przyk\u0142adowej sieci:<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/cdn-images-1.medium.com\/max\/800\/1*2lfxmPqase0xyBscsnO9jQ.png\" \/><\/p>\n<p>\u0179r\u00f3d\u0142o: <a href=\"https:\/\/www.kdnuggets.com\/2018\/03\/exploring-deepfakes.html\/2\">https:\/\/www.kdnuggets.com\/2018\/03\/exploring-deepfakes.html\/2<\/a><\/p>\n<p>Za pomoc\u0105 tego \u015brodkowego ograniczenia na wielko\u015b\u0107 zakodowanego wektora, staramy si\u0119 nauczy\u0107 sie\u0107 generowania obrazu na podstawie og\u00f3lniejszych wzor\u00f3w. Np. kilka pierwszych liczb tego wektora mo\u017ce m\u00f3wi\u0107 o tym, gdzie nale\u017cy wygenerowa\u0107 oczy.<\/p>\n<p>Do wygenerowania deepfake potrzebujemy dw\u00f3ch takich sieci. Jedn\u0105 z nich trenujemy na wielu obrazach z twarz\u0105 jednej osoby, a drug\u0105 na twarzach drugiej. W\u015br\u00f3d zdj\u0119\u0107 treningowych u\u017cywamy tak\u017ce nieco zniekszta\u0142conych i &#8222;zaszumionych&#8221; obraz\u00f3w, dzi\u0119ki czemu nauczymy nasz\u0105 sie\u0107 radzi\u0107 sobie tak\u017ce z pewnymi zniekszta\u0142ceniami &#8211; pomo\u017ce nam to w p\u00f3\u017aniejszym etapie. W oby sieciach, pierwsza cz\u0119\u015b\u0107, tj. enkoder, jest taka sama &#8211; mamy tym samym pewno\u015b\u0107, i\u017c zakodowane reprezentacje wektorowe b\u0119d\u0105 mi\u0119dzy sob\u0105 &#8222;kompatybilne&#8221;.<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/cdn-images-1.medium.com\/max\/800\/1*3PGiPLIUEzd0ZMLxlQyFhw.png\" \/><\/p>\n<p>Po nauczeniu sieci, ostatnim krokiem jest zamiana dekoder\u00f3w. W ten spos\u00f3b, wrzucaj\u0105c na wej\u015bcie jedn\u0105 twarz, sie\u0107 b\u0119dzie stara\u0142a si\u0119 &#8222;podmieni\u0107&#8221; twarz w taki spos\u00f3b, aby przypomina\u0142a twarz drugiej osoby, na kt\u00f3rej by\u0142a uczona. Wykonuj\u0105c do przyk\u0142adowo dla wielu klatek filmu, mo\u017cemy stworzy\u0107 film z twarz\u0105 innej osoby.<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/cdn-images-1.medium.com\/max\/800\/1*3m1BKsjoOavu4UPcZw4-Iw.png\" \/><\/p>\n<p>Oczywi\u015bcie ca\u0142a procedura nie jest tak prosta, jak mo\u017ce si\u0119 wydawa\u0107. Aby uzyska\u0107 dobrej jako\u015bci wyniki, potrzebujemy du\u017cego zbioru zdj\u0119\u0107 obu os\u00f3b, odpowiednio g\u0142\u0119bok\u0105 sie\u0107 neuronow\u0105, wystarczaj\u0105co wydajny sprz\u0119t, kt\u00f3ry b\u0119dzie m\u00f3g\u0142 te sie\u0107 nauczy\u0107 oraz wystarczaj\u0105co du\u017co czasu i pieni\u0119dzy na rachunek za pr\u0105d.<\/p>\n<p>&nbsp;<\/p>\n<h2>Deepfake wykorzystane w celach oszustwa<\/h2>\n<p>Wiedz\u0105c, jakie mo\u017cliwo\u015bci daje nam wykorzystanie deepfake, nietrudno zorientowa\u0107 si\u0119, i\u017c jest ono \u015bwietnym narz\u0119dziem do oszukiwania ludzi na wszelakie r\u00f3\u017cne sposoby. Chcemy wy\u0142udzi\u0107 od kogo\u015b pieni\u0105dze? Generujemy g\u0142os kogo\u015b z rodziny naszej ofiary i dzwonimy do niej, lub nawet generujemy g\u0142os wraz z twarz\u0105 i aran\u017cujemy wideorozmow\u0119 (metoda &#8222;na wnuczka&#8221; wchodzi na zupe\u0142nie inny poziom). Chcemy zwi\u0119kszy\u0107 swoje szanse w wyborach albo upokorzy\u0107 nielubian\u0105 przez nas osob\u0119? Wykorzystujemy deepfake do wygenerowania kompromituj\u0105cych zdj\u0119\u0107 i materia\u0142\u00f3w video. Chcemy pochwali\u0107 si\u0119, \u017ce byli\u015bmy na wakacjach w wielu r\u00f3\u017cnych egzotycznych miejscach? Wkomponowujemy w\u0142asn\u0105 twarz w czyje\u015b zdj\u0119cia i chwalimy si\u0119 swoj\u0105 szalon\u0105 wycieczk\u0105 na Instagramie.<\/p>\n<p>To wszystko niestety nie s\u0105 tylko scenariusze filmowe, lecz sytuacje, kt\u00f3re mog\u0105 wydarzy\u0107 si\u0119 naprawd\u0119. Oto kilka przyk\u0142ad\u00f3w u\u017cycia deepfake do oszustw:<\/p>\n<p>&nbsp;<\/p>\n<ol>\n<li>W 2020 oszu\u015bci podszyli si\u0119 pod dyrektora pewnej firmy i oszukali mened\u017cera banku. Oszu\u015bci wytworzyli z pomoc\u0105 g\u0142\u0119okich sieci neuronowych zapis g\u0142osu przypominaj\u0105cy dyrektora kt\u00f3ry zmyli\u0142 mened\u017cera banku i sprawi\u0142, i\u017c zaakceptowa\u0142 on przelewy na \u0142\u0105czn\u0105 kwot\u0119 35 milion\u00f3w dolar\u00f3w.\u00a0 \u0179r\u00f3d\u0142o: https:\/\/www.forbes.com\/sites\/thomasbrewster\/2021\/10\/14\/huge-bank-fraud-uses-deep-fake-voice-tech-to-steal-millions\/<\/li>\n<li>Hakerzy sfabrykowali nagranie z dyrektorem jednego z najwi\u0119kszych rosyjskich bank\u00f3w w kt\u00f3rym &#8222;dyrektor&#8221; namawia\u0142 ludzi do wykorzystania dost\u0119pnych w linku narz\u0119dzi inwestycyjnych, kt\u00f3re mia\u0142y rzekomo przynie\u015b\u0107 a\u017c 50% zysk. Ludzie, podaj\u0105c swoje dane na fa\u0142szywej stronie, przekazywali oszustom takie informacje, jak imie, nazwisko, email, numer telefonu itp. \u0179r\u00f3d\u0142o: https:\/\/slate.com\/technology\/2021\/09\/deepfake-video-scams.html<\/li>\n<li>CEO pewnej firmy w UK zosta\u0142 oszukany poprzez stworzony przez sie\u0107 neuronow\u0105 g\u0142os, kt\u00f3ry mia\u0142 przypomina\u0107 jego prze\u0142o\u017conego, kt\u00f3ry prosi\u0142 go o wykonanie przelewu na 220 000 euro. Sam CEO opisa\u0142 wygenerowany g\u0142os, jako &#8222;zawieraj\u0105cy delikatny niemiecki akcent oraz jego melodia by\u0142a charakterystyczna dla niego&#8221; &#8211; niemal dok\u0142adne odwzorowanie g\u0142osu jego szefa. \u0179r\u00f3d\u0142o: https:\/\/www.forbes.com\/sites\/jessedamiani\/2019\/09\/03\/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000\/?sh=7d440c2b2241<\/li>\n<\/ol>\n<p>Jak wi\u0119c widzimy, oszustwa z u\u017cyciem deepfake nie s\u0105 niezwykle rzadkie. Bior\u0105c pod uwag\u0119 szybki i ci\u0105g\u0142y rozw\u00f3j sieci neuronowych oraz innych komputerowych narz\u0119dzi i technologii, mo\u017cemy si\u0119 spodziewa\u0107, i\u017c liczba takowych oszust b\u0119dzie tylko ros\u0142a.<\/p>\n<p>&nbsp;<\/p>\n<h2>Jak wykry\u0107 Deepfake &#8222;w domu&#8221;?<\/h2>\n<p>Przegl\u0105daj\u0105c Internet mo\u017cna natrafi\u0107 na wiele porad dotycz\u0105cych szukania emocji w g\u0142osie, mimice, zwracania uwagi na nienaturalne zachowania, monotonny styl m\u00f3wienia, brak mrugania oczami. Wszystkie te metody opieraj\u0105 si\u0119 jednak na czysto subiektywnych odczuciach i w miar\u0119 rozwoju technologii stoj\u0105cej za deepfake\u2019ami stan\u0105 si\u0119 (lub ju\u017c teraz s\u0105) raczej w\u0105tpliwe. Zreszt\u0105, przy takich metodach nieuchronnie wystawiamy si\u0119 na dzia\u0142anie demona zwodziciela, kt\u00f3ry nieustannie nas oszukuje. Cho\u0107 to tylko hipotetyczny byt stworzony przez Kartezjusza do innych cel\u00f3w, to jednak nasze zmys\u0142y mog\u0105 by\u0107 zawodne i nas oszukiwa\u0107. Rozwi\u0105zaniem mog\u0105 by\u0107 metody naukowe (jak na przyk\u0142ad Deepfake Detection Challenge) lub odwo\u0142anie si\u0119 do osoby, kt\u00f3rej dany deepfake dotyczy (chyba jednak nigdy nie uda nam si\u0119 zrezygnowa\u0107 z zaufania jako g\u0142\u00f3wnego czynnika w relacjach mi\u0119dzyludzkich). Jednak przy pr\u00f3bie w\u0142asnego rozpoznawania deepfake-\u00f3w bardzo wa\u017cny jest zdrowy rozs\u0105dek. Czy prezydent, kt\u00f3rego rzekomo w\u0142a\u015bnie ogl\u0105damy, m\u00f3g\u0142by powiedzie\u0107 co\u015b takiego? Czy nasz znajomy na pewno zrobi\u0142by sobie takie zdj\u0119cie? Czy kto\u015b z rodziny, z kt\u00f3rym potencjalnie rozmawiamy w\u0142a\u015bnie przez telefon, prosi\u0142by nas o pieni\u0105dze w taki spos\u00f3b? Je\u015bli cokolwiek wzbudzi nasze w\u0105tpliwo\u015bci, warto zwr\u00f3ci\u0107 si\u0119 o pomoc do kogo\u015b, komu jeste\u015bmy w stanie zaufa\u0107.<\/p>\n<h2>Deepfake Detection Challenge<\/h2>\n<p>Deepfake Detection Challenge to projekt zorganizowany przez technologiczny dzia\u0142 Facebooka odbywaj\u0105cy si\u0119 w latach 2019-2020 maj\u0105cy na celu dokonanie post\u0119pu w badaniach nad metodami nad wykrywaniem deepfake\u2019\u00f3w. Na potrzeby konkursu zaproszono do wsp\u00f3\u0142pracy 3500 aktor\u00f3w r\u00f3\u017cnych p\u0142ci i narodowo\u015bci i \u0142\u0105cznie stworzono 115 tysi\u0119cy nagra\u0144, spo\u015br\u00f3d kt\u00f3rych cz\u0119\u015b\u0107 by\u0142a wygenerowana komputerowo. Warto\u015b\u0107 nagr\u00f3d wynios\u0142a milion dolar\u00f3w a \u0142\u0105czna d\u0142ugo\u015b\u0107 nagra\u0144 to prawie 40 dni, co pokazuje, \u017ce Facebook potraktowa\u0142 temat bardzo powa\u017cnie.<\/p>\n<p><a href=\"https:\/\/www.kaggle.com\/c\/deepfake-detection-challenge\">https:\/\/www.kaggle.com\/c\/deepfake-detection-challenge<\/a><br \/>\n<a href=\"https:\/\/www.kaggle.com\/c\/deepfake-detection-challenge\"><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-540\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2022\/04\/2022-04-04-17_11_33-Deepfake-Detection-Challenge-_-Kaggle.png\" alt=\"\" width=\"944\" height=\"205\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/2022-04-04-17_11_33-Deepfake-Detection-Challenge-_-Kaggle.png 944w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/2022-04-04-17_11_33-Deepfake-Detection-Challenge-_-Kaggle-300x65.png 300w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/2022-04-04-17_11_33-Deepfake-Detection-Challenge-_-Kaggle-768x167.png 768w\" sizes=\"auto, (max-width: 944px) 100vw, 944px\" \/><\/a><\/p>\n<p><strong>Konkurs<\/strong><\/p>\n<p>Samo przygotowanie deepfake\u2019\u00f3w odby\u0142o si\u0119 przy wsp\u00f3\u0142pracy z badaczami z takich o\u015brodk\u00f3w akademickich jak MIT, Berkeley, Oxford czy Maryland z wykorzystaniem r\u00f3\u017cnych technik takich jak image enhancement, rozmycia, modyfikacje liczby klatek na sekund\u0119, nak\u0142adanie oraz inne.<\/p>\n<p>Do projektu przyst\u0105pi\u0142o 2,114 uczestnik\u00f3w, kt\u00f3rzy zg\u0142osili 35,109 modeli. Zbi\u00f3r walidacyjny stanowi\u0142o 10 tysi\u0119cy filmik\u00f3w, do kt\u00f3rych uczestnicy wcze\u015bniej nie mieli dost\u0119pu. Co ciekawe, w tym zbiorze znajdowa\u0142y si\u0119 tak\u017ce filmiki znalezione w Internecie, nie tylko przygotowane przez autor\u00f3w konkursu.<\/p>\n<p>Wyniki najlepszych modeli na danych dost\u0119pnych publicznie by\u0142y dosy\u0107 imponuj\u0105ce \u2013 najlepszy uzyska\u0142 82.56 procent dok\u0142adno\u015bci (accuracy). Co ciekawe, po przetestowaniu modeli na wspomnianych wcze\u015bniej filmikach niedost\u0119pnych publicznie, najlepszy okaza\u0142 si\u0119 model Selima Seferbekova z dok\u0142adno\u015bci\u0105 na poziomie 65.18 procent (w klasyfikacji na og\u00f3lnodost\u0119pnych danych znajdowa\u0142 si\u0119 na 4 miejscu). Osoby, kt\u00f3re pierwotnie zaj\u0119\u0142y pierwsze 3 miejsca na danych publicznych, po przetestowaniu ich modeli ostatecznie znalaz\u0142y si\u0119 na pozycjach 37, 6 i 10 co pokazuje jak wa\u017cne jest branie pod uwag\u0119 przeuczenia w trenowaniu siedzi neuronowych i budowaniu modeli.<\/p>\n<p><strong>Najlepsze modele<\/strong><\/p>\n<p>Najlepsze modele mia\u0142y kilka cech wsp\u00f3lnych, kt\u00f3re zdecydowanie zwi\u0119ksza\u0142y ich skuteczno\u015b\u0107:<\/p>\n<p>&#8211; <em>Odpowiednie generowanie pr\u00f3bek<\/em>. Najlepsze modele wykorzystywa\u0142y skomplikowane metody generowania pr\u00f3bek ze zbioru ucz\u0105cego, cz\u0119sto \u0142\u0105cz\u0105c ze sob\u0105 fragmenty twarzy rzeczywistych i tych wygenerowanych przez sztuczn\u0105 inteligencj\u0119. Pojawi\u0142 si\u0119 tak\u017ce model WS-DAN (Weakly Supervised Data Augmentation Network)<\/p>\n<p>&#8211; <em>Odpowiednie architektury sieci<\/em>. Z regu\u0142y najlepsze modele korzysta\u0142y z przetrenowanych architektur (g\u0142ownie wariant B7 EfficientNetu). Z powodzeniem wykorzystywano tak\u017ce ensembling.<\/p>\n<p>&#8211; <em>Brak metod kryminalistyki cyfrowej<\/em>. Co ciekawe, okaza\u0142o si\u0119, \u017ce metody takie jak szukanie \u015blad\u00f3w tworzenia obrazu okaza\u0142y si\u0119 ca\u0142kowicie nieskuteczne, cho\u0107 s\u0105 one szeroko stosowane w kryminalistyce<\/p>\n<p><strong>Podsumowanie<\/strong><\/p>\n<p>Podsumowuj\u0105c konkurs, ostateczne wyniki s\u0105 raczej rozczarowuj\u0105ce \u2013 nawet najlepsze modele nie osi\u0105gn\u0119\u0142y accuracy na poziomie 70 procent. Problem pozostaje wiec ci\u0105gle nierozwi\u0105zany \u2013 okaza\u0142o si\u0119, \u017ce techniczne mo\u017cliwo\u015bci walki z deepfake\u2019ami s\u0105 ci\u0105gle zbyt ma\u0142o zaawansowane.<\/p>\n<h2>A mo\u017ce by tak tego zabroni\u0107?<\/h2>\n<p>Wobec zagro\u017ce\u0144 bezpiecze\u0144stwa (zar\u00f3wno finansowego, psychicznego i osobistego) jakiego mo\u017cna do\u015bwiadczy\u0107 w przypadku deepfake&#8217;ow w naturalny spos\u00f3b pojawia si\u0119 potrzeba odpowiedzi. Oczywi\u015bcie podstawow\u0105 form\u0105 zabezpieczenie przed technologi\u0105 jest inna technologia. We wszystkich domenach wsp\u00f3\u0142czesnego \u015bwiata trwa nieustaj\u0105cy wy\u015bcig zbroje\u0144 &#8211; od wymy\u015blania coraz bardziej skutecznej broni przeciwpancernej przeciwko systemom ochrony przed takimi \u015brodkami do walki w przestrzeni cyber. Czy istnieje inna mo\u017cliwo\u015b\u0107 poradzenia sobie z zagro\u017ceniami powodowanymi przez deepfake&#8217;i?<\/p>\n<p>Zastanawiaj\u0105c si\u0119 nad tym pytaniem, na my\u015bl przychodzi pr\u00f3ba jakie\u015b formy regulacji tego tematu. To w\u0142a\u015bciwie du\u017co szerszy problem dotycz\u0105cy relacji mi\u0119dzy etyk\u0105, pa\u0144stwowym aparatem przymusu (no bo przecie\u017c kt\u00f3\u017c inny mia\u0142by egzekwowa\u0107 domniemywalnie s\u0142uszne ograniczenia moralne) oraz nauk\u0105.<\/p>\n<p><strong>Etyczna odpowiedzialno\u015b\u0107 badaczy<\/strong><\/p>\n<p>Podstaw\u0105 mo\u017ce jednak powinna by\u0107 etyczna postawa os\u00f3b pracuj\u0105cych nad modelami. Oczywi\u015bcie rodzi to wiele kontrowersji i problem\u00f3w z subiektywn\u0105 ocen\u0105 tego, co mo\u017ce przys\u0142u\u017cy\u0107 si\u0119 rzeczywistemu rozwojowi, a co stwarza\u0107 rzeczywiste zagro\u017cenie.<\/p>\n<p>Bardzo wiele firm w okresie wojny na Ukrainie rezygnuje z prowadzenia dzia\u0142alno\u015bci gospodarczej w Rosji. Te kt\u00f3re tego nie zrobi\u0105, musz\u0105 liczy\u0107 si\u0119 z bojkotami konsumenckimi w innych krajach zachodu. W tym kontek\u015bcie chcieliby\u015bmy zauwa\u017cy\u0107, jak pot\u0119\u017cn\u0105 si\u0142\u0119 ra\u017cenia mo\u017ce mie\u0107 bran\u017ca IT. Nie jeste\u015bmy tylko konsumentami. To my jeste\u015bmy dawcami kapita\u0142u, przede wszystkim intelektualnego. Jak mo\u017ce dzia\u0142a\u0107 pa\u0144stwo bez specjalist\u00f3w? By\u0107 mo\u017ce kiedy\u015b zostaniemy postawieni przed wyborem realizowania projektu dla klienta zarabiaj\u0105cego w pa\u0144stwie, gdzie w ra\u017c\u0105cym stopniu prawa cz\u0142owieka s\u0105 \u0142amane? Co wtedy zrobimy?<\/p>\n<p>Sytuacja ta nie jest jednak tak skomplikowana. W zasadzie sprowadza si\u0119 do odpowiedzi na dwa pytania: czy m\u00f3j klient robi co\u015b, co ja uwa\u017cam za niemoralne oraz, je\u015bli tak, czy mi w\u0142a\u015bciwie to przeszkadza?<\/p>\n<p>Bardziej subtelnym problemem jest refleksja nad tym, czy to, nad czym pracuj\u0119 naukowo jest per se dobre, z\u0142e lub moralnie oboj\u0119tne. Tworzenie stronek internetowych jest raczej neutralne, chyba \u017ce tworzysz stronk\u0119 np. dla Al-Kaidy. To pytanie do ludzi kt\u00f3rzy rzeczywi\u015bcie pracuj\u0105 naukowo, wymy\u015blaj\u0105 nowe rzeczy, pr\u00f3buj\u0105 przeciera\u0107 nieprzetarte szlaki. Cho\u0107 w informatyce (a na pewnym poziomie nawet matematyce) pytanie o to czy dane badanie og\u00f3lnie s\u0142u\u017cy dobru by\u0107 mo\u017ce wi\u0119kszo\u015bci pozostanie bez odpowiedzi mo\u017ce w szczeg\u00f3lnych przypadkach trzeba b\u0119dzie pewne kierunki porzuci\u0107.<\/p>\n<p><strong>Alfred Nobel, wybuch i \u015bmier\u0107 brata<img loading=\"lazy\" decoding=\"async\" class=\" wp-image-543 alignleft\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2022\/04\/Alfred_Nobel_1915.jpg\" alt=\"\" width=\"125\" height=\"201\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/Alfred_Nobel_1915.jpg 992w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/Alfred_Nobel_1915-186x300.jpg 186w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/Alfred_Nobel_1915-635x1024.jpg 635w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/Alfred_Nobel_1915-768x1239.jpg 768w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/04\/Alfred_Nobel_1915-952x1536.jpg 952w\" sizes=\"auto, (max-width: 125px) 100vw, 125px\" \/><\/strong><\/p>\n<p>Warto tutaj przytoczy\u0107 niezwykle ciekaw\u0105 i poniek\u0105d paradoksaln\u0105 histori\u0119 wynalezienia dynamitu przez Alfreda Nobla. Po odebraniu starannego wykszta\u0142cenia i praktykach w Pary\u017cu naukowiec ten postanowi\u0142 eksperymentowa\u0107 z nitrogliceryn\u0105 w Szwecji. Podczas eksperyment\u00f3w z wybuchow\u0105 substancj\u0105 dosz\u0142o tam do tragicznego wypadku, w kt\u00f3rym kt\u00f3rym zgin\u0105\u0142 m\u0142odszy brat Alfreda, Emil. W zwi\u0105zku z tym zabroniono jakichkolwiek eksperyment\u00f3w z gliceryn\u0105 w obr\u0119bie Sztokholmu. Jest to przyk\u0142ad regulacji i ograniczenia wolno\u015bci, daj\u0105cy si\u0119 jak najbardziej racjonalnie uzasadni\u0107 &#8211; zgin\u0119li przecie\u017c ludzie. Alfred Nobel jednak my\u015bla\u0142 inaczej i stara\u0142 si\u0119 kontynuowa\u0107 swoj\u0105 prac\u0119 poza Sztokholmem. Ostatecznie uda\u0142o mu si\u0119 odnie\u015b\u0107 sukces i opracowa\u0107 dynamit, kt\u00f3ry mia\u0142 s\u0142u\u017cy\u0107 g\u0142\u00f3wnie do cel\u00f3w przemys\u0142owych, dla u\u0142atwienia ci\u0119\u017ckiej pracy. Oczywi\u015bcie nie pos\u0142u\u017cy\u0142 on tylko do tego &#8211; sta\u0142 si\u0119 tak\u017ce \u015bmierciono\u015bnym narz\u0119dziem w r\u0119kach nieprawych ludzi.<\/p>\n<p><strong>Cenzura<\/strong><\/p>\n<p>Wracaj\u0105c do tematu nadzoru pa\u0144stwowego nad kierunkami rozwoju nauki, najwi\u0119kszy problem stanowi\u0142oby kryterium oceny w\u0142a\u015bciwo\u015bci. Hipotetyczny Urz\u0105d Kontroli Modeli musia\u0142by dysponowa\u0107 wiedz\u0105 pozwalaj\u0105ca okre\u015bli\u0107, kt\u00f3re badania mog\u0105 by\u0107 kontynuowane, a kt\u00f3re nie. Przypomina to cenzur\u0119 ze s\u0142usznie minionej epoki, jednak warto pami\u0119ta\u0107, \u017ce w imi\u0119 bezpiecze\u0144stwa jeste\u015bmy w stanie po\u015bwi\u0119ci\u0107 wiele naszej wolno\u015bci. Pokazuje to na przyk\u0142ad drastyczne zwi\u0119kszenie kontroli na lotniskach po zamachach z 11 wrze\u015bnia lub chocia\u017cby obostrzenia zwi\u0105zane z pandemi\u0105. Nie chodzi o to, \u017ceby zajmowa\u0107 pryncypialne stanowisko i zawsze stawa\u0107 po stronie wolno\u015bci czy bezpiecze\u0144stwa, tylko by\u0107 \u015bwiadomym, \u017ce takie dylematy b\u0119d\u0105 si\u0119 pojawia\u0107, szczeg\u00f3lnie w coraz bardziej niespokojnych czasach.<\/p>\n<h2>Podsumowanie<\/h2>\n<p>Problem deepfake&#8217;\u00f3w nie ogranicza si\u0119 jedynie do technologicznego wy\u015bcigu zbroje\u0144. Poza zagadnieniami typowo naukowymi, dotyka kwestii etycznych i wpisuje si\u0119 w szersz\u0105 dyskusj\u0119 na temat odpowiedzialno\u015bci badaczy i moralno\u015bci w prowadzeniu bada\u0144 naukowych.<\/p>\n<p>&nbsp;<\/p>\n<h3>\u0179r\u00f3d\u0142a<\/h3>\n<ol>\n<li><a href=\"https:\/\/ai.facebook.com\/blog\/deepfake-detection-challenge-results-an-open-initiative-to-advance-ai\">https:\/\/ai.facebook.com\/blog\/deepfake-detection-challenge-results-an-open-initiative-to-advance-ai<\/a><\/li>\n<li><a href=\"https:\/\/arxiv.org\/abs\/2006.07397\">https:\/\/arxiv.org\/abs\/2006.07397<\/a><\/li>\n<li>Kartezjusz,<em> Medytacje o filozofii pierwszej<\/em><\/li>\n<li><a href=\"https:\/\/encyklopedia.pwn.pl\/materialy-dodatkowe\/haslo\/Alfred-Nobel-fortuna-samotnosc-i-honor;448851.html\">https:\/\/encyklopedia.pwn.pl\/materialy-dodatkowe\/haslo\/Alfred-Nobel-fortuna-samotnosc-i-honor;448851.html<\/a><\/li>\n<li><a href=\"https:\/\/pl.wikipedia.org\/wiki\/Deepfake\">https:\/\/pl.wikipedia.org\/wiki\/Deepfake<\/a><\/li>\n<li><a href=\"https:\/\/www.kdnuggets.com\/2018\/03\/exploring-deepfakes.html\/2\">https:\/\/www.kdnuggets.com\/2018\/03\/exploring-deepfakes.html\/2<\/a><\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"<p>W dzisiejszym \u015bwiecie granica pomi\u0119dzy rzeczywisto\u015bci\u0105 a \u015bwiatem wirtualnym zaciera si\u0119 coraz bardziej. Co wi\u0119cej, coraz trudniej zorientowa\u0107 si\u0119, czy to, na co patrzymy, to rzeczywisto\u015b\u0107, czy te\u017c wytw\u00f3r komputerowej technologii. Deepfake oraz rosn\u0105ce mo\u017cliwo\u015bci sztucznej inteligencji powoduj\u0105, i\u017c coraz \u0142atwiej jest nas oszuka\u0107. Jak rozpozna\u0107, czy to , na co patrzymy, to deepfake? Jak [&hellip;]<\/p>\n","protected":false},"author":71,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[15,75,21,24,76],"class_list":["post-492","post","type-post","status-publish","format-standard","hentry","category-uncategorized","tag-ai","tag-bezpieczenstwo","tag-deep-fake","tag-deepfake","tag-zabezpieczenia"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/492","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/71"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=492"}],"version-history":[{"count":22,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/492\/revisions"}],"predecessor-version":[{"id":639,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/492\/revisions\/639"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=492"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=492"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=492"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}