{"id":1708,"date":"2022-06-02T11:55:51","date_gmt":"2022-06-02T11:55:51","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=1708"},"modified":"2022-06-02T11:55:51","modified_gmt":"2022-06-02T11:55:51","slug":"zaprogramowani-mordercy-roboty-i-systemy-autonomiczne-do-celow-bojowych","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/06\/02\/zaprogramowani-mordercy-roboty-i-systemy-autonomiczne-do-celow-bojowych\/","title":{"rendered":"„Zaprogramowani mordercy” – roboty i systemy autonomiczne do cel\u00f3w bojowych"},"content":{"rendered":"

Wojna. Ci\u0105g\u0142a walka, czyli straty, korzy\u015bci, emocje… Te wszystkie uczucia na co dzie\u0144 towarzysz\u0105 \u017co\u0142nierzowi na froncie. A co gdyby pozbawi\u0107 go tych wszystkich emocji? Da\u0107 mu zamiast tego metalowe, du\u017co bardziej wytrzyma\u0142e cia\u0142o, bro\u0144 i proste zestawy rozkaz\u00f3w. Brzmi surrealistycznie, ale jednak ju\u017c dzisiaj mo\u017cemy spotka\u0107 autonomiczne roboty zaprogramowane by zabija\u0107 wrog\u00f3w czy terroryst\u00f3w, czyli po prostu innych ludzi. Do kt\u00f3rego momentu b\u0119dzie to dobre a w kt\u00f3rym ju\u017c niekoniecznie? Kiedy ta utopijna wizja obr\u00f3ci si\u0119 przeciwko nam?<\/strong><\/p>\n

<\/p>\n

Post\u0119p technologiczny jest nieroz\u0142\u0105cznie zwi\u0105zany z konfliktami zbrojnymi. Dlatego te\u017c nie dziwi, \u017ce automatyzacja z wykorzystaniem sztucznej inteligencji nie mog\u0142a omin\u0105\u0107 sektora wojskowego. Zazwyczaj w przypadku inteligentnych broni na ko\u0144cu \u0142a\u0144cucha decyzyjnego znajduje si\u0119 cz\u0142owiek. Cz\u0142owiek, kt\u00f3ry ostatecznie os\u0105dza o odebraniu \u017cycia drugiej osobie. Co si\u0119 jednak dzieje gdy w tym procesie zabraknie czynnika ludzkiego? Co si\u0119 dzieje gdy to maszyna od pocz\u0105tku do ko\u0144ca decyduje o \u017cyciu i \u015bmierci? Wtedy mamy do czynienia z broniami w pe\u0142ni automatycznymi, okre\u015blanymi jako \u201ckiller robots\u201d<\/em>.<\/span><\/p>\n

\"\"
Autonomous weapon, Future of Life Institute<\/figcaption><\/figure>\n

Wed\u0142ug Czerwonego Krzy\u017ca bro\u0144 mo\u017ce zosta\u0107 sklasyfikowana jako automatyczna, gdy w krytycznym procesie namierzania celu oraz u\u017cycia si\u0142y brakuje znacz\u0105cej kontroli cz\u0142owieka. Oznacza to, \u017ce maszyna sama interpretuje sytuacj\u0119 i bez \u017cadnej konsultacji z operatorem podejmuje dzia\u0142anie. Robi to na podstawie zaawansowanych algorytm\u00f3w sztucznej inteligencji, rozpoznawania obrazu do identyfikacji celu, a tak\u017ce ca\u0142ego zestawu czujnik\u00f3w, kt\u00f3re pomagaj\u0105 jej porusza\u0107 si\u0119 w niebezpiecznym terenie.\u00a0<\/span><\/p>\n

Z wykorzystaniem takiego typu broni wi\u0105\u017ce si\u0119 ogromne ryzyko, ale r\u00f3wnie\u017c pewne zalety, kt\u00f3re powoduj\u0105 ci\u0105g\u0142y rozw\u00f3j coraz to bardziej \u015bmierciono\u015bnej technologii.<\/span><\/p>\n

Czy ta zab\u00f3jcza gra jest warta \u015bwieczki
\n<\/strong><\/h2>\n

Wiele os\u00f3b podnosi, \u017ce wykorzystanie broni autonomicznych nie jest tylko dopuszczalne, ale wr\u0119cz konieczne. Powodem jest fakt, \u017ce cz\u0119sto spotykamy si\u0119 z sytuacjami gdy do tragedii przyczyniaj\u0105 si\u0119 ludzkie decyzje. Zm\u0119czeni ci\u0105g\u0142ymi walkami \u017co\u0142nierze mog\u0105 by\u0107 agresywni, przestraszeni albo nawet \u017c\u0105dni zemsty. W takim stanie psychicznym \u0142atwo o b\u0142\u0119dy i lekkomy\u015blne decyzje, kt\u00f3re mog\u0105 doprowadzi\u0107 do ofiar cywilnych lub eskalacji konfliktu. W przeciwie\u0144stwie do ludzi, roboty nie m\u0119cz\u0105 si\u0119, s\u0105 bardziej wydajne, a jedna inteligentna bro\u0144 mo\u017ce zast\u0105pi\u0107 nawet ca\u0142y oddzia\u0142. Nie ulegaj\u0105 emocjom i z surowym obiektywizmem mog\u0105 wymierzy\u0107 strza\u0142. Wojna nie odciska pi\u0119tna na ich psychice, nie musz\u0105 leczy\u0107 traum, zapomina\u0107 tragedii, kt\u00f3rych do\u015bwiadczyli, nie trac\u0105 przyjaci\u00f3\u0142, nie maj\u0105 nikogo bliskiego, kto op\u0142akiwa\u0142 by ich \u201c\u015bmier\u0107\u201d. Wizja wojen, w kt\u00f3rych \u201c\u017cycie\u201d trac\u0105 tylko maszyny wydaje si\u0119 by\u0107 argumentem za rozwojem tej technologii, jednak rzeczywisto\u015b\u0107 nie jest taka prosta.\u00a0<\/span><\/p>\n

Chaos i maszyny<\/h3>\n

Dow\u00f3dcy, kt\u00f3rzy nie musz\u0105 przejmowa\u0107 si\u0119 utrat\u0105 ludzi, mog\u0105 ch\u0119tniej podejmowa\u0107 ryzyko i niepotrzebnie zaognia\u0107 konflikt. Faktem jest, \u017ce technologia nie jest nieomylna, Paul Scharre, by\u0142y urz\u0119dnik Pentagonu i\u00a0 \u017co\u0142nierz twierdzi, \u017ce <\/span><\/p>\n

\u201cjakkolwiek wyrafinowane by\u0142yby systemy autonomicznej broni, brakuje im ludzkiej elastyczno\u015bci i zrozumienia z\u0142o\u017cono\u015bci sytuacji.\u201d<\/span><\/i><\/p><\/blockquote>\n

Na froncie cz\u0119sto panuje chaos, priorytety si\u0119 zmieniaj\u0105 a wydarzenia potrafi\u0105 przybra\u0107 nieoczekiwany rozw\u00f3j. W takich warunkach, na jakie \u017cadna sztuczna inteligencja nie jest przygotowana, cz\u0142owiek wraz ze swoj\u0105 intuicj\u0105 i do\u015bwiadczeniem sprawdza si\u0119 du\u017co lepiej ni\u017c nie idealny algorytm. Argument\u00f3w przeciwko wykorzystywaniu i rozwijaniu \u201crobot\u00f3w zab\u00f3jc\u00f3w\u201d jest wiele, od dylemat\u00f3w moralnych po strach przed cyberatakami.\u00a0\u00a0<\/span><\/p>\n

Jedn\u0105 z najwa\u017cniejszych obaw jest du\u017ce ryzyko skrzywdzenia niewinnych jednostek. Zgodnie z mi\u0119dzynarodowym prawem, dzia\u0142ania wojenne powinny by\u0107 proporcjonalne do zagro\u017cenia, a ataki na ludno\u015bci cywilnej s\u0105 w pewnym stopniu akceptowane tylko wtedy, gdy nie by\u0142y celowym zabiegiem. W przypadku wykorzystania sztucznej inteligencji rodzi si\u0119 pytanie – jak sklasyfikowa\u0107 dzia\u0142anie robota jako intencjonalne lub nieintencjonalne? Czy spowodowane by\u0142o b\u0142\u0119dem w algorytmie, z\u0142ymi odczytami z czujnik\u00f3w, a mo\u017ce zupe\u0142nie przemy\u015blanym i zamierzonym ruchem? Problem stanowi r\u00f3wnie\u017c przypisanie odpowiedzialno\u015bci za czyny konkretnej osobie. Gdy nikt nie ponosi winy i nie mo\u017ce zosta\u0107 skazany, pojawia si\u0119 ryzyko celowego agresywnego dzia\u0142ania, kt\u00f3re zostanie p\u00f3\u017aniej przedstawione jako \u201cwada systemu\u201d lub \u201cb\u0142\u0105d maszyny\u201d.\u00a0 Mo\u017ce to doprowadzi\u0107 do eskalacji konfliktu i sporych nadu\u017cy\u0107 ze strony rz\u0105dz\u0105cych.\u00a0<\/span><\/p>\n

Nowy typ atak\u00f3w<\/h3>\n

Podobne ryzyko dotyczy potencjalnych atak\u00f3w hakerskich na \u015bmierciono\u015bne roboty. Czym bardziej zaawansowana bro\u0144, tym bardziej wyrafinowane sposoby na jej pokonanie. Sztuczna inteligencja jest podatna na oszustwa. Je\u015bli rozpracujemy algorytm i systemy ni\u0105 kieruj\u0105ce, \u0142atwo zmieni\u0107 spos\u00f3b w jaki robot postrzega rzeczywisto\u015b\u0107 i wp\u0142yn\u0105\u0107 na jego ocen\u0119 sytuacji. Co\u015b co dla cz\u0142owieka jest \u0142atwo rozr\u00f3\u017cnialne, dla maszyny mo\u017ce stanowi\u0107 problem. Ataki nie musz\u0105 polega\u0107 tylko na oszukiwaniu programu, ale te\u017c czujnik\u00f3w, dzi\u0119ki kt\u00f3rym robot rozpoznaje otaczaj\u0105cy go \u015bwiat, np. poprzez zag\u0142uszanie sygna\u0142\u00f3w GPS. Trudno sobie wyobrazi\u0107, co mo\u017ce si\u0119 sta\u0107 gdy tak niebezpieczna technologia wpadnie w niepowo\u0142ane r\u0119ce.\u00a0<\/span><\/p>\n

\"\"
Turkish KARGU drone (STM Photo)<\/figcaption><\/figure>\n

Nieprzewidywalno\u015b\u0107 sztucznej inteligencji w sytuacjach bojowych jest \u015bci\u015ble zwi\u0105zana z faktem, \u017ce bardzo trudno testowa\u0107 takie rozwi\u0105zania w sytuacjach zbli\u017conych do prawdziwego konfliktu zbrojnego. Misje odbywaj\u0105 si\u0119 na ogromnym obszarze, ze zmienn\u0105 pogod\u0105, zagro\u017ceniem ze strony wrogich \u017co\u0142nierzy i innych maszyn. Nie jeste\u015bmy w stanie przystosowa\u0107 robota do ka\u017cdej mo\u017cliwej sytuacji, szczeg\u00f3lnie gdy mia\u0142by on wsp\u00f3\u0142pracowa\u0107 z innymi, podobnymi sobie maszynami. W innych dziedzinach, w kt\u00f3rych wykorzystujemy sztuczn\u0105 inteligencj\u0119 nie jest to a\u017c takim problemem, jak na polu bitwy, gdzie ryzykujemy ludzkie \u017cycia.\u00a0<\/span><\/p>\n

Emocje nie zawsze musz\u0105 by\u0107 \u017ar\u00f3d\u0142em b\u0142\u0119dnych decyzji. Czasami wyj\u0105tkowo wa\u017cna jest umiej\u0119tno\u015b\u0107 okazania wsp\u00f3\u0142czucia i lito\u015bci, do kt\u00f3rych niezdolne s\u0105 nawet bardzo zaawansowane algorytmy. Ludzka moralno\u015b\u0107 jest trudna do zaprogramowania i zasymulowania. Jednak mo\u017cna si\u0119 k\u0142\u00f3ci\u0107 czy b\u0119d\u0105c \u017co\u0142nierzem nie lepiej wyzby\u0107 si\u0119 swojego sumienia na rzecz rozkaz\u00f3w.\u00a0\u00a0<\/span><\/p>\n

Ka\u017cda kontrowersyjna opinia znajdzie swoich zagorza\u0142ych zwolennik\u00f3w i przeciwnik\u00f3w. Temat \u201crobot\u00f3w zab\u00f3jc\u00f3w\u201d porusza wielu specjalist\u00f3w, kt\u00f3rzy spieraj\u0105 si\u0119 mi\u0119dzy sob\u0105 czy plusy wykorzystania takiej technologii przewy\u017cszaj\u0105 liczb\u0119 minus\u00f3w.<\/span><\/p>\n

Ciekaw\u0105 opini\u0119 na ten temat ma Neil deGrasse Tyson:<\/span><\/p>\n