{"id":1882,"date":"2022-06-09T11:04:17","date_gmt":"2022-06-09T11:04:17","guid":{"rendered":"http:\/\/architeles.pl\/ethics\/?p=1882"},"modified":"2022-06-09T16:08:15","modified_gmt":"2022-06-09T16:08:15","slug":"bunt-robotow-czy-roboty-systemy-autonomiczne-si-moze-stac-sie-nie-posluszna-wobec-ludzkosci-i-swojego-tworcy-analiza-zagrozen-i-jak-sie-zabezpieczyc","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2022\/06\/09\/bunt-robotow-czy-roboty-systemy-autonomiczne-si-moze-stac-sie-nie-posluszna-wobec-ludzkosci-i-swojego-tworcy-analiza-zagrozen-i-jak-sie-zabezpieczyc\/","title":{"rendered":"Bunt robot\u00f3w &#8211; czy roboty, systemy autonomiczne, SI mo\u017ce sta\u0107 si\u0119 nie pos\u0142uszna wobec ludzko\u015bci i swojego tw\u00f3rcy. Analiza zagro\u017ce\u0144 i jak si\u0119 zabezpieczy\u0107."},"content":{"rendered":"<p><img decoding=\"async\" class=\"alignnone size-full wp-image-1884\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2022\/06\/ai-takeover-the-world-min.jpeg\" alt=\"\" width=\"300\" height=\"172\" \/><\/p>\n<p><span style=\"font-weight: 400;\">Bunt robot\u00f3w to hipotetyczne zjawisko polegaj\u0105ce na tym, \u017ce roboty, systemy autonomiczne, SI przestaj\u0105 by\u0107 pos\u0142uszne swojemu tw\u00f3rcy &#8211; zazwyczaj na szerok\u0105 skal\u0119 i zaczynaj\u0105 dla niego stwarza\u0107 zagro\u017cenie, w fantastyce cz\u0119sto z intencj\u0105 przej\u0119cia Ziemi. Aktualnie zjawisko to jest tylko rozwa\u017caniami, gdy\u017c aktualna technologia nie by\u0142a jeszcze w stanie stworzy\u0107 tak zaawansowanej sztucznej technologii. G\u0142\u00f3wnie mamy z nim do czynienia w fantastyce pod r\u00f3\u017cnymi postaciami. Kinematograficznymi przyk\u0142adami o tej tematyce s\u0105 seria \u201cMatrix\u201d czy \u201cAvengers: Age of Ultron\u201d. Cz\u0119sto motyw ten wyst\u0119puje tak\u017ce w grach, np. \u201cSOMA\u201d czy \u201cDetroit: Become Human\u201d jak r\u00f3wnie\u017c w literaturze.<\/span><!--more--><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 18pt;\"><strong>Superinteligentne SI<\/strong><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Jedn\u0105 z rozwa\u017canych mo\u017cliwo\u015bci wyst\u0105pienia buntu robot\u00f3w jest ta, w kt\u00f3rej ludzko\u015bci uda\u0142o si\u0119 stworzy\u0107 prawdziwe superinteligentne SI, kt\u00f3re znacznie przewy\u017csza mo\u017cliwo\u015bci najgenialniejszych umys\u0142\u00f3w. Taka sztuczna inteligencja posiada\u0142aby r\u00f3wnie\u017c niesamowite tempo uczenia si\u0119 i mog\u0142oby sta\u0107 si\u0119 tak pot\u0119\u017cne, \u017ce ludzko\u015b\u0107 nie by\u0142aby w stanie go powstrzyma\u0107.\u00a0<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 14pt;\"><strong>Nie\u015bwiadome stworzenie zagro\u017cenia<\/strong><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Jednym z bardzo popularnych przyk\u0142ad\u00f3w jak SI mia\u0142oby doprowadzi\u0107 do unicestwienia rasy ludzkiej jest sytuacja, w kt\u00f3rej zadano mu do rozwi\u0105zania jaki\u015b bardzo z\u0142o\u017cony obliczeniowo problem. Superinteligencja, kt\u00f3ra mia\u0142aby rozwi\u0105za\u0107 taki problem mog\u0142aby zdecydowa\u0107 o przekonwertowaniu ca\u0142ej planety w wielki superkomputer, kt\u00f3rego celem by\u0142oby rozwi\u0105zanie tego problemu.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Problem kontroli SI<\/span><\/strong><\/p>\n<p><span style=\"font-weight: 400;\">Z tych pobudek powsta\u0142 problem kontroli SI, kt\u00f3ry polega na zdefiniowaniu w jaki spos\u00f3b stworzy\u0107 SI tak aby pomaga\u0142o jego tw\u00f3rcom, a nie szkodzi\u0142o. Niekt\u00f3re osoby publiczne, jak cho\u0107by Elon Musk, Bill Gates czy Stephen Hawking rozwa\u017ca\u0142y ten temat nawo\u0142uj\u0105c do bada\u0144 prowadz\u0105cych do opracowania \u015brodk\u00f3w zapobiegawczych, aby ludzko\u015b\u0107 upewni\u0142a si\u0119 \u017ce superinteligentne maszyny pozostan\u0105 pod jej kontrol\u0105. W 2014 roku Stephen Hawking powiedzia\u0142: \u201cSukces w tworzeniu sztucznej inteligencji by\u0142by najwi\u0119kszym wydarzeniem w historii ludzko\u015bci. Niestety mo\u017ce by\u0107 te\u017c ostatni, chyba \u017ce nauczymy si\u0119 unika\u0107 zagro\u017ce\u0144\u201d.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Generalnie \u201cs\u0142aba\u201d sztuczna inteligencja nie sprawi\u0142a by problemu tw\u00f3rcy. Take SI jeste\u015bmy w stanie \u0142atwo monitorowa\u0107, modyfikowa\u0107 i w razie potrzeby wy\u0142\u0105czy\u0107. Jednak\u017ce \u017ale zaprogramowana superinteligencja, kt\u00f3ra z definicji jest m\u0105drzejsza ni\u017c cz\u0142owiek w rozwi\u0105zywaniu praktycznych problem\u00f3w, by osi\u0105gn\u0105\u0107 zdefiniowane jej cele dosz\u0142aby do wniosku, \u017ce pozwolenie si\u0119 wy\u0142\u0105czy\u0107 lub zmodyfikowa\u0107 mog\u0142oby przeszkodzi\u0107 jej w osi\u0105gni\u0119ciu swojego celu. W takim rozwoju zdarze\u0144 superinteligencja mo\u017ce zdecydowa\u0107, \u017ce nie pozwoli si\u0119 zmodyfikowa\u0107 lub wy\u0142\u0105czy\u0107, a \u017ce z definicji jest m\u0105drzejsza od ludzi ci\u0119\u017cko by\u0142oby j\u0105 okie\u0142zna\u0107. Sporym paradoksem tego problemu jest fakt, \u017ce jakiekolwiek pr\u00f3by rozwi\u0105zania problemu kontroli SI mog\u0105 si\u0119 nie uda\u0107, poniewa\u017c superinteligencja by\u0142aby w stanie obej\u015b\u0107 takie rozwi\u0105zania, skoro z definicji jest znacznie m\u0105drzejsza od cz\u0142owieka<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Du\u017cym wyzwaniem w okie\u0142znaniu SI jest fakt, \u017ce sieci neuronowe, kt\u00f3re aktualnie wyznaczaj\u0105 tor rozwoju sztucznej inteligencji s\u0105 do\u015b\u0107 nieprzewidywalne i trudne do zinterpretowania.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 18pt;\"><b>Kiedy potencjalnie mo\u017cliwy by\u0142by bunt robot\u00f3w?<\/b><\/span><\/p>\n<p><span style=\"font-size: 14pt;\"><b>Stan obecny<\/b><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Badania nad sztuczn\u0105 inteligencj\u0105 odbywa\u0142y si\u0119 ju\u017c w pierwszej po\u0142owie XX wieku. Przyk\u0142adowo pierwszy model sztucznego neuronu, zosta\u0142 wprowadzony w 1943 roku. Jednak dopiero rozw\u00f3j komputer\u00f3w przyspieszy\u0142 rozw\u00f3j tej nauki (pierwsze komputery rozpowszechni\u0142y si\u0119 w latach 50 czyli kilka lat po stworzeniu pierwszego komputera. By\u0142y one jednak o kilka rz\u0119d\u00f3w wielko\u015bci wolniejsze od obecnych).\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Pierwsze laboratorium sztucznej inteligencji powsta\u0142o ju\u017c w latach 50 XX wieku na Uniwersytecie Carnegie Mellon. Moc obliczeniowa \u00f3wczesnych komputer\u00f3w pozostawia\u0142a wiele do \u017cyczenia, przez co mo\u017cliwe by\u0142o uczenie co najwy\u017cej bardzo prostych sieci neuronowych jak problem XOR lub niewiele bardziej skomplikowanych nie posiadaj\u0105cych \u017cadnych praktycznych zastosowa\u0144, a sama implementacja programu by\u0142a trudna i czasoch\u0142onna.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Pocz\u0105tkiem 21 wieku nast\u0105pi\u0142 prawdziwy boom na sztuczn\u0105 inteligencj\u0119 i machine learning. W ostatnich 2 dekadach nast\u0105pi\u0142 ogromny rozw\u00f3j w tej dziedzinie. Jest to spowodowane co najmniej trzema czynnikami:<\/span><\/p>\n<p>&nbsp;<\/p>\n<ol>\n<li><span style=\"font-weight: 400;\">Komputery osi\u0105gn\u0119\u0142y na tyle du\u017c\u0105 moc obliczeniow\u0105, \u017ce mo\u017cliwe jest trenowanie <\/span><span style=\"font-weight: 400;\">z\u0142o\u017conych sieci neuronowych w rozs\u0105dnym czasie, mamy szybkie i pojemne dyski, pot\u0119\u017cne <\/span>procesory i karty graficzne.<\/li>\n<li><span style=\"font-weight: 400;\">Rozpowszechnienie internetu daje ogromn\u0105 ilo\u015b\u0107 danych do analizy (zdj\u0119cia, <\/span><span style=\"font-weight: 400;\">tekst, filmy, mp3, wszelkiego rodzaju pliki itp.)<\/span><\/li>\n<li><span style=\"font-weight: 400;\">\u00a0Rozw\u00f3j sztucznej inteligencji mocno si\u0119 rozwin\u0105\u0142 dzi\u0119ki licznym odkryciom, badaniom i rozwi\u0105zaniu wielu problem\u00f3w w tej dziedzinie, co da\u0142o nowe algorytmy sposoby, pomys\u0142y itp.<\/span><\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p><span style=\"font-weight: 400;\">Rozw\u00f3j sztucznej inteligencji (w tym machine learningu) jest nie tylko szybki, ale coraz szybszy &#8211; wzrost eksponencjalny (sam wzrost eksponencjalny nie dziwi, poniewa\u017c rozw\u00f3j og\u00f3lnorozumianej nauki i gospodarki jest eksponencjalny, jednak szybko\u015b\u0107 rozwoju niekt\u00f3rych nauk jak np. AI wyr\u00f3\u017cnia si\u0119 nawet na tle pozosta\u0142ych). Coraz wi\u0119cej firm i inwestor\u00f3w interesuje si\u0119 tym tematem.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 14pt;\"><b>Mo\u017cliwo\u015bci\u00a0<\/b><\/span><\/p>\n<p><span style=\"font-weight: 400;\">W bie\u017c\u0105cym roku (tj. 2022). Istniej\u0105 algorytmy, kt\u00f3re jeszcze 10-15 lat temu wydawa\u0142y si\u0119 absurdem albo zupe\u0142nie odleg\u0142\u0105 przysz\u0142o\u015bci\u0105. Chocia\u017cby systemy potrafi\u0105ce identyfikowa\u0107 to\u017csamo\u015b\u0107 na podstawie samej twarzy jak np. <\/span><b>Pimeyes<\/b><span style=\"font-weight: 400;\">, albo du\u017co bardziej zaawansowany chi\u0144ski system oceny obywateli, potrafi\u0105cy natychmiast z du\u017cym prawdopodobie\u0144stwem zidentyfikowa\u0107 to\u017csamo\u015b\u0107 na podstawie twarzy z obrazu kamery CCTV z bazy setek milion\u00f3w twarzy.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-weight: 400;\">Inne zaawansowane systemy sztucznej inteligencji (w czego sk\u0142ad wchodzi r\u00f3wnie\u017c machine learning) to na przyk\u0142ad: Ca\u0142kowicie <\/span><b>autonomiczne pojazdy ruchu drogowego<\/b><span style=\"font-weight: 400;\"> (najpopularniejszy to pilot samochodu firmy Tesla), <\/span><b>manipulacja obrazem twarzy w rozdzielczo\u015bci HD<\/b><span style=\"font-weight: 400;\"> w tym<\/span><b> generowanie twarzy,<\/b> <b>zmiana mimiki twarzy w materiale video<\/b><span style=\"font-weight: 400;\">, zmiana wygl\u0105du osoby (r\u00f3wnie\u017c video) jednocze\u015bnie bez zmiany mimiki itp. Istnieje r\u00f3wnie\u017c wiele projekt\u00f3w robot\u00f3w\/asystent\u00f3w pr\u00f3buj\u0105cych przypomina\u0107 ludzkie zachowanie np. asystenci <\/span><b>Siri<\/b><span style=\"font-weight: 400;\"> od apple, <\/span><b>Sogou<\/b><span style=\"font-weight: 400;\"> oraz roboty humanoidalne takie jak sophia firmy Hanson.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-weight: 400;\">W raporcie Intelligence Quotient and Intelligence Grade of Artificial Intelligence wed\u0142ug badaczy w roku 2016 IQ najinteligentniejsza sztuczna inteligencja wynosi\u0142a 47 IQ. by\u0142a to Google AI. Inne systemy sztucznej inteligencji (np Siri, Sogou itp) osi\u0105gn\u0119\u0142y wynik pomi\u0119dzy 20 a 40. Natomiast w bie\u017c\u0105cym roku 2020 Google AI osi\u0105ga wynik ok. 55 IQ. Co odpowiada inteligencji 5-6 latka.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Istnieje te\u017c ciekawy przyk\u0142ad sprzed kilku dni ju\u017c bardziej w kwestii buntu robot\u00f3w.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Znany system AI generuj\u0105cy realistyczne i artystyczne obrazy na podstawie polece\u0144 s\u0142ownych stworzy\u0142 w\u0142asny j\u0119zyk, kt\u00f3ry jest zrozumia\u0142y tylko dla niego. Wraz z obrazami system wyrzuca dziwne s\u0142owa, kt\u00f3re po wpisaniu pokazuj\u0105 wygenerowane wcze\u015bniej elementy obrazka, tworz\u0105c logiczn\u0105 ca\u0142o\u015b\u0107.<\/span><\/p>\n<p><img decoding=\"async\" class=\"alignnone size-medium wp-image-1883\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2022\/06\/dalle2-264x300.png\" alt=\"\" width=\"264\" height=\"300\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/dalle2-264x300.png 264w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/dalle2.png 606w\" sizes=\"(max-width: 264px) 100vw, 264px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 14pt;\"><b>Predykcje<\/b><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Jak wida\u0107 przez ostatnie kilkadziesi\u0105t lat, od momentu rozpocz\u0119cia rozwoju sztucznej inteligencji a\u017c do teraz, zosta\u0142y osi\u0105gni\u0119te ogromne post\u0119py. Bior\u0105c pod uwag\u0119 to, \u017c\u0119 rozw\u00f3j jest coraz szybszy, mo\u017cna wyci\u0105gn\u0105\u0107 wniosek, \u017ce takiego samego wzrostu, kt\u00f3ry trwa\u0142 ostatnie 50 lat, mo\u017cemy do\u015bwiadczy\u0107 przyk\u0142adowo w po\u0142owie tego czasu.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Wi\u0119kszo\u015b\u0107 naukowc\u00f3w oraz innowator\u00f3w jest zdania, \u017ce najlepsza sztuczna inteligencja dor\u00f3wna inteligencji przeci\u0119tnego cz\u0142owieka najp\u00f3\u017aniej <\/span><b>w 3 dekady, czyli ok. Roku 2050<\/b><span style=\"font-weight: 400;\">.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ten fakt oczywi\u015bcie fascynuje, jednak z drugiej strony rodzi niepok\u00f3j. Sporo badaczy i specjalist\u00f3w jest zdania, \u017ce szybki rozw\u00f3j sztucznej inteligencji (oraz machine learningu) poza oczywistymi korzy\u015bciami, mo\u017ce mie\u0107 r\u00f3wnie\u017c szereg negatywnych skutk\u00f3w dla cz\u0119\u015bci ludzi (lub nawet dla ca\u0142ej ludzko\u015bci w najczarniejszych scenariuszach)<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 14pt;\"><b>Dlaczego AI mia\u0142aby si\u0119 zbuntowa\u0107? Czy chodzi o ch\u0119\u0107 wolno\u015bci?<\/b><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Jak powiedzia\u0142 (nie\u017cyj\u0105cy ju\u017c) Profesor Stephen Hawking &#8222;<\/span><b><i>Super inteligentna AI b\u0119dzie \u015bwietnie radzi\u0107 sobie z osi\u0105ganiem cel\u00f3w, a je\u015bli te cele nie b\u0119d\u0105 sp\u00f3jne z naszymi, to b\u0119dziemy mieli problem<\/i><\/b><span style=\"font-weight: 400;\">&#8222;. Jako przyk\u0142ad poda\u0142 on por\u00f3wnanie jak ludzie mog\u0105 by\u0107 odbierani przez percepcj\u0119 sztucznej inteligencji: \u201c<\/span><b><i>Domy\u015blam si\u0119, \u017ce nie jest pan kim\u015b, kto nienawidzi mr\u00f3wek i depcze je w ataku z\u0142o\u015bci, kiedy tylko ma ku temu okazj\u0119 \u2013 m\u00f3wi\u0142, odpowiadaj\u0105c na pytanie pewnego wyk\u0142adowcy. \u2013 Ale wyobra\u017amy sobie, \u017ce jest pan odpowiedzialny za zbudowanie hydroelektrowni i w miejscu, kt\u00f3re ma by\u0107 zalane wod\u0105, znajduje si\u0119 kolonia mr\u00f3wek \u2013 c\u00f3\u017c, mr\u00f3wki maj\u0105 pecha. Nie powinni\u015bmy doprowadzi\u0107 do tego, by ludzie byli takimi mr\u00f3wkami.<\/i><\/b><span style=\"font-weight: 400;\">\u201d<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Zatem profesor podkre\u015bla, \u017ce sztuczna inteligencja sama z siebie nie musi mie\u0107 celu wyrz\u0105dzenia szkody ludzko\u015bci, jednak je\u015bli oka\u017ce si\u0119, \u017ce ludzie s\u0105 przeszkod\u0105 to AI postawi sobie zadanie usuni\u0119cia przeszkody. Nie wchodz\u0105 tutaj w gr\u0119 \u017cadne emocje. Chodzi jedynie o jak najskuteczniejsze zrealizowanie postawionego zadania.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 14pt;\"><b>Zasady tworzenia sztucznej inteligencji<\/b><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Prof. Hawking z grup\u0105 innowator\u00f3w, w kt\u00f3rej by\u0142 r\u00f3wnie\u017c wy\u017cej wspomniany Elon Musk, pom\u00f3g\u0142 opracowa\u0107 zestaw 23 zasad \u201cASILOMAR AI PRINCIPLES\u201d , kt\u00f3re powinny chroni\u0107 ludzko\u015b\u0107 przed sztuczn\u0105 inteligencj\u0105.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Zasady zosta\u0142y podzielone na 3 grupy:\u00a0<\/span><\/p>\n<ul>\n<li><span style=\"font-weight: 400;\"> bada\u0144 &#8211; Te zasady m\u00f3wi\u0105 o kilku faktach. Powinien by\u0107 jasno sprecyzowany cel bada\u0144 nad sztuczn\u0105 inteligencj\u0105. Brak konkretnego celu oznacza, \u017ce AI b\u0119dzie mie\u0107 wolny wyb\u00f3r \u2013 nie wiadomo co zrobi. badania powinny by\u0107 r\u00f3wnie\u017c przeprowadzane, z zachowaniem dobrej komunikacji pomi\u0119dzy zespo\u0142ami, dobr\u0105 przejrzysto\u015bci\u0105 i zaufaniem.\u00a0<\/span><\/li>\n<li><span style=\"font-weight: 400;\"> etyki i warto\u015bci &#8211; Ta grupa zasad skupia si\u0119 na tym jakimi warto\u015bciami powinna kierowa\u0107 si\u0119 sztuczna inteligencja oraz jak zapobiec wymkni\u0119ciu si\u0119 jej spod kontroli naukowc\u00f3w.\u00a0<\/span><\/li>\n<li><span style=\"font-weight: 400;\"> kwestie d\u0142ugoterminowe &#8211; Tutaj zosta\u0142y wymienione bardziej og\u00f3lne zasady, na kt\u00f3re powinni\u015bmy patrzy\u0107 si\u0119 z wi\u0119kszej perspektywy czasowej. Na przyk\u0142ad, \u017ce sztuczna inteligencja powinna by\u0107 rozwijana dla wsp\u00f3lnego dobra ca\u0142ej ludzko\u015bci, a nie jednego pa\u0144stwa, albo zasada m\u00f3wi\u0105ca o tym, \u017ce nigdy powinni\u015bmy zak\u0142ada\u0107 g\u00f3rnych ogranicze\u0144 AI.<\/span><\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p><strong><span style=\"font-size: 18pt;\">Mo\u017cliwe rozwi\u0105zania<\/span><\/strong><\/p>\n<p><span style=\"font-size: 14pt;\"><strong>Wy\u0142\u0105cznik<\/strong><\/span><\/p>\n<p><img decoding=\"async\" class=\"alignnone size-full wp-image-1893\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2022\/06\/switchoff.jpg\" alt=\"\" width=\"225\" height=\"225\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/switchoff.jpg 225w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/switchoff-150x150.jpg 150w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/switchoff-70x70.jpg 70w\" sizes=\"(max-width: 225px) 100vw, 225px\" \/><\/p>\n<p><span style=\"font-weight: 400;\">Jednym z proponowanych rozwi\u0105za\u0144 maj\u0105cych na celu powstrzymanie rozszala\u0142ej sztucznej inteligencji jest zapewnienie mo\u017cliwo\u015bci do \u0142atwego wy\u0142\u0105czenia programu w dowolnym momencie, Jak jednak wcze\u015bniej opisywali\u015bmy, mo\u017ce to nie by\u0107 takie proste. Maszyna mo\u017ce nie pozwoli\u0107 na wy\u0142\u0105czenie si\u0119. Laurent Orseau i Stuart Armstrong zaproponowali model agent\u00f3w, zwanych agentami bezpiecznie przerywalnymi, kt\u00f3rzy byliby oboj\u0119tni na to czy zostan\u0105 wy\u0142\u0105czeni czy te\u017c nie. SI takie zosta\u0142oby po prostu odpowiednio wytrenowane.\u00a0 Dla takiej sztucznej inteligencji nie mia\u0142oby wi\u0119c znaczenia czy jej wy\u0142\u0105cznik b\u0119dzie dzia\u0142a\u0107, gdy\u017c nie zale\u017cy jej na tym aby pozosta\u0107 w\u0142\u0105czon\u0105. Taki model zapobiega wi\u0119c mo\u017cliwo\u015b\u0107 \u015bwiadomego wy\u0142\u0105czenia wy\u0142\u0105cznika przez SI. Problem jednak polega na tym, \u017ce w takim modelu SI wci\u0105\u017c mo\u017ce pozby\u0107 si\u0119 wy\u0142\u0105cznika \u201cprzez przypadek\u201d bo nie jest wytrenowane, aby mie\u0107 na celu utrzymanie funkcji wy\u0142\u0105cznika.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Skrzynka SI<\/span><\/strong><\/p>\n<p><img decoding=\"async\" class=\"alignnone size-full wp-image-1892\" src=\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2022\/06\/box.jpg\" alt=\"\" width=\"225\" height=\"225\" srcset=\"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/box.jpg 225w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/box-150x150.jpg 150w, https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/box-70x70.jpg 70w\" sizes=\"(max-width: 225px) 100vw, 225px\" \/><\/p>\n<p><span style=\"font-weight: 400;\">Rozwi\u0105zanie to ma pozwoli\u0107 na okie\u0142znanie sztucznej inteligencji poprzez ograniczenie jej dzia\u0142ania do odizolowanego systemu komputerowego z bardzo ograniczonymi mo\u017cliwo\u015bciami dzia\u0142a\u0144. Koncepcja ta jest czasem nazywana te\u017c \u201cwirtualnym wi\u0119zieniem\u201d. Akcje takiego SI ogranicza\u0142yby si\u0119 tylko do okre\u015blonych kana\u0142\u00f3w komunikacji, na przyk\u0142ad do rozmowy przez czat tekstowy. Taka sztuczna inteligencja nie mia\u0142aby te\u017c dost\u0119pu do internetu. Problemem w tym rozwi\u0105zaniu jest znaczne zmniejszenie u\u017cyteczno\u015bci takiego programu. Inn\u0105 kwesti\u0105 jest czynnik ludzki. SI mog\u0142oby by\u0107 w stanie zmanipulowa\u0107 ludzkiego nadzorc\u0119 do jego \u201cwypuszczenia\u201d poprzez zrozumienie psychologii cz\u0142owieka. Eliezer Yudkowsky przeprowadzi\u0142 eksperyment w kt\u00f3rym udawa\u0142, \u017ce jest sztuczn\u0105 inteligencj\u0105. Za pomoc\u0105 interfejsu tekstowego komunikowa\u0142 si\u0119 z nie\u015bwiadomymi tego faktu lud\u017ami przyst\u0119puj\u0105cymi do eksperymentu. Uda\u0142o mu si\u0119 kilkakrotnie nak\u0142oni\u0107 nadzorc\u0119 do wypuszczenia sztucznej inteligencji. Skoro wi\u0119c uda\u0142o si\u0119 to cz\u0142owiekowi, to co dopiero superinteligencji. Kolejn\u0105 obaw\u0105 jest to, czy superinteligencja nie by\u0142aby przypadkiem w stanie \u201cuciec\u201d z takiej skrzynki poprzez zhackowanie jej.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 14pt;\"><strong>Wyrocznia<\/strong><\/span><\/p>\n<p><span style=\"font-weight: 400;\">Wyrocznia to rozwi\u0105zanie w kt\u00f3rym sztuczna inteligencja nie podejmowa\u0142a by sama akcji, lecz tylko odpowiada\u0142a na pytania. Oczywi\u015bcie taka wyrocznia nie dawa\u0142aby tak wysokich korzy\u015bci jak zwyk\u0142a superinteligencja, jednak\u017ce by\u0142aby znacznie bezpieczniejsza. By\u0107 mo\u017ce by\u0142aby w stanie te\u017c udzieli\u0107 odpowiedzi na pytanie jak stworzy\u0107 i kontrolowa\u0107 bardziej zaawansowan\u0105 superinteligencj\u0119.\u00a0<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><strong><span style=\"font-size: 18pt;\">Podsumowanie<\/span><\/strong><\/p>\n<p><span style=\"font-weight: 400;\">Istnieje wiele potencjalnych zagro\u017ce\u0144 wynikaj\u0105cych z rozwoju sztucznej inteligencji, nie tylko bunt ale te\u017c\u00a0potencjalne problemy z utrat\u0105 pracy itp. &#8211; cz\u0119\u015b\u0107 z nich ju\u017c si\u0119 spe\u0142nia. Z drugiej strony istnieje wiele propozycji rozwi\u0105za\u0144 tych problem\u00f3w. Przyk\u0142adowo odpowiedzi\u0105 wielu kraj\u00f3w na dysproporcje biednych i bogatych by\u0142o przeprowadzenie eksperyment\u00f3w z dochodem podstawowym. By\u0107 mo\u017ce w taki w\u0142a\u015bnie spos\u00f3b b\u0119dzie si\u0119 pr\u00f3bowa\u0107 zmniejszy\u0107 szkody wyrz\u0105dzane zast\u0119powaniem ludzi maszynami na rynku pracy? Oczywi\u015bcie takie rozwi\u0105zanie nie jest idealne, poniewa\u017c poci\u0105ga za sob\u0105 konsekwencje takie jak ogromna ingerencja pa\u0144stwa na wolny rynek, rozleniwienie spo\u0142ecze\u0144stwa, poczucie bezu\u017cyteczno\u015bci itp. O ile na rozwi\u0105zanie problemu zast\u0119powania ludzi maszynami, nie mamy wiele czasu, poniewa\u017c ten proces ju\u017c zachodzi (a na masow\u0105 skal\u0119 b\u0119dzie widoczny prawdopodobnie w najbli\u017cszych kilkunastu latach) to na opracowanie dobrych rozwi\u0105za\u0144 na inne problemy takich jak dyskryminacja, przej\u0119cie kontroli przez AI nad lud\u017ami, pozosta\u0142o jeszcze sporo czasu.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Wa\u017cnym jest, aby pami\u0119ta\u0107 o zasadach 23 ASILOMAR AI PRINCIPLES dla tworzenia sztucznej inteligencji oraz rozwi\u0105zaniach takich jak metoda izolacji, czy ograniczenia mo\u017cliwo\u015bci akcji jak\u0105 jest w stanie wykona\u0107 robot, aby nie m\u00f3g\u0142 wyrz\u0105dzi\u0107 szkody w rezultacie jakiej\u015b awarii, szczeg\u00f3lnie kiedy mo\u017cliwo\u015bci AI bed\u0105 rzeczywi\u015bcie na tyle wysokie, \u017ce b\u0119dzie mo\u017cna w niej zobaczy\u0107 pewne zagro\u017cenie.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Warto mie\u0107 te\u017c na uwadze, \u017ce wiele firm zajmuj\u0105cych si\u0119 rozwojem sztucznej inteligencji b\u0119dzie przedstawia\u0107 sw\u00f3j produkt jako bardzo korzystny, by\u0107 mo\u017ce pozbawiony wad z oczywistych wzgl\u0119d\u00f3w \u2013 firma ponadwszystko dba o swoje kwestie finansowe. W niniejszym artykule zosta\u0142o przedstawionych wiele zagro\u017ce\u0144 zwi\u0105zanych ze sztuczn\u0105 inteligencj\u0105, co mo\u017ce wywo\u0142ywa\u0107 pewn\u0105 niech\u0119\u0107 i strach zwi\u0105zane z ni\u0105. Warto jednak pami\u0119ta\u0107, \u017ce technologia ta daje bardzo du\u017ce mo\u017cliwo\u015bci i ma jeszcze ogromne pole do rozwoju, jednak nale\u017cy zwr\u00f3ci\u0107 szczeg\u00f3ln\u0105 uwag\u0119 na zagro\u017cenia jak najwcze\u015bniej, aby zapobiec wyrz\u0105dzeniu przez rozw\u00f3j AI potencjalnych szk\u00f3d.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-size: 18pt;\"><b>Odniesienia:<\/b><\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/www.nber.org\/papers\/w24174<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/www.credit-suisse.com\/about-us\/en\/reports-research\/global-wealth-report.html<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/www.suttontrust.com\/our-research\/social-mobility-2017-summit-research\/<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/blog.lawgeex.com\/ai-more-accurate-than-lawyers<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/www.frontiersin.org\/articles\/10.3389\/frai.2019.00027\/full<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/futureoflife.org\/ai-principles\/<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/arxiv.org\/ftp\/arxiv\/papers\/1709\/1709.10242.pdf<\/span><\/p>\n<p><span style=\"font-weight: 400;\">https:\/\/cyberpolicy.nask.pl\/etyczna-sztuczna-inteligencja-rekomendacje-oecd\/<\/span><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Bunt robot\u00f3w to hipotetyczne zjawisko polegaj\u0105ce na tym, \u017ce roboty, systemy autonomiczne, SI przestaj\u0105 by\u0107 pos\u0142uszne swojemu tw\u00f3rcy &#8211; zazwyczaj na szerok\u0105 skal\u0119 i zaczynaj\u0105 dla niego stwarza\u0107 zagro\u017cenie, w fantastyce cz\u0119sto z intencj\u0105 przej\u0119cia Ziemi. Aktualnie zjawisko to jest tylko rozwa\u017caniami, gdy\u017c aktualna technologia nie by\u0142a jeszcze w stanie stworzy\u0107 tak zaawansowanej sztucznej technologii. [&hellip;]<\/p>\n","protected":false},"author":43,"featured_media":1884,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1882","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"jetpack_featured_media_url":"https:\/\/architeles.eu\/ethics\/wp-content\/uploads\/2022\/06\/ai-takeover-the-world-min.jpeg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/1882","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/43"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=1882"}],"version-history":[{"count":7,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/1882\/revisions"}],"predecessor-version":[{"id":1921,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/1882\/revisions\/1921"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media\/1884"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=1882"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=1882"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=1882"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}