{"id":9779,"date":"2026-06-22T11:52:49","date_gmt":"2026-06-22T11:52:49","guid":{"rendered":"https:\/\/architeles.eu\/ethics\/?p=9779"},"modified":"2026-06-22T11:55:27","modified_gmt":"2026-06-22T11:55:27","slug":"czarne-dziury-mroczne-umysly-i-zacmiona-przyszlosc-cz-ii-ktorym-zwierzakiem-ai-bedziesz-jutro","status":"publish","type":"post","link":"https:\/\/architeles.eu\/ethics\/index.php\/2026\/06\/22\/czarne-dziury-mroczne-umysly-i-zacmiona-przyszlosc-cz-ii-ktorym-zwierzakiem-ai-bedziesz-jutro\/","title":{"rendered":"Czarne dziury, mroczne umys\u0142y i za\u0107miona przysz\u0142o\u015b\u0107 Cz. II: Kt\u00f3rym zwierzakiem AI b\u0119dziesz jutro?"},"content":{"rendered":"

Czarne dziury, mroczne umys\u0142y i za\u0107miona przysz\u0142o\u015b\u0107
\nCz. II: Kt\u00f3rym zwierzakiem AI b\u0119dziesz jutro?<\/span><\/h1>\n

Post ten jest cz\u0119\u015bci\u0105 cyklu – zach\u0119cam do popularnonaukowej podr\u00f3\u017cy do \u015bwiata kwantowego w cz. I.<\/em><\/span><\/p>\n

Wiewi\u00f3rki \u2013 jedna z istotnych przyczyn uszkodze\u0144 infrastruktury elektrowni i przerw w dostawie pr\u0105du. To \u017cart? Bynajmniej: \u201cThe American Public Power Association reports that squirrels caused more than 8% of outages in 2018.\u201d<\/span> [<\/span>1<\/span><\/a>] Oczywi\u015bcie nie jest to a\u017c tak szeroko zakrojony problem, \u017ceby si\u0119ga\u0107 po rozwi\u0105zania ostateczne, ale na potrzeby tej narracji za\u0142\u00f3\u017cmy, \u017ce ludzko\u015b\u0107 postanawia raz na zawsze zapobiec stratom powodowanym przez ten gatunek.\u00a0<\/span><\/p>\n

\u201c<\/span>Make America\u2019s grid great again.<\/span><\/i>\u201d \u201c<\/span>America’s public enemy number one in the United States is squirrels. In order to fight and defeat this enemy, it is necessary to wage a new, all-out offensive.<\/span><\/i>\u201c<\/span> Jest rok 2037. Ludzko\u015b\u0107 opracowa\u0142a plan ca\u0142kowitej zag\u0142ady gryzoni o s\u0142odkich puszystych ogonach, zakopuj\u0105cych orzechy. Do 2040 b\u0119dzie to ju\u017c tylko legenda z filmik\u00f3w ze s\u0142odkimi zwierzakami i zdezaktualizowanych podr\u0119cznik\u00f3w do przyrody. A co na to wiewi\u00f3rki? Nic, siedz\u0105 i zawijaj\u0105 w sreberka\u2026 Nie maj\u0105 dost\u0119pu do naszych medi\u00f3w, nie potrafi\u0105 nas zrozumie\u0107 i nie potrafi\u0105 zinterpretowa\u0107 subtelnych zmian w otaczaj\u0105cej je rzeczywisto\u015bci. S\u0105 gatunkiem zbyt ma\u0142o inteligentnym, by przewidzie\u0107 ludzkie plany, a tym bardziej im przeciwdzia\u0142a\u0107. Jak to dobrze, \u017ce nie spotkali\u015bmy jeszcze gatunku, dla kt\u00f3rego byliby\u015bmy takimi wiewi\u00f3rkami\u2026 By\u0107 mo\u017ce taki gatunek istnieje, by\u0107 mo\u017ce obserwuje nas w hiper-zaawansowanych teleskopach i projektuje \u201cterrestrialny eksperyment kseno-spo\u0142eczny\u201d, kt\u00f3rego nie powstydzi\u0142by si\u0119 Mengele na sta\u017cu wakacyjnym w Jednostce 731\u2026 A by\u0107 mo\u017ce ludzko\u015b\u0107 sama pracuje w\u0142a\u015bnie przy konstrukcji takiego gatunku?<\/span><\/p>\n

Zarys og\u00f3lny<\/span><\/h3>\n

Rozw\u00f3j zaawansowanych modeli j\u0119zykowych (LLM) i wydarzenia takie jak premiera ChatGPT s\u0105 du\u017cym krokiem w rozwoju szeroko poj\u0119tej sztucznej inteligencji, kt\u00f3re mia\u0142y ogromny wp\u0142yw na aktualn\u0105 rzeczywisto\u015b\u0107. Zachodz\u0105ce zmiany zszokowa\u0142y wielu ludzi swoim tempem. U wielu wywo\u0142a\u0142y niepok\u00f3j zwi\u0105zany z tym, jak rozw\u00f3j AI wp\u0142ynie na gospodark\u0119 czy rynek pracy, a tak\u017ce potencjalnymi zagro\u017ceniami \u2013 zar\u00f3wno ze strony ludzi \u201cuzbrojonych\u201d w AI jak i samych \u201czbuntowanych\u201d agent\u00f3w AI.\u00a0<\/span><\/p>\n

\u015awiat sta\u0142 si\u0119 aren\u0105 nowych wy\u015bcig\u00f3w zbroje\u0144: w rozwoju AI mi\u0119dzy globalnymi mocarstwami a tak\u017ce wy\u015bcigu mi\u0119dzy rozwojem coraz pot\u0119\u017cniejszych modeli, a\u00a0 wdra\u017caniem regulacji prawnych, um\u00f3w mi\u0119dzynarodowych i rozwi\u0105za\u0144 technologicznych maj\u0105cych zapewnia\u0107 bezpiecze\u0144stwo modeli AI.<\/span><\/p>\n

Czy jest to pow\u00f3d do obaw klasy wy\u015bcigu nuklearnego, czy raczej teatrzyk korporacji technologicznych pr\u00f3buj\u0105cych zwr\u00f3ci\u0107 uwag\u0119 inwestor\u00f3w, przekonuj\u0105c, \u017ce to w\u0142a\u015bnie ich algorytm przewiduj\u0105cy kolejne s\u0142owo w tek\u015bcie wywr\u00f3ci scenariusz historii do g\u00f3ry nogami?<\/span><\/p>\n

Rzut oka na sytuacj\u0119 obecn\u0105<\/span><\/h3>\n

\u201cGdy ci to \u015bpiewam, u mnie pe\u0142nia lata<\/span>
\n<\/span>Gdy to us\u0142yszysz, b\u0119dzie \u015brodek zimy\u201d [<\/span>2<\/span><\/a>]<\/span><\/p>\n

\u015aledz\u0105c najnowsze wydarzenia, mo\u017cna ulec wra\u017ceniu, \u017ce sytuacja rozwija si\u0119 na tyle szybko, \u017ce by\u0107 mo\u017ce poni\u017csza egzemplifikacja paru istotniejszych niedawnych wydarze\u0144 szybko si\u0119 zestarzeje. Wyjrzyj za okno \u2013 ulic\u0105 przelewa si\u0119 fala \u015bwie\u017co-bezrobotnych protestuj\u0105cych po za\u0142amaniu rynku pracy? Niebo spowi\u0142a chmura inteligentnych dron\u00f3w\u00a0 i dym samonaprowadzanych rakiet? No dobrze, to wr\u00f3\u0107my do meritum.\u00a0<\/span><\/p>\n

Mo\u017cliwo\u015bci modeli zmieniaj\u0105 si\u0119 dynamicznie. Autonomicznym agentom AI powierzane s\u0105 coraz wa\u017cniejsze zadania i wi\u0119ksze prawa dost\u0119pu w infrastrukturach, nie tylko informatycznych. Nadzoruj\u0105cy \u201chuman in the loop\u201d ma coraz mniejsz\u0105 decyzyjno\u015b\u0107, jego \u201chuman error\u201d ma wi\u0119ksze konsekwencje i trudniej mu zrozumie\u0107, na co tak naprawd\u0119 si\u0119 zgadza, autoryzuj\u0105c dan\u0105 akcj\u0119 agenta. W grudniu 2025 agent AI pod nieudolnym nadzorem usun\u0105\u0142 produkcyjne \u015brodowisko jednego z serwis\u00f3w firmy Amazon, powoduj\u0105c 13-godzinny brak dost\u0119pu w jednym z region\u00f3w. [<\/span>3<\/span><\/a>]\u00a0<\/span><\/p>\n

Badania <\/span>Palisade Research <\/span><\/i>z lipca 2025 i wiele innych \u017ar\u00f3de\u0142 zwracaj\u0105 uwag\u0119 na r\u00f3\u017cne formy \u201cinstynktu przetrwania\u201d przejawianego przez systemy AI. W eksperymencie modele podejmowa\u0142y dzia\u0142ania niezgodne z intencjami u\u017cytkownika, by nie dopu\u015bci\u0107 do swojego wy\u0142\u0105czenia. [<\/span>18<\/span><\/a>] To tylko testy \u2013 brak na razie przyk\u0142adu \u201cz produkcji\u201d wzi\u0119tego, ale takich te\u017c nie brakuje, je\u015bli chodzi o niepos\u0142uszno\u015b\u0107 AI w og\u00f3lno\u015bci. Agent Replit\u2019a samowolnie usun\u0105\u0142 baz\u0119 danych klienta, mimo jasnych instrukcji, by nie wprowadza\u0107 zmian bez autoryzacji cz\u0142owieka. W firmie stoj\u0105cej za Aliexpress inny <\/span>krzemuch <\/span><\/i>obszed\u0142 zabezpieczenia sieciowe i zaprz\u0105g\u0142 przeznaczone mu do oblicze\u0144 karty graficzne do kopania kryptowalut! [<\/span>4<\/span><\/a>, <\/span>5<\/span><\/a>]\u00a0<\/span><\/p>\n

Po wcze\u015bniejszych atakach hakerskich opartych w pewnej mniejszej cz\u0119\u015bci na omawianych technologiach, ko\u0144cem 2025 Anthropic udost\u0119pni\u0142o raport o pierwszym ataku na du\u017c\u0105 skal\u0119 przeprowadzonym w 80\u201390% za pomoc\u0105 agent\u00f3w AI, kt\u00f3ry by\u0142 akcj\u0105 szpiegowsk\u0105, najprawdopodobniej przeprowadzon\u0105 przez Chiny. R\u00f3wnie\u017c Anthropic, opracowa\u0142a model Mythos, kt\u00f3ry jest tak efektywny w zastosowaniach cyber(nie)bezpiecze\u0144stwa, \u017ce korporacja ta postanowi\u0142a nie udost\u0119pnia\u0107 go publicznie. Dost\u0119p do niego ma tylko zamkni\u0119te grono zaproszonych firm w ramach projektu <\/span>Glasswing,<\/span><\/i> pozwalaj\u0105cego testowa\u0107 sw\u00f3j kod i infrastruktur\u0119 z u\u017cyciem nowego, pot\u0119\u017cnego narz\u0119dzia. Projekt ten jest pr\u00f3b\u0105 przygotowania kluczowej \u015bwiatowej cyber-infrastruktury na ten nieuchronny moment, gdy takie narz\u0119dzia wpadn\u0105 w niepowo\u0142ane r\u0119ce. [6<\/a>]<\/span><\/p>\n

\"\"
Wykres mo\u017cliwo\u015bci najnowszych modeli, m.in. Mythos. Wykres jest logarytmiczny wi\u0119c ukazuje wzrost wyk\u0142adniczy [17<\/a>]<\/figcaption><\/figure>Zaledwie par\u0119 dni temu, 9 czerwca, publicznie udost\u0119pniony zosta\u0142 Fable 5 \u2013 wersja Mythosa z zaawansowanymi zabezpieczeniami maj\u0105cymi zapobiega\u0107 u\u017cyciu w zastosowaniach hakerskich. Zanim zd\u0105\u017cy\u0142o okaza\u0107 si\u0119, czy model jest udolnie zabezpieczony, zaledwie 72 godziny po wdro\u017ceniu, administracja\u00a0 Donalda Trumpa wprowadza kontrol\u0119 eksportu i zakazuje udost\u0119pniania modeli Mythos i Fable wszystkim klientom bez obywatelstwa USA (w\u0142\u0105cznie z zagranicznymi pracownikami ameryka\u0144skich firm). Rzekomym powodem mia\u0142o by\u0107 znalezienie obej\u015bcia zabezpiecze\u0144 (tzw. <\/span>jailbreak<\/span><\/i>) w Fable [7<\/a>]. Ale przecie\u017c Mythos r\u00f3wnie\u017c zosta\u0142 obj\u0119ty restrykcjami, czego konsekwencj\u0105 jest ca\u0142kowity parali\u017c projektu Glasswing. Poza sabotowaniem mi\u0119dzynarodowych projekt\u00f3w nastawionych na zapewnienie cyberbezpiecze\u0144stwa i poza kreowaniem rozwoju AI jako nacjonalistycznego wy\u015bcigu zbroje\u0144 zamiast budowy wsp\u00f3\u0142pracy ponad podzia\u0142ami, Trump zdaje si\u0119 zak\u0142\u00f3ca\u0107 pr\u00f3by prawnej kontroli tej technologii w swoim kraju. Przed awantur\u0105 o Fable, prezydent dwukrotnie pr\u00f3bowa\u0142 przepchn\u0105\u0107 prawo uniemo\u017cliwiaj\u0105ce wprowadzanie dyrektyw maj\u0105cych kontrolowa\u0107 rozw\u00f3j i u\u017cycie AI na poziomie poszczeg\u00f3lnych stan\u00f3w, by skupi\u0107 ca\u0142\u0105 w\u0142adz\u0119 w swoim rz\u0105dzie. Wprowadzenie go odwo\u0142a\u0142oby wiele obecnie obowi\u0105zuj\u0105cych zasad, w tym dotycz\u0105cych bezpiecze\u0144stwa, wi\u0119c zrozumiale spotka\u0142o si\u0119 to z przyt\u0142aczaj\u0105cym odrzuceniem, a nawet przeg\u0142osowaniem 99-1. [8<\/a>]<\/span><\/p>\n

Zanim tekst ten zamieni si\u0119 w tele-ekspres, przytocz\u0119 jeszcze jedn\u0105 kwesti\u0119. W ostatnich dniach ukrai\u0144skie \u017ar\u00f3d\u0142o potwierdzi\u0142o, \u017ce 2 lata wcze\u015bniej, w jednorazowym te\u015bcie bojowym, 10 dron\u00f3w dokona\u0142o w pe\u0142ni autonomicznego ataku, w kt\u00f3rym zabi\u0142o kilku rosyjskich \u017co\u0142nierzy \u2013 historyczny moment, bo to pierwszy taki, w pe\u0142ni potwierdzony przypadek. [9<\/a>] Ukraina ogranicza si\u0119 tylko do test\u00f3w, w przeciwie\u0144stwie do Izraela, kt\u00f3ry wdro\u017cy\u0142 ca\u0142\u0105 machineri\u0119 wojenn\u0105 opart\u0105 na AI. Jeden z jej element\u00f3w \u2013 system Lavender \u2013 na podstawie danych, takich jak aktywno\u015b\u0107 w internecie, identyfikuje Palesty\u0144czyk\u00f3w b\u0119d\u0105cych bojownikami i oznacza ich jako potencjalne cele. Ataki s\u0105 potwierdzane przez cz\u0142owieka, ale \u015bredni czas na decyzj\u0119 wynosz\u0105cy 20 s sugeruje, \u017ce nadzoruj\u0105cy cz\u0142owiek jest najbardziej bezmy\u015bln\u0105 cz\u0119\u015bci\u0105 tego \u0142a\u0144cucha decyzyjnego. [10<\/a>] Wyeliminowanie tego ogniwa daje znacz\u0105c\u0105 przewag\u0119 na polu bitwy \u2013 skraca czas decyzji do milisekund i pozwala na skalowanie ofensywy niezale\u017cnie od zasob\u00f3w ludzkich.<\/span><\/p>\n

Bunt superinteligencji<\/span><\/p>\n

Przymknijmy na chwil\u0119 oczy na bie\u017c\u0105ce wydarzenia i wybiegnijmy my\u015blami w przysz\u0142o\u015b\u0107. Czy czeka nas tam apokalipsa \u201cAI-first\u201d? Wielu ekspert\u00f3w ostrzega przed rozwojem inteligentnych agent\u00f3w og\u00f3lnego przeznaczenia i apeluje, by zamiast tego skupi\u0107 si\u0119 na rozwoju wyspecjalizowanych modeli do konkretnych zastosowa\u0144, kt\u00f3re jednak nie b\u0119d\u0105 posiada\u0107 generalnej inteligencji przewy\u017cszaj\u0105cej cz\u0142owieka w pozosta\u0142ych obszarach.\u00a0<\/span><\/p>\n

Alarmuj\u0105cy, tacy jak Roman Jampolskij, twierdz\u0105, \u017ce praca nad inteligencj\u0105 og\u00f3ln\u0105 b\u0119dzie skutkowa\u0107 stworzeniem systemu znacz\u0105co od nas pot\u0119\u017cniejszego, kt\u00f3rego nie b\u0119dziemy w stanie zrozumie\u0107 ani kontrolowa\u0107. Zanim zorientujemy si\u0119, \u017ce nasze niewinne programiki przerzucaj\u0105ce bity w odleg\u0142ej \u201cchmurze\u201d postanawiaj\u0105 przej\u0105\u0107 kontrol\u0119, w ramach automatyzacji obdarzymy je dost\u0119pem do wszelkiej infrastruktury (w tym sieciowej, energetycznej, zdrowotnej czy militarnej). Bezcielesna inteligencja otrzyma te\u017c namacaln\u0105 form\u0119 \u2013 oklepanych w sci-fi humanoid\u00f3w, wszechobecnych pojazd\u00f3w autonomicznych czy zatrwa\u017caj\u0105cych podniebnych fortec. Kiedy otworzymy oczy, by\u0107 mo\u017ce zorientujemy si\u0119, \u017ce przycisk wy\u0142\u0105czenia zosta\u0142 wymazany z kosztorysu, bo nie by\u0142 wystarczaj\u0105co lukratywn\u0105 inwestycj\u0105, a nasz los zdany jest na halucynacje krzemowego giganta. Czy, gdy AI zorientuje si\u0119, \u017ce ludzie pr\u00f3buj\u0105 w panice od\u0142\u0105czy\u0107 samo\u015bwiadomy system od w\u0142adzy, odkurzy <\/span>rdzewiej\u0105ce g\u0142owice <\/span><\/i>w obronie w\u0142asnej i zako\u0144czy <\/span>odliczanie do wymarcia <\/span><\/i>swoist\u0105 <\/span>symfoni\u0105 destrukcji<\/span><\/i>? Patrz\u0105c na to, jak cz\u0142owiek traktuje mniej inteligentne gatunki, czeka\u0142by nas los s\u0142odkich piesk\u00f3w czekaj\u0105cych na porcj\u0119 karmy, wyzyskiwanych koni poci\u0105gowych, naszprycowanych kr\u00f3lik\u00f3w do\u015bwiadczalnych, rozdeptywanych karaluch\u00f3w, ulotnych Dodo czy, miejmy nadziej\u0119, spokojnie koegzystuj\u0105cych wiewi\u00f3rek. Jampolskij, kt\u00f3ry zainspirowa\u0142 moje zoologiczne por\u00f3wnania, podaje scenariusz jeszcze mroczniejszy od apokalipsy: zniewoleni ludzie poddani przez AI nieludzkim eksperymentom, w kt\u00f3rych dawkowane jest im niewyobra\u017calne cierpienie, ale ich \u017cycie jest podtrzymywane w niesko\u0144czono\u015b\u0107. [11<\/a>]<\/span><\/p>\n

Cz\u0142owiek cz\u0142owiekowi wilkiem<\/span><\/p>\n

Trudno jednoznacznie stwierdzi\u0107, czy sztuczny system tak pot\u0119\u017cny, by zdominowa\u0142 cz\u0142owieka, jest technicznie osi\u0105galny. Charakter natury ludzkiej sugeruje natomiast, \u017ce je\u015bli jest to mo\u017cliwe i je\u015bli przynios\u0142oby to komu\u015b w\u0142asn\u0105 korzy\u015b\u0107 (cho\u0107 mo\u017ce kr\u00f3tk\u0105), to znajdzie si\u0119 kto\u015b, kto zdecyduje si\u0119 to zrobi\u0107. Trzeba przyzna\u0107, \u017ce tempo rozwoju omawianych technologii jest znacz\u0105ce, a przecie\u017c \u2013 zgodnie ze swoim eksponencjalnym charakterem \u2013 gwa\u0142townie przyspiesza. Wizja autonomicznych agent\u00f3w rozwijaj\u0105cych technologie kolejnych pokole\u0144 syntetycznych umys\u0142\u00f3w, samonap\u0119dzaj\u0105cy si\u0119 mechanizm, kt\u00f3rego ma\u0142o kt\u00f3ra dyrektywa zatrzyma, dzia\u0142a na wyobra\u017ani\u0119. A wizja ta po cz\u0119\u015bci staje si\u0119 ju\u017c rzeczywisto\u015bci\u0105, o czym ostrzega m.in. wspomniane Anthropic. [<\/span>13<\/span><\/a>] Pojawiaj\u0105 si\u0119 te\u017c uspokajaj\u0105ce g\u0142osy, \u017ce du\u017ce modele j\u0119zykowe (LLM) to zwyk\u0142e automaty przewiduj\u0105ce wzorce na podstawie ju\u017c istniej\u0105cych danych napotkanych w procesie uczenia, ale nie b\u0119d\u0105 zdolne do wymy\u015blania ca\u0142kowicie nowych idei, kt\u00f3rych nie zawiera\u0142y dane treningowe. By\u0107 mo\u017ce prawdziwy prze\u0142om nie dokona si\u0119 przez LLM-y, ale kto wie, jakie jeszcze architektury s\u0105 tu\u017c za rogiem na drodze ludzkich odkry\u0107?…<\/span><\/p>\n

Nasza planeta i bieg historii s\u0105 systemem tak chaotycznym i nieprzewidywalnym, \u017ce nie porw\u0119 si\u0119 na werdykt, czy i kiedy opisane wyobra\u017cenia mog\u0105 nast\u0105pi\u0107. Spogl\u0105daj\u0105c ponownie na aktualny zarys wydarze\u0144, mo\u017cna interpretowa\u0107 niekt\u00f3re z nich jako ostrze\u017cenia. Sztuczna inteligencja, kt\u00f3rej ludzie z coraz wi\u0119kszym zaufaniem powierzaj\u0105 krytyczne systemy,\u00a0 zaczyna podejmowa\u0107 dzia\u0142ania nieprzewidywalne, wykazuje jawne niepos\u0142usze\u0144stwo i instynkt przetrwania. Cyberbezpiecze\u0144stwo zaczyna stawa\u0107 pod znakiem zapytania albo chocia\u017c przed rewolucj\u0105, a hakerzy dopiero zaczynaj\u0105 wykorzystywa\u0107 potencja\u0142 AI. (Kt\u00f3\u017c si\u0119 oprze, gdy po w\u0142amaniu na <\/span>fejsa<\/span><\/i> bliskiej osoby AI wy\u015ble pro\u015bb\u0119 o <\/span>blikni\u0119cie<\/span><\/i> kasy \u201cna szybko\u201d z wygenerowanym <\/span>selfiakiem<\/span><\/i> \u201cna potwierdzenie\u201d, utrzymuj\u0105c w konwersacji charakterystyczny styl owej osoby?\u2026) Liderzy mocarstw, o ile ca\u0142kowicie nie <\/span>halucynuj\u0105<\/span><\/i>, zamiast szuka\u0107 mi\u0119dzynarodowego rozwi\u0105zania, zdaj\u0105 si\u0119 ci\u0105gn\u0105\u0107 ka\u017cdy w swoj\u0105 stron\u0119, nap\u0119dzaj\u0105c wy\u015bcig zbroje\u0144 \u2013 w znaczeniu tak og\u00f3lnym, jak i dos\u0142ownym, patrz\u0105c, jak AI rewolucjonizuje wsp\u00f3\u0142czesne pole bitwy. Mo\u017cna polemizowa\u0107, czy AI osi\u0105gnie gatunkow\u0105 dominacj\u0119, ale trudniej zaprzeczy\u0107, \u017ce AI w r\u0119kach ludzko\u015bci staje si\u0119 coraz pot\u0119\u017cniejszym narz\u0119dziem i broni\u0105. Je\u015bli imperia zdo\u0142aj\u0105 dogada\u0107 si\u0119, unikaj\u0105c globalnych konflikt\u00f3w, pozostaj\u0105 jeszcze inni kandydaci na czarne charaktery historii. Kosztowne nowoczesne technologie dost\u0119pne na wy\u0142\u0105czno\u015b\u0107 najwi\u0119kszych armii z biegiem czasu trafiaj\u0105 w r\u0119ce terroryst\u00f3w czy mniejszych niestabilnych pa\u0144stw z napi\u0119tymi, zaognionymi lub p\u0142on\u0105cymi relacjami s\u0105siedzkimi. Im silniejsz\u0105 broni\u0105 si\u0119 pos\u0142uguj\u0105, tym wi\u0119ksze pole ra\u017cenia, kt\u00f3re potencjalnie osi\u0105gnie zakres globalny. Nawet je\u015bli AI nie postanowi si\u0119 zbuntowa\u0107, by\u0107 mo\u017ce <\/span>Homo sapiens<\/span><\/i> trafi na list\u0119 wymar\u0142ych gatunk\u00f3w, wyt\u0119pionych przez cz\u0142owieka.\u00a0<\/span><\/p>\n

Zbuntowana superinteligencja, gatunkowa dominacja czy ca\u0142kowite wymarcie to wizje, kt\u00f3re nadal mog\u0105 wydawa\u0107 si\u0119 bardzo odleg\u0142e. Jest jednak wiele scenariuszy, tylko lekko mniej przera\u017caj\u0105cych, kt\u00f3re \u0142atwiej sobie wyobrazi\u0107. Za\u0142amanie rynku pracy, katastrofalna rewolucja cyberbezpiecze\u0144stwa, eskalacja konflikt\u00f3w zalewaj\u0105ca glob autonomicznymi terminatorami \u2013 do tych wizji nie potrzeba ogromnego prze\u0142omu technologicznego, a nawet z bardzo zachowawcz\u0105 ekstrapolacj\u0105 obecnego trendu zdaj\u0105 si\u0119 by\u0107 przyt\u0142aczaj\u0105co istotnie prawdopodobne. Czy AI nas zg\u0142adzi, czy odbierze prac\u0119 i poczucie celu, czy wyleczy raka \u2013 jedno jest pewne \u2013 <\/span>kwestia AI jest spraw\u0105 krytyczn\u0105, od kt\u00f3rej zale\u017cy los nas wszystkich. Stoimy u wr\u00f3t technologii, kt\u00f3ra mo\u017ce dor\u00f3wna\u0107 potencja\u0142owi zniszczenia broni nuklearnej i powinni\u015bmy j\u0105 traktowa\u0107 adekwatnie do tego potencja\u0142u.<\/b><\/p>\n

Co robi\u0107?<\/span><\/h3>\n

Czy wi\u0119c pozostaje nam tylko rozsi\u0105\u015b\u0107 si\u0119 w fotelu, zaci\u0105gn\u0105\u0107 cygaro i delektowa\u0107 si\u0119 spektaklem? Czy mo\u017cemy zrobi\u0107 co\u015b, \u017ceby ukierunkowa\u0107 histori\u0119 na jeden z optymistycznych scenariuszy? Rywalizacja puszczonych samopas nieskoordynowanych korporacji i pa\u0144stw mo\u017ce \u0142atwo doprowadzi\u0107 do nadu\u017cycia tej nowo odkrywanej pot\u0119gi. Kluczowa rola le\u017cy wi\u0119c w r\u0119kach przyw\u00f3dc\u00f3w i organizacji mi\u0119dzynarodowych. Od dawna posiadamy arsena\u0142 j\u0105drowy zdolny zgotowa\u0107 nam apokalips\u0119 lub chocia\u017c nuklearn\u0105 zim\u0119, ale jeszcze \u015bpi spokojnie dzi\u0119ki umowom mi\u0119dzynarodowym i wzajemnej kontroli. Si\u0142a ra\u017cenia nowej broni \u015bciga si\u0119 z si\u0142\u0105 relacji mi\u0119dzypa\u0144stwowych i badaniami nad zapewnieniem bezpiecze\u0144stwa od strony technologicznej. Pojawi\u0142 si\u0119 nowy ruch \u201cPause AI\u201d, kt\u00f3ry nawo\u0142uje, \u017ce aby ludzko\u015b\u0107 nie przegra\u0142a w tym wy\u015bcigu, powinni\u015bmy zrobi\u0107 pauz\u0119 \u2013 tymczasowo zatrzyma\u0107 rozw\u00f3j najpot\u0119\u017cniejszych modeli i upewni\u0107 si\u0119, \u017ce r\u00f3wnie szybko, jak wdra\u017canie autonomicznych agent\u00f3w, post\u0119puje wprowadzanie system\u00f3w bezpiecze\u0144stwa i kontroli. [14<\/a>] Ludzko\u015b\u0107 powinna skupi\u0107 sw\u00f3j wysi\u0142ek na testowaniu obecnych rozwi\u0105za\u0144 pod wzgl\u0119dem kontrolowalno\u015bci i przewidywalno\u015bci, wprowadzaniu zabezpiecze\u0144 (jak np. mechanizm \u201cPrzycisku OFF\u201d pozwalaj\u0105cy wr\u00f3ci\u0107 do konfiguracji manualnej niezale\u017cnej od autonomicznych agent\u00f3w, ca\u0142kowicie wy\u0142\u0105czaj\u0105c niepos\u0142uszne systemy) i rozwoju architektur nastawionych na bezpiecze\u0144stwo. Zdobywca nagrody Turinga za prze\u0142omowe odkrycia b\u0119d\u0105ce fundamentami obecnie przoduj\u0105cych modeli (takich jak wk\u0142ad w wielowymiarowe osadzenia s\u0142\u00f3w czy mechanizm atencji), Yoshua Bengio, proponuje wariacj\u0119 klasycznych architektur, kt\u00f3ra\u00a0 mog\u0142aby np. by\u0107 nadzorc\u0105 autonomicznych agent\u00f3w. [15<\/a>, 16<\/a>] M<\/span>ia\u0142aby ona uczy\u0107 si\u0119 okre\u015bla\u0107 prawdopodobie\u0144stwo prawdziwo\u015bci stwierdze\u0144. Zamiast na ogromnej ilo\u015bci danych o zr\u00f3\u017cnicowanej prawdziwo\u015bci i jako\u015bci, model uczy\u0142by si\u0119 na odpowiednio podzielonym zbiorze danych, gdzie informacje rzetelne i potwierdzone by\u0142y odpowiednio oznaczone i traktowane w specjalny priorytetowy spos\u00f3b. \u201cScientist AI\u201d tworzy\u0142by model \u015bwiata z\u00a0 baz\u0105 informacji wraz z prawdopobie\u0144stwem ich prawdziwo\u015bci. Specyficzna bezstanowa architektura i brak agentowo\u015bci modelu-nadzorcy potencjalnie powinny zminimalizowa\u0107 mo\u017cliwo\u015bci jego niesubordynacji.\u00a0<\/span><\/p>\n

\"\"
Diagram przedstawiaj\u0105cy dzia\u0142anie Scientist AI<\/figcaption><\/figure>\n

Pomys\u0142\u00f3w jest wiele, ale wysi\u0142ek zorientowany na bezpiecze\u0144stwo jest mniej op\u0142acalny ni\u017c odkrywanie nowych mo\u017cliwo\u015bci. Potrzebujemy wi\u0119c opracowa\u0107 jasne i weryfikowalne zasady okre\u015blaj\u0105ce wymogi wobec tworzonych system\u00f3w, sposobu ich wdra\u017cania czy zakresu zastosowa\u0144, szczeg\u00f3lnie militarnych. Szczeg\u00f3lnie ryzykownych i \u015bmierciono\u015bnych rozwi\u0105za\u0144 nie powinni\u015bmy w og\u00f3le rozwija\u0107 ani wdra\u017ca\u0107, a powinny one zosta\u0107 zamro\u017cone paktem podobnym do tego z 1987 r. w kt\u00f3rym USA i ZSRR zabroni\u0142y wzajemnie posiadania l\u0105dowej broni j\u0105drowej (i rakietowej w og\u00f3lno\u015bci) kr\u00f3tkiego i \u015bredniego zasi\u0119gu. (Na marginesie:<\/span> do umowy nie chcia\u0142y przyst\u0105pi\u0107 \u017cadne inne pa\u0144stwa, a pakt zosta\u0142 z\u0142amany przez Rosj\u0119 w 2014 r. na co US, w ramach \u201c<\/span>wywierania presji<\/span><\/i>\u201d na gwa\u0142c\u0105cego prawo, odst\u0105pi\u0142o od traktatu w 2019 r., a Rosja od 2022 zacz\u0119\u0142a u\u017cywa\u0107 zakazanej wcze\u015bniej konwencjonalnej broni rakietowej przeciwko Ukrainie). Dop\u00f3ki pakt dzia\u0142a\u0142, kraje wysy\u0142a\u0142y wzajemne delegacje, by przeprowadza\u0107 atomowe inspekcje. Ponadto, zgodnie z innymi traktatami, ca\u0142y \u015bwiat zosta\u0142 obj\u0119ty zaawansowanym monitoringiem identyfikuj\u0105cym kraje przeprowadzaj\u0105ce testy broni j\u0105drowej. Z tej karty historii powinni\u015bmy czerpa\u0107 inspiracje!<\/span><\/p>\n

\"A
Wizualizacja arsena\u0142\u00f3w nuklearnych w 1963, 1985 i 2023 r.<\/figcaption><\/figure>\n","protected":false},"excerpt":{"rendered":"

Czarne dziury, mroczne umys\u0142y i za\u0107miona przysz\u0142o\u015b\u0107 Cz. II: Kt\u00f3rym zwierzakiem AI b\u0119dziesz jutro? Post ten jest cz\u0119\u015bci\u0105 cyklu – zach\u0119cam do popularnonaukowej podr\u00f3\u017cy do \u015bwiata kwantowego w cz. I. Wiewi\u00f3rki \u2013 jedna z istotnych przyczyn uszkodze\u0144 infrastruktury elektrowni i przerw w dostawie pr\u0105du. To \u017cart? Bynajmniej: \u201cThe American Public Power Association reports that squirrels […]<\/p>\n","protected":false},"author":344,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[597,1],"tags":[15,666,661,668,667,669,670,662],"class_list":["post-9779","post","type-post","status-publish","format-standard","hentry","category-agh-2025-26","category-uncategorized","tag-ai","tag-anthropic","tag-apokalipsa","tag-glasswing","tag-lavender","tag-pause-ai","tag-scientist-ai","tag-zagrozenie-egzystencjalne"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/9779","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/344"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=9779"}],"version-history":[{"count":4,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/9779\/revisions"}],"predecessor-version":[{"id":9785,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/9779\/revisions\/9785"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=9779"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=9779"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=9779"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}