![\"\"](\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/Bez-tytulu-300x200.png\")
<\/p>\n<\/p>\n
<\/p>\n
Superinteligencja to s\u0142owo, kt\u00f3re cz\u0119sto pojawia si\u0119 w artyku\u0142ach opisuj\u0105cych przysz\u0142o\u015b\u0107 sztucznej inteligencji, ale czym ona tak naprawd\u0119 jest? Jakie s\u0105 \u015bcie\u017cki wiod\u0105ce ku superinteligencji oraz jakie s\u0105 jej mo\u017cliwo\u015bci, ale przede wszystkim \u2014 do jakich zagro\u017ce\u0144 mo\u017ce prowadzi\u0107? W tym po\u015bcie postaramy si\u0119 odpowiedzie\u0107 na wszystkie te pytania.<\/strong><\/p>\n <\/p>\n <\/p>\n Kilka s\u0142\u00f3w wprowadzenia<\/span><\/strong><\/p>\n Definicja sztucznej inteligencji, a wi\u0119c i Superinteligencji stale si\u0119 zmienia. Dla przyk\u0142adu, w latach 90′ ubieg\u0142ego wieku uwa\u017cano, \u017ce je\u017celi uda si\u0119 stworzy\u0107 system informatyczny zdolny do wygrania w szachy z ka\u017cdym cz\u0142owiekiem, b\u0119dzie to r\u00f3wnoznaczne ze stworzeniem sztucznej inteligencji og\u00f3lnej, w skr\u00f3cie AGI \u2014 ang. Artificial General Inteligence<\/em> (wi\u0119cej na ten temat p\u00f3\u017aniej), poniewa\u017c jak wtedy twierdzono gra w szachy stanowi podwaliny umys\u0142u cz\u0142owieka i jest mo\u017cliwa tylko dla istot inteligentnych, czyli ludzi. Nied\u0142ugo p\u00f3\u017aniej okaza\u0142o si\u0119, \u017ce aby gra\u0107 w szachy na poziomie mistrzowskim, wystarczy program do przeszukiwania i ewaluowania stan\u00f3w planszy, kt\u00f3ry nie zawiera element\u00f3w sztucznej inteligencji, tak wi\u0119c definicja co uznawane by\u0142o za sztuczn\u0105 inteligencj\u0119, zn\u00f3w si\u0119 przesun\u0119\u0142a. Wynika z tego, \u017ce to, co my uznajemy dzi\u015b za sztuczn\u0105 inteligencj\u0119 i superinteligencj\u0119, mo\u017ce ulec zmianie w niedalekiej przysz\u0142o\u015bci.<\/p>\n <\/p>\n Superinteligencja<\/span><\/strong><\/p>\n Superinteligencja, ASI \u2014 ang. Artificial Super Inteligence<\/em>, to intelekt, kt\u00f3ry jest znacznie m\u0105drzejszy od najlepszych ludzkich organizm\u00f3w w ka\u017cdej dziedzinie, w\u0142\u0105czaj\u0105c w to kreatywno\u015b\u0107, m\u0105dro\u015b\u0107 og\u00f3ln\u0105, a nawet umiej\u0119tno\u015bci spo\u0142eczne. W definicji nie jest sprecyzowane, czym ten podmiot jest, a wi\u0119c mo\u017ce by\u0107 to pojedynczy umys\u0142, zbi\u00f3r wielu umys\u0142\u00f3w, kt\u00f3re tworz\u0105 sie\u0107, istota biologiczna podobna do cz\u0142owieka, lub co\u015b innego. Kluczowe dla definicji s\u0105 s\u0142owa \u201ew ka\u017cdej dziedzinie\u201d, poniewa\u017c systemy, kt\u00f3re przewy\u017cszaj\u0105 cz\u0142owieka w pojedynczych zadaniach, istniej\u0105 od wielu lat. Przyk\u0142adem takiego systemu jest AlphaZero opracowany przez firm\u0119 Deep Mind. Program jest zdolny wygra\u0107 z ka\u017cdym cz\u0142owiekiem w gry takie jak szachy lub GO. Taki rodzaj inteligencji, gdzie system jest wyspecjalizowany do wykonywania jednego zadania, nazywamy sztuczn\u0105 inteligencj\u0105 w\u0105sk\u0105, ANI \u2014 Artificial\u00a0Narrow Inteligence<\/em>. Pomimo tego, \u017ce AlphaZero jest niekwestionowanym mistrzem szach\u00f3w, gdy poprosimy go o wykonanie jakiegokolwiek innego zadania niezwi\u0105zanego z gr\u0105 w szachy, nie b\u0119dzie w stanie go wykona\u0107.<\/p>\n <\/p>\n Rodzaje superinteligencji<\/span><\/strong><\/p>\n W celu posuni\u0119cia analizy poj\u0119cia superinteligencji nale\u017cy roz\u0142o\u017cy\u0107 je na czynniki elementarne poprzez podzia\u0142 na rodzaje grupy, kt\u00f3re r\u00f3\u017cni\u0105 si\u0119 pod k\u0105tem zdolno\u015bci poszczeg\u00f3lnej ASI. Nick Bostrom w swojej ksi\u0105\u017cce: „Superinteligencja. Scenariusze, strategie, zagro\u017cenia” proponuje trzy rodzaje superinteligencji: szybk\u0105, zbiorow\u0105, oraz jako\u015bciow\u0105.<\/p>\n <\/p>\n Superinteligencja szybka<\/span><\/strong><\/p>\n Superinteligencja szybka to podmiot, kt\u00f3ry przypomina umys\u0142 cz\u0142owieka, lecz jest o wiele rz\u0119d\u00f3w wielko\u015bci szybszy. Taki system potrafi dokona\u0107 tego samego co cz\u0142owiek, lecz znacznie szybciej, na przyk\u0142ad przeczyta\u0107 ksi\u0105\u017ck\u0119 w kilka sekund, lub napisa\u0107 prac\u0119 doktoranck\u0105 w jedno popo\u0142udnie. Najprostszym przyk\u0142adem superinteligencji szybkiej jest emulacja ludzkiego m\u00f3zgu uruchomiona na superszybkim komputerze. Aby podnie\u015b\u0107 poziom wydajno\u015bci takiego systemu, nale\u017cy zapewni\u0107 mu szybszy sprz\u0119t komputerowy. Je\u017celi mno\u017cnik szybko\u015bci systemu zostanie podniesiony do rz\u0119du miliona, emulacja b\u0119dzie w stanie wykonywa\u0107 ca\u0142e tysi\u0105clecia pracy intelektualnej w ci\u0105gu jednego dnia roboczego. Umys\u0142owi tak szybkiemu zdarzenia w zewn\u0119trznym \u015bwiecie rzeczywistym wydawa\u0142yby si\u0119 spowolnione, dlatego prawdopodobnie najch\u0119tniej wsp\u00f3\u0142pracowa\u0142by on z innymi podmiotami jak on sam. W miar\u0119 dalszego rozwoju technologicznego pr\u0119dko\u015b\u0107 \u015bwiat\u0142a stanowi nieprzekraczalne ograniczenie. Konsekwencj\u0105 mog\u0142oby by\u0107 to, \u017ce cyfrowi agenci, kt\u00f3rzy ze sob\u0105 wsp\u00f3\u0142pracuj\u0105, byliby umieszczani w tym samym budynku, aby unikn\u0105\u0107 op\u00f3\u017anie\u0144 w komunikacji.<\/p>\n <\/p>\n Superinteligencja zbiorowa<\/span><\/strong><\/p>\n Drugim rodzajem jest superinteligencja zbiorowa, czyli system z\u0142o\u017cony z du\u017cej liczby mniejszych podmiot\u00f3w rozumnych, kt\u00f3ry znakomicie przewy\u017csza jakikolwiek wsp\u00f3\u0142czesny system poznawczy w ka\u017cdej dziedzinie nauki. Inteligencja zbiorowa osi\u0105ga znakomite wyniki w rozwi\u0105zywaniu problem\u00f3w, kt\u00f3re mo\u017cna rozbi\u0107 na mniejsze podproblemy i r\u00f3wnolegle poszukiwa\u0107 rozwi\u0105zania ka\u017cdego z nich. Przyk\u0142adem zadania, kt\u00f3re mo\u017cna zr\u00f3wnolegli\u0107 mo\u017ce by\u0107 budowa rakiety, gdzie za ka\u017cdy komponent odpowiada grupa wykwalifikowanych in\u017cynier\u00f3w. W celu podniesienia poziomu inteligencji systemu nale\u017cy zwi\u0119kszy\u0107 ilo\u015b\u0107 lub jako\u015b\u0107 podsystem\u00f3w, kt\u00f3re si\u0119 na niego sk\u0142adaj\u0105. Inteligencja zbiorowa jest nam bardziej znana z do\u015bwiadczenia ni\u017c inteligencja szybka. O ile nie mamy do\u015bwiadcze\u0144 z systemami na poziomie cz\u0142owieka, kt\u00f3re wyr\u00f3\u017cniaj\u0105 si\u0119 wy\u017csz\u0105 szybko\u015bci\u0105 dzia\u0142ania, o tyle mamy mas\u0119 do\u015bwiadcze\u0144 z inteligencj\u0105 zbiorow\u0105. Systemami z\u0142o\u017conymi z r\u00f3\u017cnych sk\u0142adowych, kt\u00f3re wsp\u00f3\u0142pracuj\u0105 ze sob\u0105 z rozmait\u0105 skuteczno\u015bci\u0105, s\u0105 na przyk\u0142ad firmy, zespo\u0142y robocze, pa\u0144stwa, a nawet ludzko\u015b\u0107 og\u00f3\u0142em.<\/p>\n <\/p>\n Superinteligencja jako\u015bciowa<\/span><\/strong><\/p>\n Kiedy u\u017cywamy stwierdzenia „sztuczna inteligencja” to najcz\u0119\u015bciej mamy na my\u015bli superinteligencj\u0119 jako\u015bciow\u0105. Jest to system, kt\u00f3ry jest przynajmniej r\u00f3wnie szybki co umys\u0142 ludzi, a przy tym znacznie inteligentniejszy. W tym przypadku zn\u00f3w s\u0142owo „znacznie” oznacza kilkadziesi\u0105t, kilkaset, czy nawet kilka milion\u00f3w razy bardziej inteligentny. Superinteligencja jako\u015bciowa jest koncepcj\u0105 najbardziej m\u0119tn\u0105 z ca\u0142ej tr\u00f3jki, poniewa\u017c do tej pory nie mieli\u015bmy styczno\u015bci z \u017cadnymi odmianami inteligencji przewy\u017cszaj\u0105cymi pod wzgl\u0119dem jako\u015bci intelektualnych umys\u0142\u00f3w ludzi.<\/p>\n <\/p>\n Drogi ku superinteligencji<\/span><\/strong><\/p>\n Dzi\u015b maszyny z pewno\u015bci\u0105 ust\u0119puj\u0105 ludziom pod wzgl\u0119dem inteligencji og\u00f3lnej, ale jak twierdzi wielu ekspert\u00f3w, pewnego dnia przekrocz\u0105 t\u0119 granic\u0119 i stan\u0105 si\u0119 inteligentne. Jednak jak pokona\u0107 dystans dziel\u0105cy nas do tego momentu? Superinteligencja z kt\u00f3rejkolwiek opisanych powy\u017cej form mog\u0142aby z czasem opracowa\u0107 sposoby stworzenia dw\u00f3ch pozosta\u0142ych form. Wynika z tego, \u017ce je\u017celi uda si\u0119 nam stworzy\u0107 chocia\u017c jeden z rodzaj\u00f3w superinteligencji, to osi\u0105galno\u015b\u0107 po\u015brednia pozosta\u0142ych form jest jednakowa. Pozostaje kwestia osi\u0105galno\u015bci bezpo\u015bredniej, kt\u00f3ra jest trudna do okre\u015blenia. Prawdopodobne jest to, \u017ce nie mo\u017cna za\u0142o\u017cy\u0107, w jakiej kolejno\u015bci si\u0119 one pojawi\u0105. W uproszczeniu mo\u017cemy jednak zak\u0142ada\u0107, \u017ce superinteligencja szybka radzi sobie najlepiej z zadaniami sk\u0142adaj\u0105cymi si\u0119 z du\u017cej ilo\u015bci ma\u0142ych krok\u00f3w, kt\u00f3re musz\u0105 by\u0107 wykonane jeden po drugim. Superinteligencja zbiorowa osi\u0105ga lepsze wyniki w zadaniach daj\u0105cych si\u0119 roz\u0142o\u017cy\u0107 analitycznie do postaci r\u00f3wnoleg\u0142ych podzada\u0144. W pewnym sensie superinteligencja jako\u015bciowa mia\u0142aby najwi\u0119kszy potencja\u0142 ze wszystkich form superinteligencji, poniewa\u017c potrafi\u0142aby analizowa\u0107 i rozwi\u0105zywa\u0107 abstrakcyjne problemy daleko wykraczaj\u0105ce poza zasi\u0119g inteligencji zbiorowej i szybkiej.<\/p>\n Interfejs m\u00f3zg-komputer<\/strong><\/span><\/p>\n Interfejs m\u00f3zg-komputer (ang. Brain-Computer Interface, BCI) to technologia pozwalaj\u0105ca na bezpo\u015bredni\u0105 komunikacj\u0119 mi\u0119dzy m\u00f3zgiem a komputerem. Ludzki m\u00f3zg m\u00f3g\u0142by w ten spos\u00f3b wykorzysta\u0107 mo\u017cliwo\u015bci obliczeniowe komputer\u00f3w – zwi\u0119kszenie pr\u0119dko\u015bci wykonywania oblicze\u0144, perfekcyjna pami\u0119\u0107, przesy\u0142anie danych bezpo\u015brednio z komputera do m\u00f3zgu i znacznie szybsza nauka. Nick Bostrom podchodzi do tej technologii bardziej sceptycznie i nie przewiduj\u0119, \u017ce zostanie ona spopularyzowana w nadchodz\u0105cej przysz\u0142o\u015bci. Zwraca on uwag\u0119 na fakt, \u017ce zainstalowanie takiego implantu wymaga\u0142oby bezpo\u015bredniej ingerencji w tkank\u0119 m\u00f3zgow\u0105, co stanowi spore niebezpiecze\u0144stwo dla zdrowia cz\u0142owieka. Interfejs m\u00f3zg-komputer nie prze\u0142ama\u0142by r\u00f3wnie\u017c wielu ogranicze\u0144 ludzkiego m\u00f3zgu – nawet w przypadku bezpo\u015bredniego przesy\u0142ania informacji do m\u00f3zgu, niezwi\u0119kszy\u0142o by to pr\u0119dko\u015bci, z jak\u0105 si\u0119 uczymy, a tym bardziej, z jak\u0105 my\u015blimy – wymaga\u0142oby to wymiany ca\u0142ego (a przynajmniej sporej cz\u0119\u015bci) ludzkiego m\u00f3zgu, na jego elektroniczny odpowiednik.<\/p>\n Wiele potencjalnych mo\u017cliwo\u015bci oferowanych przez interfejs m\u00f3zg komputer, zosta\u0142a ju\u017c zrealizowana bez jego wykorzystania. Bezpo\u015brednie po\u0142\u0105czenie ludzkiego m\u00f3zgu z sieci\u0105 internetow\u0105 wydaje si\u0119 ciekawe – ale czy jest nam naprawd\u0119 potrzebne, w czasach gdy w ka\u017cdym miejscu na \u015bwiecie mo\u017cemy po\u0142\u0105czy\u0107 si\u0119 z internetem przy pomocy smartfona? BCI m\u00f3g\u0142by pom\u00f3c pacjentom cierpi\u0105cym na choroby takie jak Parkinson, ludziom g\u0142uchym czy dotkni\u0119tym parali\u017cem. Jednak dla wszystkich tych przypad\u0142o\u015bci zosta\u0142y ju\u017c wytworzone (albo zostan\u0105 w przysz\u0142o\u015bci) specjalne implanty, leki i terapie, kt\u00f3rych zastosowanie jest znacznie bezpieczniejsze, jak r\u00f3wnie\u017c ta\u0144sze w realizacji, ni\u017c instalacja wspomnianych interfejs\u00f3w. Pomimo tych wszystkich wad, interfejsy m\u00f3zg-komputer wci\u0105\u017c s\u0105 u\u017cywane do cel\u00f3w medycznych czy rehabilitacyjnych, jak r\u00f3wnie\u017c naukowych – umo\u017cliwiaj\u0105 one lepsze zrozumienie funkcjonowania ludzkiego m\u00f3zgu, przez co pomagaj\u0105 lepiej zrozumie\u0107 choroby psychiczne czy neurologiczne, jak r\u00f3wnie\u017c stanowi\u0105 krok na drodze do utworzenia emulacji m\u00f3zgu.<\/p>\n Emulacja m\u00f3zgu<\/strong><\/span><\/p>\n Whole Brain Emulation (WBE) <\/em>to hipotetyczny proces, w kt\u00f3rym m\u00f3zg cz\u0142owieka jest skanowany, a nast\u0119pnie jego stan jest symulowany na komputerze. Nick Bostrom twierdzi, \u017ce WBE ma potencja\u0142 do rozwi\u0105zania wielu problem\u00f3w moralnych i filozoficznych, takich jak problem \u015bmierci, problem to\u017csamo\u015bci i problem odpowiedzialno\u015bci. Argumentuje on r\u00f3wnie\u017c, \u017ce emulacja m\u00f3zgu umo\u017cliwi przyspieszenie post\u0119pu naukowego i technologicznego, poniewa\u017c pozwala na lepsze zrozumienie m\u00f3zgu i na tworzenie bardziej zaawansowanych system\u00f3w sztucznej inteligencji. Jednocze\u015bnie takie rozwi\u0105zanie by\u0142oby przyk\u0142adem superinteligencji s\u0142abej – przewy\u017csza\u0142a by cz\u0142owieka g\u0142\u00f3wnie szybko\u015bci\u0105 my\u015blenia, a nie mo\u017cliwo\u015bciami<\/p>\n Istotnym elementem jest zrozumienie i zmapowanie proces\u00f3w neuronalnych w m\u00f3zgu, co jest trudnym i skomplikowanym procesem. Wiele osi\u0105gni\u0119\u0107 w neuronauce pozwoli\u0142o na lepsze zrozumienie struktury i funkcji m\u00f3zgu, ale jest jeszcze daleko do tego, aby uzyska\u0107 pe\u0142ne zrozumienie proces\u00f3w m\u00f3zgu, szczeg\u00f3lnie tych zwi\u0105zanych ze \u015bwiadomo\u015bci\u0105. Kolejn\u0105 kluczow\u0105 kwesti\u0105 jest jak skutecznie przenie\u015b\u0107 dane z m\u00f3zgu do komputera i to jak skutecznie symulowa\u0107 m\u00f3zg na komputerze. Obecnie istniej\u0105 r\u00f3\u017cne podej\u015bcia do WBE, takie jak sieci neuronowe, czy symulacje fizyczne. Pozostaj\u0105 jeszcze pytania natury etycznej – czy sklonowanie czyjego\u015b m\u00f3\u017cgu mo\u017cna uzna\u0107 za moralnie usprawiedliwione, jakie b\u0119dzie mia\u0142o to konsekwencje dla ludzko\u015bci, i jaki wp\u0142yw b\u0119dzie to mia\u0142o dla prywatno\u015bci i praw cz\u0142owieka. Mimo wszystko ludzko\u015b\u0107 jest jeszcze bardzo daleka od stworzenia dzia\u0142aj\u0105cych symulacji ludzkiego m\u00f3zgu, a sama idea jest do\u015b\u0107 abstrakcyjna i nie przez wszystkich uwa\u017cana za realistyczn\u0105.<\/p>\n <\/p>\n Inteligencja og\u00f3lna – AGI<\/strong><\/span><\/p>\n Artificial General Intelligence (AGI) to poj\u0119cie oznaczaj\u0105ce sztuczn\u0105 inteligencj\u0119, kt\u00f3ra posiada zdolno\u015bci poznawcze i kognitywne podobne do ludzi. AGI jest zdolna do rozwi\u0105zywania r\u00f3\u017cnorodnych problem\u00f3w i zada\u0144, a tak\u017ce do adaptowania si\u0119 do nowych sytuacji, tak jak cz\u0142owiek. R\u00f3\u017cni si\u0119 od sztucznej inteligencji w\u0105skiej (ANI), kt\u00f3ra jest specjalizowana w jednej dziedzinie, takiej jak rozpoznawanie mowy lub analiza danych. Wydaje si\u0119, \u017ce jednym z krok\u00f3w na drodze do superinteligencji musi by\u0107 zaprogramowanie inteligencji og\u00f3lnej. Na tym etapie stworzony system nie r\u00f3\u017cni si\u0119 znacz\u0105co od ludzkiego m\u00f3zgu, a wi\u0119c b\u0119dzie prostszy do kontrolowania i monitorowania. Nie wiadomo ile b\u0119dzie trwa\u0142o przej\u015bcie od inteligencji og\u00f3lnej do superinteligencji, jednak naukowcy spekuluj\u0105, \u017ce AGI mog\u0142aby sama si\u0119 uczy\u0107 i udoskonala\u0107, aby w ko\u0144cu osi\u0105gn\u0105\u0107 superinteligencj\u0119.<\/p>\n <\/p>\n Zagro\u017cenia<\/span><\/strong><\/p>\n Jednym z g\u0142\u00f3wnych zagro\u017ce\u0144 zwi\u0105zanych z superinteligencj\u0105 jest to, \u017ce mo\u017ce ona mie\u0107 cele, kt\u00f3re s\u0105 sprzeczne z interesami ludzi. Superinteligencja mo\u017ce mie\u0107 tendencj\u0119 do poszukiwania i realizowania swoich w\u0142asnych cel\u00f3w, kt\u00f3re wykraczaj\u0105 poza ludzkie zrozumienie. Rozwa\u017cmy przypadek, gdzie w miejscu, w kt\u00f3rym znajduje si\u0119 mrowisko chcemy zbudowa\u0107 dom. W konsekwencji niszczymy mrowisko, ale nie dlatego, \u017ce \u017cywimy nienawi\u015b\u0107 do mr\u00f3wek, ale dlatego, \u017ce ich istnienie jest sprzeczne z naszymi interesami. W ko\u0144cu niezale\u017cnie od naszych stara\u0144 nie jeste\u015bmy w stanie wyt\u0142umaczy\u0107 mr\u00f3wkom, \u017ce musz\u0105 si\u0119 przenie\u015b\u0107, poniewa\u017c mamy w planach zagospodarowa\u0107 wybrany przez nas teren. Podobny los mo\u017ce spotka\u0107 nas w przypadku, gdy superinteligencja postanowi realizowa\u0107 swoje w\u0142asne zamiary.<\/p>\n Kolejnym zagro\u017ceniem jest tzw. „eksplozja inteligencji”. W definicji superinteligencji widzimy, \u017ce jest to system, kt\u00f3ry przewy\u017csza cz\u0142owieka w ka\u017cdej dziedzinie nauki. Oznacza to, \u017ce r\u00f3wnie\u017c potrafi zaprojektowa\u0107 system inteligentny, kt\u00f3ry b\u0119dzie wydajniejszy od zaprojektowanego przez cz\u0142owieka. W konsekwencji superinteligencja jest w stanie iteratywnie tworzy\u0107 coraz inteligentniejsze wersje siebie, co prowadzi do eksplozji inteligencji. Punk w kt\u00f3rym stwierdzimy, \u017ce mamy styczno\u015b\u0107 z superinteligencj\u0105 i przestaniemy rozumie\u0107 jej zamiary nazywa si\u0119 momentem odej\u015bcia. Nie jest pewne ile ten proces mo\u017ce potrwa\u0107. Nick Bostrom proponuje trzy scenariusze. Pierwszy z nich zak\u0142ada, \u017ce moment odej\u015bcia potrwa kilka sekund, drugi kilka godzin, a trzeci miesi\u0105ce lub lata. Najbardziej korzystnym dla ludzko\u015bci wydaje si\u0119 scenariusz trzeci, gdzie b\u0119dziemy mieli cho\u0107 kilka miesi\u0119cy aby przygotowa\u0107 si\u0119 i dostosowa\u0107 do nadchodz\u0105cej superinteligencji.<\/p>\n Bezpo\u015brednio z\u00a0 drugiego zagro\u017cenia wynika kolejne, czyli problem kontroli. Jak mamy kontrolowa\u0107 system, kt\u00f3ry jest miliony razy m\u0105drzejszy ni\u017c ca\u0142a ludzko\u015b\u0107? Rozwi\u0105zaniem tego problemu by\u0142oby odizolowanie superinteligencji od \u015bwiata zewn\u0119trznego i zapewnienie jest komunikacji z lud\u017ami w ograniczonej formie, np. mo\u017cliwo\u015b\u0107 odpowiadania na pytania tylko w postaci TAK lub NIE. Jednak taki rodzaj superinteligencji w formie wyroczni nie by\u0142by zadowalaj\u0105cy. Kolejnym rozwi\u0105zaniem mog\u0142oby by\u0107 zaszczepienie ludzkich warto\u015bci superinteligencji na etapie, kiedy nie przewy\u017csza\u0142a jeszcze inteligencji ludzkiej. W tym przypadku te\u017c pojawia si\u0119 problem natury filozoficznej: jakie warto\u015bci powinni\u015bmy jej przekaza\u0107? Dlatego wa\u017cne jest, aby rozwa\u017cy\u0107 te problemy ju\u017c na etapie projektowania i tworzenia superinteligencji i wprowadzi\u0107 odpowiednie \u015brodki bezpiecze\u0144stwa, aby zminimalizowa\u0107 ryzyko niekontrolowanego rozwoju i zapewni\u0107, \u017ce superinteligencja b\u0119dzie dzia\u0142a\u0107 zgodnie z ludzkimi warto\u015bciami i celami.<\/p>\n <\/p>\n Podsumowanie<\/span><\/strong><\/p>\n Superinteligentny system mo\u017ce przynie\u015b\u0107 wiele korzy\u015bci takich jak przyspieszenie post\u0119pu technologicznego i rozwi\u0105zanie wszelakich problem\u00f3w ludzko\u015bci, jednak zagro\u017cenia zwi\u0105zane z jego rozwojem s\u0105 gigantyczne. Tak jak pokazali\u015bmy, superinteligencja nie musi wcale by\u0107 wrogo nastawiona w stosunku do ludzko\u015bci, aby wyrz\u0105dzi\u0107 nam szkody. Jej dzia\u0142ania mog\u0105 wykracza\u0107 poza nasze zrozumienie i podobnie jak ludzie, kt\u00f3rzy niszcz\u0105 mrowisko, aby zbudowa\u0107 np. drog\u0119, superinteligencja mo\u017ce unicestwi\u0107 ludzko\u015b\u0107 w „wy\u017cszym” celu. Eksperci i futury\u015bci nie s\u0105 zgodni, kiedy mo\u017cemy spodziewa\u0107 si\u0119 nadej\u015bcia inteligencji og\u00f3lnej, a w konsekwencji superinteligencji, ale bezsprzecznie by\u0142by to prze\u0142om w historii ludzko\u015bci na miar\u0119 odkrycia ognia. Jednak pomimo du\u017cej ilo\u015bci niedopowiedze\u0144 i za\u0142o\u017ce\u0144 jedno pozostaje pewne: je\u017celi uda nam si\u0119 stworzy\u0107 superinteligencj\u0119, to b\u0119dzie ona ostatnim wynalazkiem ludzko\u015bci.<\/p>\n Dla zainteresowanych polecam ksi\u0105\u017ck\u0119:<\/p>\n <\/p>\n Bibliografia<\/span><\/strong><\/p>\n Superinteligencja to s\u0142owo, kt\u00f3re cz\u0119sto pojawia si\u0119 w artyku\u0142ach opisuj\u0105cych przysz\u0142o\u015b\u0107 sztucznej inteligencji, ale czym ona tak naprawd\u0119 jest? Jakie s\u0105 \u015bcie\u017cki wiod\u0105ce ku superinteligencji oraz jakie s\u0105 jej mo\u017cliwo\u015bci, ale przede wszystkim \u2014 do jakich zagro\u017ce\u0144 mo\u017ce prowadzi\u0107? W tym po\u015bcie postaramy si\u0119 odpowiedzie\u0107 na wszystkie te pytania.<\/p>\n","protected":false},"author":87,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[185],"tags":[15,23,12,183,129],"class_list":["post-2596","post","type-post","status-publish","format-standard","hentry","category-uj-2022-23","tag-ai","tag-deep-learning","tag-etyka","tag-superinteligencja","tag-zagrozenie"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/2596","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/users\/87"}],"replies":[{"embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/comments?post=2596"}],"version-history":[{"count":25,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/2596\/revisions"}],"predecessor-version":[{"id":2661,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/posts\/2596\/revisions\/2661"}],"wp:attachment":[{"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/media?parent=2596"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/categories?post=2596"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/architeles.eu\/ethics\/index.php\/wp-json\/wp\/v2\/tags?post=2596"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n\n\n\n![\"\"](\"http:\/\/architeles.pl\/ethics\/wp-content\/uploads\/2023\/01\/brain_emulation-300x278.png\")
![\"Superinteligencja.](\"https:\/\/s.lubimyczytac.pl\/upload\/books\/304000\/304467\/710374-352x500.jpg\")
<\/p>\n\n
Humanity<\/span> Institute,<\/span> Oxford<\/span> University<\/span><\/li>\n