W dzisiejszym świecie, rozwój technologii autonomicznych samochodów stawia przed nami nie tylko pytania techniczne, ale również moralne i etyczne. Każdy z nas jest w stanie zaprezentować liczne przykłady trudnych decyzji, jakie muszą podjąć kierowcy w sytuacjach krytycznych na drodze. Autonomiczne samochody, które są programowane do podejmowania decyzji na podstawie algorytmów, muszą również mieć możliwość rozstrzygnięcia podobnych dylematów. Jakie są zatem moralne i etyczne aspekty związane z autonomicznymi samochodami? Czy maszyna powinna być odpowiedzialna za podejmowanie decyzji o życiu i śmierci?
Wstęp
Samochody autonomiczne, będące jednym z najbardziej innowacyjnych osiągnięć w dziedzinie motoryzacji, zyskują coraz większą popularność i stanowią przedmiot intensywnych badań i rozwoju technologicznego. Ich potencjał do rewolucjonizacji sposobu, w jaki podróżujemy i korzystamy z pojazdów, jest niezaprzeczalny. Autonomiczne samochody oferują obietnicę zwiększenia bezpieczeństwa na drodze, optymalizacji ruchu drogowego oraz większej wygody i komfortu dla pasażerów. Jednak wraz z tymi zaletami pojawiają się również poważne pytania dotyczące moralnych i etycznych aspektów związanych z tymi nowymi technologiami.
Wraz z rozwojem zaawansowanych technologii informatycznych, moralność i etyka stają się kluczowymi zagadnieniami, które wymagają uwagi i analizy. Jak powinny te pojazdy postępować w trudnych sytuacjach na drodze, gdzie konieczne jest podjęcie decyzji, które mogą mieć wpływ na ludzkie życie? Jak powinny być priorytetyzowane wartości, takie jak bezpieczeństwo pasażerów, ochrona innych użytkowników dróg czy optymalizacja ruchu?
W niniejszym artykule skupimy się na moralnych i etycznych aspektach autonomicznych samochodów. Przeanalizujemy różnorodne dylematy, które wynikają z automatycznego podejmowania decyzji przez algorytmy sterujące, oraz ich wpływ na nasze społeczeństwo i sposób funkcjonowania na drodze. Omówimy kwestie równości, odpowiedzialności prawnej, manipulacji systemem, prywatności i uczciwości.
Podział pojazdów autonomicznych
Zanim rozpoczniemy dyskusję na temat autonomicznych samochodów warto zadać sobie pytanie co rozumiemy pod tym pojęciem i na jakim poziomie ich rozwoju jesteśmy. Autonomiczne samochody to pojazdy, które są w stanie samodzielnie operować na drogach, bez konieczności udziału kierowcy w większości sytuacji. Wyposażone w zaawansowane czujniki, kamery, radar, lidary i systemy sztucznej inteligencji, autonomiczne samochody są w stanie analizować otoczenie, podejmować decyzje i reagować na zmieniające się warunki drogowe.
Organizacja SAE International (Society of Automotive Engineers) zdefiniowała sześć poziomów autonomiczności, które opisują różne stopnie zaawansowania technologicznego w zakresie samodzielnej jazdy (SAE standards)
- Poziom 0: Brak autonomiczności – Na tym poziomie samochód jest w pełni kontrolowany przez człowieka. Systemy wsparcia kierowcy mogą być obecne, ale nie ma żadnej automatyzacji prowadzenia.
- Poziom 1: Asystencja kierowcy – Na tym poziomie samochód wyposażony jest w pewne systemy wspomagające kierowcę, takie jak tempomat adaptacyjny, asystent utrzymania pasa ruchu czy automatyczne hamowanie awaryjne. Te funkcje działają w sposób niezależny od siebie i wymagają ciągłej obecności i interwencji kierowcy.
- Poziom 2: Częściowa autonomiczność – Na poziomie 2 samochód może przejmować pewne zadania związane z prowadzeniem, takie jak utrzymanie prędkości, utrzymanie pasa ruchu i automatyczne hamowanie w niektórych sytuacjach. Kierowca musi jednak nadal być gotowy do przejęcia kontroli w każdej chwili i monitorować sytuację na drodze.
- Poziom 3: Warunkowa autonomiczność – Na tym poziomie samochód może prowadzić w określonych warunkach, takich jak autostrady. Systemy autonomiczne są w stanie monitorować otoczenie i podejmować decyzje samodzielnie, ale kierowca musi być w stanie przejąć kontrolę w przypadku, gdy system zwróci sygnał, że tego wymaga. W trybie autonomicznym kierowca może zająć się innymi czynnościami, ale musi być w stanie przejąć kontrolę w krótkim czasie, gdy system go o tym poinformuje.
- Poziom 4: Wysoka autonomiczność – Samochód na tym poziomie jest w stanie poruszać się w pełni autonomicznie, ale jedynie na określonej przestrzeni. Może to znaleźć zastosowanie np: jako taksówki radzące sobie w konkretnym mieście.
- Poziom 5: W pełni autonomiczne – Na najwyższym poziomie autonomiczności samochód jest w stanie prowadzić w dowolnych warunkach i sytuacjach bez konieczności ingerencji człowieka. Kierowca nie musi być gotowy do przejęcia kontroli, ponieważ samochód może samodzielnie podejmować decyzje i działać w pełni autonomicznie. To oznacza, że samochód może działać nawet bez obecności kierowcy, nie musi też być wyposażony w kierownicę ani pedały.
Warto zauważyć, że obecnie większość samochodów na drogach należy do poziomów 0, 1 i 2. Rozwój samochodów autonomicznych na poziomie 3 i 4 jest nadal badany i testowany, a wprowadzenie samochodów w pełni autonomicznych na drogi publiczne w skali masowej nadal jest przedmiotem dalszych prac i regulacji prawnych. Nawet najpopularniejszy w kontekście aut autonomicznych autopilot Tesli, oficjalnie znajduję się dopiero na drugim poziomie w przedstawionej skali (Autopilot Tesli). Rozmawiając o moralnych i etycznych aspektach pojazdów autonomicznych wyobrażamy sobie zwykle auta należące do najwyższego poziomu.
Podstawowe aspekty dotyczące etyki
Pierwszym kwestionowanym zagadnieniem jest dylemat w przypadku nieuniknionej kolizji. Jeśli samochód autonomiczny jest świadomy nieuchronnej kolizji, to jak powinien zareagować? Czy powinien chronić życie pasażerów za wszelką cenę, czy może bardziej odpowiednie jest, aby minimalizował straty w ludzkim życiu, nawet kosztem pasażerów? Istnieje również pytanie, czy samochody autonomiczne powinny być programowane z góry w przypadku takich sytuacji, czy powinny uczyć się na podstawie doświadczeń. Różnorodne warianty problematycznych scenariuszy są rozważane w wielu pracach naukowych (Bonnefon, 2019). Ciekawą jest też sytuacja w której tak bezpośrednio widzimy zastosowanie problemów filozoficznych, które do tej pory były jedynie eksperymentami myślowymi. Co więcej, nawet gdyby społeczeństwo i eksperci znaleźli wspólną odpowiedź na te pytania (co jest mało prawdopodobne, patrząc na fakt, że nie istnieje konsensus nawet w dużo prościej sformułowanym dylemacie wagonika) nie wiadomo, czy współcześnie wykorzystywane technologie umożliwiłyby na wcielenie ich w życie. Warto pamiętać, że większość algorytmów uczenia maszynowego wykorzystywanego w tego typu sytuacjach działa do pewnego stopnia na zasadzie “czarnej skrzynki” i tak naprawdę nikt nie jest w stanie przewidzieć, jak zachowa się samochód w sytuacji awaryjnej.
Moralne i etyczne aspekty autonomicznych samochodów dotykają również kwestii równości. Czy algorytmy powinny faworyzować bezpieczeństwo innych użytkowników dróg, takich jak piesi czy rowerzyści, kosztem komfortu i wygody pasażerów w samochodzie? Decyzje takie mogą prowadzić do sytuacji, w których samochody autonomiczne w pewnym sensie “wybierają” kogo chronić i kogo potencjalnie zagrażać. Warto więc zastanowić się, czy priorytetem powinna być ochrona wszystkich użytkowników dróg, a nie tylko pasażerów samochodu.
Dość często przedstawianym atutem autonomicznych samochodów ma być możliwość minimalizacji korków dzięki automatycznemu sterowaniu ruchem przez komunikujące się ze sobą pojazdy. O ile takie rozwiązania mogłyby mieć jakiś sens przy autostradach, o tyle w mieście gdzie kierowcy często dzielą drogi z rowerzystami czy pieszymi mogłoby znacząco wpłynąć na ich komfort. Kwestia wpływu samochodów autonomicznych na pozostałych uczestników ruchu drogowego i przyszłość ich wzajemnych interakcji pozostaje raczej wielką niewiadomą, chociaż oczywiście wiele osób próbuje spekulować na ten temat i szukać optymalnych dla obu stron rozwiązań (Tettamanti, 2016).
Konieczne jest więc podejście, które stawia priorytet na ochronę wszystkich użytkowników dróg, niezależnie od tego, czy są to pasażerowie samochodu czy osoby poruszające się pieszo czy na rowerze. W takim podejściu algorytmy powinny być zaprogramowane tak, aby minimalizować ryzyko wypadków i obrażeń dla wszystkich uczestników ruchu drogowego. To oznacza, że samochody autonomiczne powinny przestrzegać przepisów drogowych, utrzymywać odpowiednie odstępy, respektować pierwszeństwo pieszych na przejściach i inne zasady bezpieczeństwa drogowego.
Odpowiedzialność prawna
Kolejnym aspektem, który należy rozważyć w kontekście moralnych i etycznych aspektów autonomicznych samochodów, jest kwestia odpowiedzialności prawnej. W przypadku tradycyjnych pojazdów, odpowiedzialność prawna za wypadek najczęściej spada na kierowcę lub właściciela pojazdu. Jednak w przypadku autonomicznych samochodów, gdzie wiele decyzji podejmowanych jest przez algorytmy i systemy komputerowe, ustalenie odpowiedzialności staje się bardziej złożone.
W takim przypadku możliwymi podmiotami, które można wskazać jako potencjalnie odpowiedzialne, są producent samochodu, programista odpowiedzialny za algorytmy sterujące, operator systemu lub nawet właściciel pojazdu. W zależności od sytuacji, każda z tych stron może mieć pewien udział w odpowiedzialności za wypadek.
Właściciele autonomicznych samochodów powinni być chronieni przez odpowiednie przepisy prawne, które określają jasno, kto ponosi odpowiedzialność za wypadki i szkody wynikłe z działania autonomicznego systemu. Takie przepisy mogą obejmować ustalenie odpowiedzialności producenta samochodu za wady konstrukcyjne lub programisty za błędy w algorytmach. Ponadto, operatorzy systemów autonomicznych samochodów mogą również ponosić odpowiedzialność za właściwe utrzymanie i nadzór nad systemem. W wielu przypadkach podział odpowiedzialności może być jednak bardzo trudy, a wina może leżeć całkowicie po stronie “pecha”. Powstaje pytanie czy obecne prawo jest w stanie przygotować sprawiedliwy system, w którym wszyscy będą czuli się bezpieczni, ale jednocześnie nikt nie pozostanie bezkarny (Kermorgant, 2016).
Zagrożenia związane z manipulowaniem systemami
Jednym z aspektów, który budzi zainteresowanie w kontekście moralności autonomicznych samochodów, jest możliwość manipulacji systemem. Istnieje obawa, że nieuczciwe jednostki mogą wykorzystać luki w algorytmach, aby samochody autonomiczne działały na ich korzyść. To podnosi pytania o bezpieczeństwo, prywatność i uczciwość systemu. Konieczne jest zatem wprowadzenie odpowiednich zabezpieczeń, aby zapobiec manipulacji i nadużyciom.
Jak pokazują liczne przykłady z innych dziedzin uczenia maszynowego, działaniem taki algorytmów można manipulować nawet nie włamując się do systemu i nie zmieniając w nim żadnych informacji. Na zdjęciu poniżej widać, że wystarczy trzymać pewne specyficzne obrazy, aby większość algorytmów mających na celu detekcję obiektów na zdjęciach nie uznała nas za osoby. Informacja ta była zwykle opowiadana jako zabawna anegdota, nie trudno jednak wyobrazić sobie jak niebezpieczne konsekwencje mogłoby spowodować istnienie tego typu błędów w oprogramowaniu pojazdów autonomicznych.
Kolejnym aspektem jest kwestia prywatności. Autonomiczne samochody zbierają i analizują dużą ilość danych, takich jak dane o lokalizacji, zachowaniu kierowców czy informacje o innych pojazdach na drodze. Istnieje obawa, że nieuczciwe jednostki mogą próbować uzyskać dostęp do tych danych i wykorzystać je w sposób niezgodny z prawem lub w celach szkodliwych. Ochrona prywatności użytkowników autonomicznych samochodów jest zatem niezwykle istotna i wymaga odpowiednich zabezpieczeń technologicznych i prawnych.
Ponadto, manipulacja autonomicznymi samochodami podnosi pytania o uczciwość systemu. Algorytmy sterujące samochodami autonomicznymi powinny być sprawiedliwe i działać zgodnie z określonymi zasadami. Jeśli osoby nieuczciwe będą miały możliwość manipulacji tych algorytmów, mogłoby to prowadzić do sytuacji, w których samochody autonomiczne faworyzują pewne interesy lub dyskryminują innych użytkowników dróg. Bezpieczeństwo przygotowywanych algorytmów jest równie niezbędne jak ich skuteczność aby pojazdy autonomiczne mogły pojawić się na naszych drogach, co niestety nie jest wystarczająco podkreślane (Albiston, 2018)
Podsumowanie
Podsumowując, autonomiczne samochody stawiają przed nami wiele trudnych dylematów moralnych i etycznych. Decyzje dotyczące takich kwestii jak kolizje, odpowiedzialność prawna, priorytety i bezpieczeństwo muszą być starannie rozważone i odpowiednio uregulowane. Wprowadzenie samochodów autonomicznych oznacza konieczność ustalenia odpowiednich standardów i zasad, które uwzględniają bezpieczeństwo, sprawiedliwość i równość dla wszystkich użytkowników dróg. Muszą być opracowane odpowiednie przepisy prawne i regulacje, które będą kierować działaniem i odpowiedzialnością autonomicznych samochodów w różnych sytuacjach na drodze. Ważne jest, aby społeczeństwo wraz z naukowcami i prawnikami angażowało się w debatę na temat tych aspektów, aby znaleźć rozwiązania, które uwzględniają zarówno postęp technologiczny, jak i wartości moralne.
Literatura
- https://www.sae.org/standards/content/j3016_202104/
- https://en.wikipedia.org/wiki/Tesla_Autopilot
- J. -F. Bonnefon, A. Shariff and I. Rahwan, “The Trolley, The Bull Bar, and Why Engineers Should Care About The Ethics of Autonomous Cars [point of view],” in Proceedings of the IEEE, vol. 107, no. 3, pp. 502-504, March 2019, doi: 10.1109/JPROC.2019.2897447.
- Tettamanti, T., Varga, I., Szalay, Z. (2016) “Impacts of Autonomous Cars from a Traffic Engineering Perspective”, Periodica Polytechnica Transportation Engineering, 44(4), pp. 244–250. https://doi.org/10.3311/PPtr.9464
- Kermorgant, G., Siary, O. (2016). Is the Law Ready for Autonomous Cars?. In: Langheim, J. (eds) Energy Consumption and Autonomous Driving. Lecture Notes in Mobility. Springer, Cham. https://doi.org/10.1007/978-3-319-19818-7_10
- Albiston, Forrest (2018) “Autonomous Cars and the Anonymous Threat: The Immediate Need for Cybersecurity Legislation for Self-Driving Vehicles,” Brigham Young University Prelaw Review: Vol. 32,
Świetny artykuł! Bardzo dokładnie opisuje zarówno szanse, jak i wyzwania związane z wprowadzeniem kryptowalut, NFT i technologii blockchain do współczesnej…