Autonomiczne samochody, drony, pojazdy transportowe, roboty, to stały element filmów osadzonych w przyszłości. Tą przyszłość w pewnym sensie mamy już teraz – samochody firm Tesla, Mercedes, BMW potrafią jechać same pod nadzorem kierowcy, samoloty latają w większości na autopilocie, drony potrafią same wrócić do bazy a roboty są w stanie pokonać tory przeszkód. Przyszedł zatem czas aby zrobić następny krok – usunąć człowieka zrównania. Jednak co jeśli coś pójdzie nie tak? Jak policja ma ukarać autonomiczny samochód? Oraz czy zaufałbyś taksówce bez taksówkarza?

Razem z rozwojem nowych technologii ludzie stworzyli zestaw norm i reguł, które pozwalają na korzystanie z nich przez wiele osób jednocześnie, w możliwie bezpieczny sposób. Dobrze to widać chociażby w transporcie, gdzie codziennie miliony osób poruszają się po wspólnych chodnikach, drogach, rzekach czy niebie. Jest to możliwe poprzez spisanie pewnego zestawu reguł których wszyscy się trzymają. Na takiej samej zasadzie w środowisku może współistnieć urządzenie autonomiczne, które będzie miało dane, pozwalające na ocenę stanu otoczenia oraz zaprogramowane reguły zachowania, pozwalające na  wykonywanie określonych akcji odpowiednich dla kontekstu.

Pierwsze pytanie które się nasuwa to: po co? – generalnie chodzi o wygodę oraz bezpieczeństwo. To pierwsze jest niezaprzeczalne, ale i w drugim już teraz pojazdy autonomiczne wygrywają. Czas reakcji kierowcy zawodowego na zdarzenie na drodze to około 0,2 sekundy, przeciętnego kierowcy 0,5 sekundy a nie skupionego kierowcy nawet powyżej sekundy. Czas reakcji samochodu autonomicznego to około 0,02 sekundy – zawsze i wszędzie, czego skutki widać na poniższym wideo.

Jak pojazdy autonomiczne podejmują decyzje?

Dla pojazdów autonomicznych mamy dane wejściowe w postaci danych z kamery, radaru, lasera czy też urządzenia LiDAR. Dane te łączone są z informacjami o lokalizacji oraz informacjami otrzymanymi od innych pojazdów i na ich podstawie na bieżąco podejmowane są decyzje o wykonywanej czynności.

 

Istnieją różne podejścia do podejmowania decyzji, które zostały omówione w poniższej tabeli.

Metoda		Charakterystyka
Metody klasyczne	Metody oparte na regułach	Posiadają bazę reguł określających zachowania w konkretnych przypadkach.
	Metody optymalizacyjne	Zazwyczaj opierają się na funkcji nagrody lub użyteczności w celu wygenerowania wyników decyzji.
	Metody probabilistyczne	Generują wyniki zachowań na podstawie teorii prawdopodobieństwa w matematyce. W celu określenia zachowań należy stworzyć model probabilistyczny.
Metody oparte na uczeniu	Metody statystyczne	Umożliwiają pojazdom autonomicznym opanowanie zdolności podejmowania decyzji zbliżonych do ludzkich dzięki dużej liczbie danych treningowych. Typowe metody oparte na uczeniu statystycznym obejmują SVM, AdaBoost itp.
	Metody oparte na uczeniu głębokim	Wykorzystują strukturę sieci neuronowych do uczenia się cech danych i generowania wyników klasyfikacji lub regresji. Dzięki zaletom metod głębokiego uczenia w przetwarzaniu obrazów opracowano systemy typu end-to-end, które umożliwiają podejmowanie decyzji w pojazdach autonomicznych. Zazwyczaj dane z czujników są wybierane jako dane wejściowe, a polecenia sterujące niskiego poziomu są generowane za pomocą wytrenowanych sieci neuronowych.
	Metody oparte na uczeniu ze wzmocnieniem	Model uczy się poprzez  system nagród i kar które są mu przyznawane na podstawie podjętych działań.

Mamy więc dane wejściowe które jesteśmy w stanie zebrać poprzez liczne czujniki, mamy metody które sprawdzają się w sterowaniu pojazdem który będzie poruszał się tak jak go zaprogramujemy, wydawałoby się że mamy wszystko, prawda?

Podejmowanie decyzji w kontekście dylematów moralnych

Teoretycznie tak, jednak co powinien zrobić pojazd w przypadku, w którym mamy konflikt moralny (często podawanym przykładem jest problem wagonika)? To znaczy w przypadku, w którym każda decyzja będzie wiązała się z pewną stratą – czasem nawet  zdrowia lub życia osób w pojeździe oraz dookoła niego.

Co na to filozofia?

Przedmiot moralności jest od lat rozważany przez filozofów. Istnieje kilka nurtów, które warto jest przytoczyć w kontekście tego zagadnienia:

Stanowiska etyczne	Charakterystyka	W kontekście moral machine
Deontologia	czyn jest moralnie dobry, jeżeli jest zgodny z nakazem lub zakazem odpowiedniego autorytetu, określający przyjęte zasady jako najwyższa wartość, do której jednostka powinna się˛ stosować	zależy od zasad jakie określa autorytet
Fatalizm	przyszłość i wydarzenia, które dopiero się˛ mają wydarzyć są już  ustalone przez siły wyższe i nie mogą być zmienione przez żadne działania pojedynczego człowieka lub całej ludzkości	nie należy podejmować żadnego działania i trzeba zdać się na przeznaczenie
Personalizm	życie ludzi jest najważniejszą wartością, jednocześnie wszyscy ludzie są równie ważni	ratujemy jak najwięcej ludzi (nie zwracając uwagi na wiek, płeć …)
Postmodernizm	odpowiedzialność i tolerancja ponad nakazy narzucane przez autorytety.	zależy od przekonań danej jednostki
Utylitaryzm	najlepszym moralnie działaniem jest to, które daje największe szczęście lub użyteczność	ratujemy grupę bardziej “użyteczną”

Zasady narzucone pojazdowi mogą bazować przynajmniej części na którymś nurcie, problemem jest jednak wybranie jednego, ponieważ są one skrajnie różne.

W praktyce jednak utylitaryzm wymagałby zbierania danych o jednostkach poruszających się po przestrzeni publicznej, co nie tylko byłoby trudne, ale i samo w sobie zawierałoby dylemat na temat podejścia do prywatności, postmodernizm w przypadku maszyn raczej się nie sprawdzi, bo potrzebujemy jasnej odpowiedzi co zrobić, fatalizm również byłby trudny, bo w tej sytuacji należałoby zdecydowac co to znaczy nie podemować działania, personalizm mógłby znichęcać do zakupu takich samochodów więc zostaje deontologia. Tylko na czym ją oprzeć?

Co myślą ludzie?

W celu sprawdzenia co w takich sytuacjach ludzie sądzą że pojazd powinien zrobić powstał projekt Moral Machine, w którym wśród badanych (wziąć udział może każdy, link: Moral Machine) sprawdzono jak ludzie zareagowaliby, poprzez pokazanie dwóch scenariuszy z których należało wybrać jeden.

Wyniki prezentują się następująco:

Ciekawym wnioskiem jest fakt, że wyniki różnią się w zależności od regionu pochodzenia czy zamożności badanych. Dla przykładu można zobaczyć, że badani pochodzący z krajów określone jako zachodnie na poniższym diagramie przywiązują wagi do ratowania młodszych ludzi.

Jeżeli jednak spojrzeć całościowo na wyniki widać, że ludzie idą w stronę minimalizacji szkód, ocalenia jak największej ilości istnień, jednocześnie przedkładając np. życie młodych nad starszych (co dosyć dobrze wpisuje się w utylitaryzm). 

Więcej można zobaczyć w materiale TED:

 

A jak to działa współcześnie?

Wraz ze wzrostem akceptacji obecności technologii w wielu aspektach życia codziennego, również autonomiczne pojazdy staną się codziennością i zmienią transport jaki teraz znamy. Wielu producentów i firm już jest na dość zaawansowanym poziomie aby zbudować autonomiczne auta.

Wiele z technologii, które są częścią złożonego systemu autonomicznego weszło już do seryjnych samochodów, na przykład tempomat aktywny, utrzymywanie auta na pasie ruchu, wykrywanie kolizji, awaryjne hamowanie czy rozpoznawanie znaków i wiele innych. Stały się one wręcz standardem, przede wszystkim większość z nich jest wymagana przez regulacje prawne oraz homologacyjne, ponieważ znacznie zwiększają bezpieczeństwo. 

Jednak w pełni autonomiczne samochody nie są science-fiction. Waymo, firma która swoją działalność zaczęła w 2009 roku jako projekt Google, której wartość obecnie to ponad 30 mld $ stworzyła już wiele prototypów aut autonomicznych, które przejechały już ponad 20 mln. mil po drogach publicznych. Auta innej firmy rozwijającej auta autonomiczne Cruise przejechały ponad 2 mln. mil.

Podział systemów autonomicznych na poziomy

Istnieje skala, która określa poziom autonomiczności pojazdu, określając jego poziom w skali od 0 do 5, gdzie 0 to auta, które są prowadzone ręcznie bez automatyzacji a poziom 5 to w pełni autonomiczne auta, które nie potrzebują kierowcy.

Poziom 0 Autonomous Vehicle (No Driving Assistance) – jak wspomniane wcześniej kierowca sam musi prowadzić auto i nie jest w tym wspomagany. Większośc aut poruszających się po drogach można zaliczyć do tego poziomu.

Poziom 1 Autonomous Vehicle (Driver Assistance) – pojazdy, które posiadają systemy wspomagające kierowcę i mogące go zastąpić w niektórych czynnościach. Przykładowymi systemami są tempomat aktywny, który sam utrzymuje bezpieczną odległość od innych aut.

Poziom 2 Autonomous Vehicle (Partial Driving Automation) – automatyzacja na tym poziomie pomaga w głównych czynnościach podczas jazdy, takich jak kierowanie, przyspieszanie i hamowanie, ale kierowca musi być cały czas za kierownicą i pilnować systemu. Obejmuje to na przykład przekazanie kierowania autem po autostradzie komputerowi. Przykładem tu jest autopilot Tesli, który nie jest na 3 poziomie bo nie może poruszać się po mieście

Poziom 3 Autonomous Vehicle (Conditional Driving Automation) – auta, które mogą w niektórych przypadkach jechać autonomicznie i samemu podejmują decyzje. Kierowca nie musi trzymać rąk na kierownicy ale musi być obecny aby przejąć kontrolę w razie potrzeby. Jeszcze nie ma aut, które przeszłyby certyfikację na ten poziom. Audi twierdzi, że jako pierwsze zbudowało auto, które spełnia wymagania tego poziomu – model A8, ale nadal nie jest ono certyfikowane, więc nadal jest klasyfikowane jako auto poziomu 2.

Poziom 4 Autonomous Vehicle (High Driving Automation) – już auta, które w większości sytuacji nie potrzebują interwencji człowieka. Są to auta, które poruszają się w wyznaczonych regionach, czy trasach. Są to auta, które poruszają się po zapamiętanych trasach i znanym otoczeniu. Na przykład robotaxi, w Stanach poruszają się takie taksówki firm Waymo czy Cruise, w Chinach Volvo i Baidu.

Poziom 5 Autonomous Vehicle (Full Driving Automation) – całkowita autonomiczność, auto nie potrzebuje kontroli człowieka nad nim.

Auta autonomiczne mogą usprawnić ruch w miastach!

Rosnący ruch, a co za tym idzie korki w miastach stają coraz większe i wymagają kosztownych inwestycji ay poprawić infrastrukturę drogowa i budować nowe drogi. Natomiast auta autonomiczne mogłyby złagodzić korki oraz przyspieszyć i zmniejszyć przeciążenie ruchu w miastach o co najmniej 35%.

ludzie		auta

 

Dzięki możliwości komunikowania się z innymi pojazdami autonomicznymi, auta mogłyby się poruszać znacznie płynniej, właśnie poprzez ciągłe przesyłanie sobie informacji o ruchu, pozycji, prędkości czy zamiarach. Dzięki komunikacji ze światłami drogowymi mogłyby tak dopasować prędkość aby się nie zatrzymywać, bądź równocześnie ruszać na zielonym świetle bez czekania na poprzedzające auto. Dodatkowo ograniczyłoby to spalanie samochodu oraz emisję szkodliwych gazów. Również takie pojazdy mogłyby się poruszać w zwartym szyku, aby ograniczyć opór aerodynamiczny.

Dobra, dobra.. ale jak sprawić aby ludzie zaufali tym systemom?

Domyślnie auta są skierowane na interakcję z kierowcą, co powoduje, że inni uczestnicy ruchu, np. piesi czy rowerzyści mają problem z takimi pojazdami. Szczególnie, że jest to technologia, której nie spotykamy na ulicy i nie wiemy jak się takie auto zachowa czy nas widzi, czy zwalnia, żeby nas przepuścić a może ze względu na inne auta czy po prostu ograniczenie prędkości.

W artykule A Change of Perspective: Designing the Automated Vehicle as a New Social Actor in a Public Space pracownicy BMW rozważają jak pojazdy autonomiczne powinny współpracować z innymi użytkownikami dróg.

Zaczęli od analizy opinii ludzi, aby określić ich obawy i nadzieje związane z pojazdami autonomicznymi. Stwierdzili, że nie powinny to być poruszające się czarne skrzynki, które tylko zbierają informacje ale powinny się również komunikować z innymi w sposób wizualny. 

Określili jakie wiadomości powinien wysyłać samochód, czyli na przykład “widzę Cię” czy “ustępuję”. Trudniejszym zadaniem jest sposób przekazania tych informacji. Oczywiście może być to forma dźwiękowa lub wizualna. Autorzy artykułu zbadali różne opcje – wyświetlanie ikon na ekranie, bądź drodze czy pasek ledowy. Akurat w badaniu najlepiej wypadł pasek ledowy, który może przebiegać wokół auta i może się w miejscu gdzie jest inny uczestnik co wskazuje, że go widzi.

 

Innym przykładem, który mógłby uzupełnić interakcję jest użycie standardowych świateł. Nowoczesne lampy ledowe, są na tyle zaawansowane, że mogą kierować światło w wybrane miejsca a więc również wyświetlać informacje.

Auta autonomiczne są zdecydowanie bardziej ostrożne względem pieszych… którzy mogą to wykorzystać

Pojazdy autonomiczne są bardzo uważne i w zdecydowanej większości przypadków ustępują miejsca pieszym. Samochody Waymo w większości wypadków są uderzane w tył pojazdu, właśnie poprzez przepuszczanie pieszych. W artykule Perceptions of autonomous vehicles: Relationships with road users, risk, gender and age autor przeprowadził badanie opinii publicznej na temat bezpieczeństwa i akceptacji samochodów autonomicznych. W badaniu wzięło udział ponad 1500 osób w różnym wieku. Wyniki pokazały, że ludzie uważają, że auta autonomiczne są bezpieczniejsze od normalnych kierowców. Najbardziej optymistycznie reagują mężczyźni oraz młode osoby.

W przypadku 5 poziomu autonomiczności samochody stałyby się serwisem, ludzie nie musieliby mieć swoich samochodów. Dzięki temu spacerowanie stałoby się przyjemniejsze, ponieważ znacznie zostałyby ograniczone parkingi i zwiększona przestrzeń dla ludzi. Dodatkowo przechodzenie przez drogę też byłoby znacznie ułatwione, gdyż te samochody są zaprojektowane aby ustępować miejsca pieszym, więc praktycznie od razu moglibyśmy przechodzić bezpiecznie przez drogę.

Co z drugiej strony niesie ze sobą również wady, ponieważ ludzie z natury lubią skracać sobie drogę i przechodzić przez drogę w miejscach do tego nie przeznaczonych, a zachowanie aut autonomicznych by to jeszcze bardziej ułatwiło. Co spowodowałoby zaburzenia w ruchu i zwiększyło korki.

Podsumowanie

Przemyślenia na temat pojazdów autonomicznych są bardzo ciekawe i można dojść do wniosków, że ile ludzi, kultur, grup społecznych tyle opinii na temat tego, jak powinny się one zachowywać. Owszem nadal niektórzy zwracają uwagę na możliwe spowodowanie wypadku przez auta autonomiczne, jednak dziś wypadki też się zdarzają. Badania prowadzone w ameryce stanach zjednoczonych wykazały, że wady techniczne powodują poniżej 10% zdarzeń, a ponad połowy udałoby się uniknąć, gdyby kierowca zareagował szybciej lub inaczej. Można więc wysnuć tezę, że nie ważne czy auto będzie wyznawało datalizm, deontologię czy utylitaryzm. Systemy te należy wprowadzać jak najszybciej, ponieważ realnie są one w stanie poprawić bezpieczeństwo na drogach …

 

Źródła:

1)  Decision-Making Technology for Autonomous Vehicles: Learning-Based Methods, Applications and Future Outlook

2) The ethical dilemma of self-driving cars – Patrick Lin | TED-Ed

3) Self-driving car dilemmas reveal that moral choices are not universal (nature.com)

4) Autonomous Vehicles In 2022: Completely Reshaping The Future Of Mobility – AutomotiveStage.com

5) A Change of Perspective: Designing the Automated Vehicle as a New Social Actor in a Public Space (usc.edu.ph)

6) The 6 Levels of Vehicle Autonomy Explained | Synopsys Automotive

7) Perceptions of autonomous vehicles: Relationships with road users, risk, gender and age