Kogo zabije autonomiczny samochód? Maszyno, uratuj jak najwięcej ludzi, ale przede wszystkim uratuj mnie!

Jeśli zaistnieje sytuacja, w której autonomiczny system samochodu musi dokonać szybkiego wyboru, kogo poświęcić w razie nieuchronnego wypadku, jak powinien zareagować? Poświęcać pasażerów, by ratować pieszych? W razie potrzeby zabić pieszego, aby oszczędzić na przykład czteroosobowej rodziny podróżującej samochodem? A może zawsze powinien najpierw chronić siebie?

Chociaż w samej Kalifornii ponad sześćdziesiąt firm otrzymało już pozwolenia na przeprowadzanie testów osobistych, trudno powiedzieć, czy branża stoi przed dylematami etycznymi. W tej chwili zmaga się z bardziej podstawowymi problemami - działaniem i sprawnością nawigacyjną systemów oraz po prostu unikaniem kolizji i nieprzewidzianych zdarzeń. W sytuacjach takich jak niedawne zabójstwo pieszego w Arizonie, czy późniejsze wypadki (1), do tej pory chodziło po prostu o awarie systemu, a nie o jakiś „etyczny wybór” samochodu.

Ratuj bogatych i młodych

Kwestie podejmowania na drodze tego rodzaju decyzji nie są abstrakcyjnymi problemami. Może to poświadczyć każdy doświadczony kierowca. Naukowcy z MIT Media Lab przeanalizowali w ubiegłym roku ponad czterdzieści milionów odpowiedzi respondentów z całego świata, które zebrali w trakcie badań zainaugurowanych jeszcze w 2014 r. System ankietujący nazwany przez nich «Maszyną Etyczną», wykazał, że w różnych miejscach świata na podobne pytania padają różne odpowiedzi.

Najbardziej ogólne wnioski są przewidywalne. W sytuacjach ekstremalnych ludzie wolą ratować ludzi niż opiekować się zwierzętami, dążąc do uratowania jak największej liczby istnień ludzkich, i są zwykle młodsi niż osoby starsze (2). Istnieją również pewne, ale mniej oczywiste, preferencje, jeśli chodzi o ratowanie kobiet przed mężczyznami, ludzi o wyższym statusie przed ludźmi biedniejszymi i pieszych przed pasażerami samochodów..

2. Kogo samochód powinien uratować?

Ponieważ prawie pół miliona respondentów wypełniło ankiety demograficzne, możliwe było skorelowanie ich preferencji z wiekiem, płcią i wyznaniem. Naukowcy doszli do wniosku, że różnice te nie „znacząco wpłynęły” na decyzje ludzi, ale zauważyli pewne wpływy kulturowe. Na przykład Francuzi mieli tendencję do ważenia decyzji na podstawie szacunkowej liczby zgonów, podczas gdy w Japonii nacisk kładziono na to najmniej. Jednak w Kraju Kwitnącej Wiśni życie osób starszych ceni się znacznie bardziej niż na Zachodzie.

„Zanim pozwolimy naszym samochodom podejmować własne etyczne decyzje, musimy odbyć globalną debatę na ten temat. Gdy firmy pracujące nad systemami autonomicznymi dowiedzą się o naszych preferencjach, wtedy opracują oparte na nich algorytmy etyczne w maszynach, a politycy będą mogli zacząć wprowadzać odpowiednie zapisy prawne” – napisali naukowcy w październiku 2018 r. w „Nature”.

Jeden z badaczy zaangażowanych w eksperyment Moral Machine, Jean-Francois Bonnefont, stwierdził, że preferencje ratowania osób o wyższym statusie (takich jak dyrektorzy zamiast bezdomnych) są alarmujące. Jego zdaniem jest to bardzo związane z tzw poziom nierówności ekonomicznych w danym kraju. Tam, gdzie nierówności były większe, preferowano poświęcanie biednych i bezdomnych.

Jedno z wcześniejszych badań wykazało w szczególności, że według respondentów samochód autonomiczny powinien chronić jak najwięcej osób, nawet jeśli oznacza to utratę pasażerów. Jednocześnie jednak respondenci stwierdzili, że nie kupiliby tak zaprogramowanego samochodu. Naukowcy to wyjaśnili ludzie uważają, że ratowanie większej liczby ludzi jest bardziej etyczne, ale są też egoistami, co może być sygnałem dla producentów, że klienci niechętnie kupują samochody wyposażone w altruistyczne systemy.. Jakiś czas temu przedstawiciele firmy Mercedes-Benz powiedzieli, że gdyby ich system uratował tylko jedną osobę, wybraliby kierowcę, a nie pieszego. Fala protestów społecznych zmusiła firmę do wycofania deklaracji. Ale badania wyraźnie pokazują, że w tym świętym oburzeniu było dużo hipokryzji.

To już się dzieje w niektórych krajach. pierwsze próby regulacji prawnej w polu. Niemcy przyjęły ustawę wymagającą, aby samochody bez kierowcy za wszelką cenę unikały obrażeń lub śmierci. Prawo stanowi również, że algorytmy nigdy nie mogą podejmować decyzji na podstawie takich cech, jak wiek, płeć, stan zdrowia czy liczba pieszych.

Audi przejmuje kontrolę

Konstruktor nie jest w stanie przewidzieć wszystkich konsekwencji eksploatacji samochodu. Rzeczywistość zawsze może dostarczyć kombinacji zmiennych, których nigdy wcześniej nie testowano. Podważa to naszą wiarę w możliwość „etycznego zaprogramowania” maszyny. Wydaje nam się, że w sytuacjach, gdy zdarzy się błąd i dojdzie do tragedii „z winy samochodu”, odpowiedzialność powinien ponosić producent i twórca systemu.

Być może to rozumowanie jest poprawne, ale być może nie dlatego, że było błędne. Raczej dlatego, że dopuszczono ruch, który nie był w 2019% wolny od możliwości jego wykonania. Wydaje się, że to jest powód, a firma nie uchyla się od współodpowiedzialności, która niedawno ogłosiła, że ​​weźmie odpowiedzialność za wypadki z udziałem 8-letniego A3 podczas korzystania z automatycznego systemu Traffic Jam Pilot (XNUMX).

3. Interfejs Audi Traffic Jam Pilot

Z drugiej strony są miliony ludzi, którzy jeżdżą samochodami i również popełniają błędy. Dlaczego więc maszyny, które statystycznie popełniają znacznie mniej błędów niż ludzie, o czym świadczą liczne błędy, miałyby być w tym względzie dyskryminowane?

Jeśli komuś wydaje się, że dylematy etyki i odpowiedzialności w świecie pojazdów autonomicznych są proste, niech się zastanawia…