Wiele dyskusji i etycznych przemyśleń na temat samochodów samojezdnych koncentrowało się na tragicznych dylematach, takich jak hipotetyczne, w których samochód musi zdecydować, czy przejechać grupę uczniów, czy skoczyć z klifu, zabijając własnych pasażerów. Ale tego rodzaju sytuacje są ekstremalnymi przypadkami.
Jak pokazuje najnowsza katastrofa - w której auto prowadzące samochód zabiło pieszego w Tempe w Arizonie - pokazuje, że codzienne sytuacje na każdym przejściu, skręcie i skrzyżowaniu stanowią znacznie trudniejsze i szersze problemy natury etycznej.
Etyka skrajności
Jako filozof współpracujący z inżynierami w Centrum Badań Motoryzacyjnych Stanforda, początkowo byłem zaskoczony, że spędziliśmy nasze spotkania laboratoryjne, dyskutując o tym, co według mnie było łatwym pytaniem: jak samochód z własnym samochodem powinien zbliżyć się do przejścia dla pieszych?
Zakładałem, że pomyślimy o tym, jak samochód powinien decydować o życiu pasażerów i pieszych. Wiedziałem, jak myśleć o takich dylematach, ponieważ te scenariusze awarii przypominają słynnego filozoficznego łamigłówkę zwaną „problemem wózka”. Wyobraź sobie, że uciekający wózek rzuca się po torach i musi trafić w grupę pięciu lub jedną osobę - czy mógłbyś zabić jednego, aby uratować pięć?
Jednak wielu filozofów obecnie wątpi, że badanie takich pytań jest owocną drogą badań. Na przykład Barbara Fried, koleżanka ze Stanford, twierdzi, że tragiczne dylematy sprawiają, że ludzie wierzą, że problemy natury etycznej powstają najczęściej w ekstremalnych i tragicznych okolicznościach.
W rzeczywistości etyczne rozbieżności są wszechobecne. Codzienne codzienne sytuacje są zaskakująco brudne i złożone, często w subtelny sposób. Na przykład: Czy twoje miasto powinno wydawać pieniądze na program zapobiegania cukrzycy lub na więcej pracowników socjalnych? Czy Twój lokalny Departament Zdrowia Publicznego powinien zatrudnić innego inspektora do spraw standardów higieny restauracji, czy kontynuować program zapewniający bezpłatne igły i zapasy?
Na te pytania niezwykle trudno jest odpowiedzieć z powodu niepewności co do konsekwencji - na przykład na kogo to wpłynie i do jakiego stopnia. Rozwiązania, które filozofowie zaproponowali w sytuacjach ekstremalnych i desperackich, tutaj niewiele pomagają.
Problem jest podobny w przypadku samochodów samojezdnych. Myślenie w sytuacjach ekstremalnych i scenariuszach awarii nie może pomóc odpowiedzieć na pytania, które pojawiają się w zwykłych sytuacjach.
Wyzwanie na przejściu dla pieszych
Można zapytać, co może być tak trudnego w codziennych sytuacjach na drodze, jak zbliżanie się do przejścia dla pieszych, przejazd przez skrzyżowanie lub skręt w lewo. Nawet jeśli widoczność na przejściu dla pieszych jest ograniczona i czasami trudno jest stwierdzić, czy pobliski pieszy rzeczywiście chce przejść przez ulicę, kierowcy radzą sobie z tym każdego dnia.
Ale dla samochodów z własnym napędem takie przyziemne sytuacje stanowią wyzwanie na dwa sposoby.
Łatwy dla ludzi często oznacza trudny dla komputerów. (XKCD, CC BY-SA) Po pierwsze, fakt, że to, co jest łatwe dla ludzi, jest często trudne dla maszyn. Niezależnie od tego, czy chodzi o rozpoznawanie twarzy, czy jazda na rowerze, jesteśmy dobrzy w percepcji i zadaniach mechanicznych, ponieważ ewolucja zbudowała dla nas te umiejętności. To jednak sprawia, że umiejętności te są trudne do nauczenia lub inżynierii. Jest to znane jako „paradoks Moravca”.
Po drugie, w przyszłości, w której wszystkie samochody będą pojazdami samobieżnymi, niewielkie zmiany w zachowaniu podczas jazdy miałyby dużą różnicę w sumie. Innymi słowy, decyzje podejmowane dziś przez inżynierów określają nie to, jak jeździ jeden samochód, ale jak jeżdżą wszystkie samochody. Algorytmy stają się polityką.
Inżynierowie uczą komputery rozpoznawania twarzy i obiektów za pomocą metod uczenia maszynowego. Mogą również korzystać z uczenia maszynowego, aby pomóc w prowadzeniu samochodów naśladować sposób, w jaki ludzie jeżdżą. Ale to nie jest rozwiązanie: nie rozwiązuje problemu, że inżynierowie podejmują szeroko zakrojone decyzje dotyczące bezpieczeństwa i mobilności.
Ponadto samochody samojezdne nie powinny jeździć jak ludzie. Ludzie nie są tak naprawdę dobrymi kierowcami. I jeżdżą w sposób etycznie niepokojący, decydując, czy ustąpić na przejściu dla pieszych, na podstawie wieku pieszych, rasy i dochodów. Na przykład badacze w Portland odkryli, że czarni piesi przechodzą dwa razy więcej samochodów i musieli czekać o jedną trzecią dłużej niż piesi, zanim będą mogli przejść.
Samochody samojezdne powinny jeździć bezpieczniej i uczciwiej niż ludzie.
Niezwykła etyka
Problemy etyczne pogłębiają się, gdy dochodzi do konfliktów interesów, które pojawiają się w zwykłych sytuacjach, takich jak przejścia dla pieszych, zakręty i skrzyżowania.
Na przykład konstrukcja samochodów samojezdnych musi równoważyć bezpieczeństwo innych - pieszych lub rowerzystów - z interesem pasażerów samochodów. Gdy tylko samochód jedzie szybciej niż tempo marszu, nie jest w stanie zapobiec zderzeniu się z dzieckiem, które w ostatniej chwili może wpaść na drogę. Ale tempo chodzenia jest oczywiście zbyt wolne. Wszyscy muszą dotrzeć do miejsc. Jak więc inżynierowie powinni znaleźć równowagę między bezpieczeństwem a mobilnością? A jaka prędkość jest wystarczająco bezpieczna?
Pojawiają się również inne pytania etyczne. Inżynierowie muszą dokonać kompromisu między mobilnością a wpływem na środowisko. Po zastosowaniu we wszystkich samochodach w kraju niewielkie zmiany w sterowanym komputerowo przyspieszaniu, pokonywaniu zakrętów i hamowaniu mogą mieć ogromny wpływ na zużycie energii i emisję zanieczyszczeń. W jaki sposób inżynierowie powinni pogodzić efektywność podróży z wpływem na środowisko?
Jaka powinna być przyszłość ruchu?
Sytuacje losowe stwarzają nowe problemy inżynieryjne i etyczne, ale prowadzą także do kwestionowania podstawowych założeń systemu ruchu.
Dla siebie zacząłem zastanawiać się, czy w ogóle potrzebujemy miejsc zwanych „przejściami dla pieszych”? W końcu samochody samobieżne mogą potencjalnie sprawić, że bezpiecznie przejdzie się przez ulicę w dowolnym miejscu.
Nie tylko przejścia dla pieszych stają się niepotrzebne. Sygnalizacja świetlna na skrzyżowaniach może również należeć do przeszłości. Ludzie potrzebują sygnalizacji świetlnej, aby wszyscy mogli przejść przez skrzyżowanie bez zderzenia i chaosu. Ale samochody samobieżne mogłyby płynnie ze sobą koordynować.
Ważniejsze pytanie jest następujące: biorąc pod uwagę, że samochody samokierujące są lepsze od ludzkich kierowców, dlaczego samochody powinny podlegać przepisom, które zostały opracowane z myślą o ludzkiej omylności i ludzkich błędach? Aby rozszerzyć ten eksperyment myślowy, rozważ również bardziej ogólne pytanie: jeśli jako społeczeństwo moglibyśmy zaprojektować nasz system ruchu od zera, jak chcielibyśmy, aby wyglądał?
Ponieważ te trudne pytania dotyczą wszystkich w mieście lub społeczeństwie, wymagają od miasta lub społeczeństwa uzgodnienia odpowiedzi. Oznacza to równoważenie konkurencyjnych interesów w sposób, który działa dla wszystkich - niezależnie od tego, czy ludzie myślą tylko o przejściu dla pieszych, czy o systemie ruchu jako całości.
Dzięki samochodom samojezdnym społeczeństwa mogą przeprojektować swoje systemy ruchu. Od przejścia dla pieszych po ogólny projekt ruchu - to przyziemne sytuacje rodzą naprawdę trudne pytania. Ekstremalne sytuacje rozpraszają uwagę.
Problem z wózkiem nie odpowiada na te trudne pytania.
Ten artykuł został pierwotnie opublikowany w The Conversation.
Johannes Himmelreich, Interdyscyplinarny pracownik etyki, Stanford University McCoy Family Center for Ethics in Society
