„Jesteś na pustyni, spacerując po piasku, kiedy nagle spoglądasz w dół i widzisz żółwia ... Sięgasz w dół i przewracasz żółwia na grzbiecie. Żółw leży na plecach, jego brzuch piecze się w gorącym słońcu, bije nogi próbując się przewrócić, ale nie może. Nie bez twojej pomocy. Ale ty nie pomagasz.
powiązana zawartość
- Voltaire: Enlightenment Philosopher and Lottery Scammer
Być może nic nie jest bardziej charakterystyczne dla dystopijnego filmu Ridleya Scotta z 1982 roku Blade Runner niż test Voight-Kampff zarządzany przez tytułowych stróżów prawa, w tym Harrison Ford jako Rick Deckard. Serie pytań w teście fikcyjnym, takie jak powyższe, mają na celu oddzielenie ludzi od replikantów poprzez wywołanie reakcji fizjologicznej wskazującej na empatię. Tylko prawdziwi ludzie, a nie replikatorzy, odczuwają tę emocję. Zadaniem Deckarda jest zajmowanie się replikantami, które zaczynają nieposłuszeństwo rozkazom. On i inni używają testu, aby zdecydować, czy „wycofać” - zabić - replikatory.
Te zbuntowane androidy nie tylko stanowią zagrożenie dla ludzi, ale na tym świecie nie mają żadnych praw do ochrony. Jak mogliby, skoro nie są uważani za ludzi?
Jest to tak wciągający problem, że historia będzie kontynuowana w długo oczekiwanej kontynuacji Blade Runner: 2049. Jednym z powodów niezmiennej popularności oryginalnego filmu jest osobista walka Deckarda, która rozgrywa się podobnie w filmach takich jak Ona i pokazuje jak „Westworld ”: Kto lub co liczy się jako człowiek, szczególnie w świecie zaawansowanych technologii?
Aby to zrozumieć, musimy zwrócić się do bardzo starych filozofów.
***
Dla starożytnych Greków maszyny stworzone przez bogów lub wyjątkowo utalentowanych ludzi często oszukiwały ludzi, wierząc, że androidy są autentyczne, pisze Adrienne Mayor w Aeon. Król Nabis ze Sparty posiadał robotyczną wersję swojej żony, której piersi potajemnie zdobiły paznokcie. Użył maszyny, by przytulić obywateli, którzy byli mu nieposłuszni, a ich ciało przeszyło ukryta broń. A w Chinach automat z X wieku pne stworzony przez wynalazcę Yan Shi wyglądał tak ludzko, śpiewając i mrugając do pań, że król wpadł w to wściekłość. Potem poznał prawdę i zdumiał się maszyną, która miała nawet mechaniczne narządy. Jak pisze Nigel Wheale, uczony: „We wszystkich okresach istoty ludzkie były wyobrażane jako byty, które testują lub definiują współczesne poczucie ludzkiej wartości”.
Wszystko to oznacza, że obawy o to, jak odróżnić ludzi z krwi i kości od maszyn, które tylko wyglądają na ludzi (i decydowanie, czy te maszyny stanowią dla nas zagrożenie Homo sapiens), nie ograniczają się do współczesności. Zawsze zastanawialiśmy się, czy wszyscy ludzie naprawdę są takimi, jakimi wydają się być - dlatego filozofowie Oświecenia spędzili tak dużo czasu na analizowaniu pytania o to, co czyni człowieka, człowieka.
Rene Descartes, XVII-wieczny francuski filozof, który podróżował po całej Europie, głęboko zastanowił się nad tym, co uczyniło nas ludźmi. To nie przypadek, że jego najsłynniejszy cytat został powtórzony przez jednego z replik Blade Runnera: „Myślę, więc jestem”. A jeśli to wszystko nie wystarcza na dowód jego związku z filmem, rozważ nazwy: Kartezjusz i Deckard.
Jak zauważył filozof Andrew Norris, Kartezjusz podejrzewał, że pewnego dnia może zaistnieć potrzeba sprawdzenia, czy coś jest człowiekiem, czy maszyną. „Gdyby istniały maszyny niosące obrazy naszych ciał i zdolne do naśladowania naszych działań, o ile jest to moralnie możliwe, pozostałyby dwa najbardziej pewne testy, dzięki którym wiadomo, że tak naprawdę nie byli ludźmi”, napisał Kartezjusz. Stworzył więc własne testy, które polegały na zdolności językowej i elastyczności zachowania.
Replikanty mówią i zachowują się tak, jak ludzie, co oznacza, że przejdą testy Kartezjusza. Ale jest jeszcze jeden powód, dla którego Deckard usiłuje obalić ludzkość: Replikanci mają także wszczepione wspomnienia. Dla angielskiego filozofa Johna Locke'a poczucie własnej osoby to ciągłość ich wspomnień. Ciało ludzkie zmienia się z czasem, ale wspomnienia pozostają, stanowiąc podstawę stabilnej tożsamości. „O ile świadomość ta może zostać rozciągnięta wstecz na wszelkie wcześniejsze działania lub myśli, do tej pory dociera ona do tożsamości tej osoby” - napisał Locke.
Tak więc dla Rachael Blade Runner, najbardziej zaawansowanego replikatora, jaki dotąd opracowano, nie ma znaczenia, że może mieć zaledwie kilka lat; jej wspomnienia sięgają znacznie dalej, sprawiając wrażenie, jakby żyła znacznie dłużej. To sprawia, że Rachael jest tak tragiczną postacią - „jej” wspomnienia nie należą do niej. Pochodzą od siostrzenicy jej wynalazcy.
„To bolesne, ale możesz sobie wyobrazić, że [wspomnienia] są dla niej wyjątkowe, nawet gdy dowiaduje się, że nie są tak naprawdę jej”, mówi Susan Schneider, profesor filozofii na University of Connecticut i członek zespołu ds. Etyki i technologii grupa w Yale. „To tak, jakby dowiedzieć się, że jesteś przesłaną kopią, a nie osoba, która ją przesłała. Ale nadal masz z nimi jakiś szczególny związek. Jak rodzic. ”
Ale nie tylko wspomnienia czy racjonalność czynią człowieka w Blade Runner. Najważniejsze ze wszystkiego, zgodnie z testem Voighta-Kampffa, jest empatia. Ponieważ nie jesteśmy w stanie czytać w myślach ani widzieć ich fizycznych dowodów, myśliciele tacy jak niemiecki filozof Theodor Lipps argumentowali, że możemy dostrzec, że inni czują i działają tak, jak my, dzięki sile empatii.
Harrison Ford jako Rick Deckard zarządza testem Voight-Kampff w oryginalnym Blade Runner. (Warner Bros.) „Łowca ostrzy musi, jak na ironię, sprawdzić empatię innych - nie tutaj, w sensie Lippsa, ale pod względem ich wrażliwości na zaginiony świat naturalny zamieszkany przez zwierzęta inne niż ludzkie” - pisze Norris w swoim artykule filozofia filmu. Stąd pochodzi słynne pytanie uwięzione na żółwiu na plecach na pustyni.
„Same emocje nigdy nie będą doskonałym sprawdzianem ludzkości: w końcu socjopaci są również ludźmi”, powiedziała w e-mailu Deborah Knight, profesor filozofii na Queen's University. „Ale emocje to coś więcej niż reakcje pozapoznawcze. Pomagają nam oceniać, co powinniśmy robić i kim powinniśmy być. ”
Jest to szczególnie wyraźne w przypadku replikanta Roya Batty'ego, granego przez Rutgera Hauera. Roy czuje ludzkie emocje i ma aspiracje, ale nie ma ludzkiej długości życia, powiedział Knight. Roy zdaje sobie sprawę, że podobnie jak inne replikatory zbudowano go, by umarł po zaledwie czterech latach, co, co zrozumiałe, rozwściecza go.
Zatem replikatorzy prawdopodobnie odczuwają emocje i mają wspomnienia. Czy to czyni ich ludźmi? Dla Schneider ostateczna odpowiedź nie musi mieć znaczenia. Replikanty mają tyle cech ludzi, że zasługują na ochronę. „To bardzo mocny argument na traktowanie [nie-człowieka] z tymi samymi prawami, jakie dajemy człowiekowi. Nie nazwalibyśmy [Rachel] człowiekiem, ale może osobą ”- mówi.
Dla Erica Schwitzgebela, profesora filozofii na University of California w Riverside, wniosek jest jeszcze bardziej dramatyczny. „Jeśli pewnego dnia stworzymy roboty o zdolnościach poznawczych i emocjonalnych podobnych do ludzi, jesteśmy im winni więcej moralnej uwagi niż normalnie bylibyśmy winni innym podobnym istotom ludzkim”, pisze w Aeon. „Będziemy ich twórcami i projektantami. Jesteśmy zatem bezpośrednio odpowiedzialni zarówno za ich istnienie, jak i za ich szczęśliwy lub nieszczęśliwy stan ”.
***
Blade Runner to tylko film, a ludziom wciąż nie udało się stworzyć replik. Ale zrobiliśmy wiele postępów w dziedzinie sztucznej inteligencji, od samochodów prowadzących samochód, uczących się dostosowywania do ludzkich błędów, po sieci neuronowe, które kłócą się ze sobą, by stać się mądrzejsi. Dlatego dla Schneidera pytania postawione przez film na temat natury ludzkości i tego, jak możemy leczyć androidy, mają ważne implikacje w świecie rzeczywistym.
„Jedną z rzeczy, które robiłem, jest zastanawianie się, czy kiedykolwiek będzie to jakaś sztuczna inteligencja. Czy kiedykolwiek będzie Rachael? ”- mówi Schneider, która używa Blade Runner w swojej klasie na temat filozofii w science fiction. W tym roku Schneider opublikowała artykuł na temat testu, który opracowała z astrofizykiem Edwinem Turnerem, aby dowiedzieć się, czy istota mechaniczna może być rzeczywiście świadoma. Podobnie jak test Voighta-Kampffa, opiera się on na szeregu pytań, ale zamiast domagać się obecności empatii - uczuć skierowanych ku drugiemu - patrzy na uczucia związane z byciem sobą. Test, zwany testem świadomości AI, jest w trakcie patentowania w Princeton.
Test różni się od bardziej znanego testu Turinga, opracowanego przez matematyka Alana Turinga w 1951 r. W tym wcześniejszym teście sędzia prowadził cyfrową rozmowę z uczestnikiem (np. To, czego doświadczyłbyś dzisiaj na czatach), zadając pytania do rozeznania czy respondent był człowiekiem czy maszyną. Ale jak zauważa Schneider w swoim artykule, naukowcy mogą opracowywać programy, które przejdą test Turinga, ale nie są istotami świadomymi. Test Turinga ma na celu ocenę wiarygodności między reakcją maszyny a reakcją człowieka, bez zrozumienia, czy maszyna jest świadoma, czy nie. Podobnie jak test Voight-Kampff, test świadomości AI Schneidera polega na próbie zrozumienia, co dzieje się wewnątrz maszyny.
Twierdzi, że taka praca jest pilna, ponieważ ludzkość nie jest etycznie przygotowana do radzenia sobie z konsekwencjami tworzenia czującego życia. Tym, co jeszcze bardziej utrudni osądzanie naszych dzieł, będzie poleganie na antropomorfizmie ludzkim, aby wskazać, co należy uznać za istotę godną moralnej uwagi. „Niektóre [roboty] wyglądają na ludzkie lub są słodkie i puszyste, więc myślimy o naszych kotach i psach” - mówi Schneider. „To sprawia, że wierzymy, że czują. Jesteśmy bardzo łatwowierni. Może się okazać, że tylko systemy biologiczne mogą być świadome, lub że najmądrzejsze AI to te świadome, te rzeczy, które nie wyglądają na ludzkie. ”
Ważne jest, aby naukowcy naradzali się z filozofami - co wielu już to robi, mówi Schneider - ale także dla opinii publicznej, aby zastanowili się nad konsekwencjami tego rodzaju technologii. I dodaje, że nie wszyscy filozofowie zgadzają się co do natury świadomości, więc nie ma łatwych odpowiedzi.
Może filmy z Hollywood, takie jak Blade Runner: 2049, przybliżą nas o krok do zaangażowania się w te rozmowy. Ale jeśli tak się nie stanie, będziemy musieli sami przystąpić do etycznego bagna. Wcześniej, a nie później - inaczej skończymy z problemem takim jak replikatory i nie mamy pojęcia, jak zareagować.
