W niezbyt odległej przyszłości Johannesburg, zepsuty przestępczością, staje się pierwszym miastem, które wdrożyło flotę autonomicznych robotów-robotów policyjnych. Z początku maszyny wydają się skutecznym rozwiązaniem. Przestępczość drastycznie spada, a projekt zostaje okrzyknięty sukcesem - dopóki coś się nie powiedzie. Gangi rap-rave szukający szybkiego wypłaty porwania uszkodzonego droida zaplanowanego do rozbiórki. Z pomocą inżyniera przymusowego na celowniku przeprogramowują droida o imieniu Chappie jako autonomicznego agenta, skutecznie tworząc osobliwość, punkt, w którym sztuczna inteligencja staje się mądrzejsza niż inteligencja ludzka.
Podobnie jak większość dobrych science fiction, nowy film reżysera Neilla Blomkampa, Chappie , działa jako komentarz do ludzkiej natury i aktualnych problemów, w tym ubóstwa, przestępczości, dyskryminacji, zastraszania i brutalności policji. Ale rodzi to również bardziej prorocze pytania o to, co wielu uważa - na dobre lub na złe - za nieuniknione pojawienie się czującej sztucznej inteligencji.
„W przeszłości, ogólnie rzecz biorąc, wszystko, co wymyślili ludzie, niezależnie od etyki i moralności, było wypróbowywane i, jeśli to możliwe, wykonywane”, mówi Wolfgang Fink, fizyk z University of Arizona i California Institute of Technology . „Systemy autonomiczne pojawią się, jeśli ktoś wymyśli, jak je stworzyć - to jest pewne”.
Rzeczywiście, wielu naukowców, w tym Fink, gorączkowo realizuje tę linię badań, a poczyniono już postępy. Oprócz samej Chappie, większość robotyki przedstawionej w filmie jest w rzeczywistości już dostępna lub bardzo bliska. Zdalnie sterowane roboty podobne do filmu Łoś - potężna maszyna śmierci przypominająca ED-209 Robocopa, obsługiwana przez obłąkanego policjanta Hugh Jackmana - istnieje obecnie.
Podobnie roboty, takie jak droidy policyjne Chappie - zaprogramowane jako systemy oparte na regułach i sztucznie inteligentne, ale pozbawione samoświadomości lub autonomii - są prawie gotowe, chociaż ich żywotność baterii i zwinność nie są jeszcze zgodne z modelami pokazanymi patrolującymi ulice Johannesburga. Jeśli jednak takie maszyny zostaną wdrożone, zaakceptowanie ich może nie być tak radykalne. „Jesteśmy bardzo dobrzy w nawykaniu i przyzwyczajaniu się do zmian w środowisku, w tym zmian technologicznych” - mówi Ali Mattu, psycholog kliniczny z Columbia University Medical Center i twórca blogu psychologii science-fiction Brain Knows Better. „Ponieważ roboty stają się częścią naszego codziennego życia, pod pewnymi względami może wydawać się bezproblemowe”.
Jednak droid policyjny nie czyni autonomicznej istoty czującej. Prawdziwie samorządna, samoświadoma istota, taka jak Chappie, byłaby odejściem od wszystkiego, co kiedykolwiek widziałem. „Od czasu neandertalczyków tak naprawdę nigdy nie mieliśmy możliwości współpracy z zupełnie nowym gatunkiem, który jest inteligentny”, mówi Mattu. „Jeśli uda nam się pokonać bariery dzielenia się empatią ze sztuczną formą życia, może to doprowadzić do zadziwiającego wieku ludzkości”.
Fink twierdzi, że sprzęt nie jest przeszkodą uniemożliwiającą powstanie takiej istoty - to po prostu zadanie inżynieryjne. Zamiast tego tworzenie oprogramowania - ducha w maszynie - jest prawdziwym wyzwaniem. Badacze stosują dwa różne podejścia do tego problemu. Niektórzy próbują stworzyć gotową do załadowania czującą istotę od zera, podczas gdy inni myślą, że napisanie podstawowego programu wyposażonego w narzędzia, których potrzebuje się uczyć, dostosowywać i modyfikować poprzez doświadczenie - jak widać w Chappie - to droga . Jak wyjaśnia Fink: „Chodzi o to, aby albo upiec ciasto i włożyć ciasto do systemu, albo podać systemowi składniki ciasta i pozostawić systemowi upieczenie”.
Kiedy nadejdzie przełom, najprawdopodobniej stanie się to nie stopniowo, ale nagle, jak pokazano w Chappie . Fink przewiduje, że - zamiast uznania uniwersytetu, rządu lub korporacji - zakłócenia, które prowadzą do osobliwości, zostaną dostarczone przez mały zespół badaczy lub nawet pojedynczą osobę, prawdopodobnie wspieraną przez bogatego prywatnego fundatora, ożywionego wolnością eksperymentować i uwolnić się od konserwatywnych badań głównego nurtu. Rzeczywiście, taki jest prawie scenariusz w Chappie : Chappie jest tworzony nie przez ogromną korporację, ale przez samodzielnego inżyniera, granego przez Deva Patela, który wykorzystuje wszystkie zasoby zapewnione przez swoją cushy dzienną pracę do wspierania swojej zupełnie innej pracy na autonomicznej sztucznej inteligencji w nocy.
Kiedy jednak pojawi się prawdziwie samorządna sztuczna inteligencja, nie będzie można przewidzieć, jak skomplikowany stanie się system ani w jakim kierunku będzie ewoluował. W przeciwieństwie do systemów organicznych takich jak my, nie byłby ograniczony powolnym hasłem ewolucji biologicznej. Jego rozwój byłby wybuchowy. Nie ma gwarancji, że taki system przyjmie lub zachowa zestaw wartości moralnych lub etycznych - lub że wartości te rozciągną się na ludzi. W przypadku Chappie - która rozwija się podobnie jak ludzkie dziecko, ucząc się i dojrzewając w miarę upływu czasu - wczesna obietnica nie wyrządzania krzywdy ludziom ma duże znaczenie w kontrolowaniu działań robota. Ale zagrożony anihilacją Chappie, podobnie jak wielu ludzi, w dużej mierze odkłada na bok swoją moralność i działa z czystego interesu, broniąc się, nawet jeśli oznacza to zranienie innych.
I choć Chappie wydaje się być relatywny i podobny do człowieka, prawdziwy robot w świecie najprawdopodobniej nie przestrzegałby rozumowania podobnego do człowieka, zmniejszając naszą zdolność do przewidywania jego działań lub rozumienia jego motywacji. „Po osiągnięciu tego poziomu zasadniczo straciłeś kontrolę nad systemem”, mówi Fink. „Jest zarówno ekscytujący, jak i przerażający, ponieważ nie będzie podobny do ludzkiego”.
Dodatkowo, niezależnie od tego, czy oprogramowanie początkowo zamieszkuje skorupę humanoidalnego robota Chappie, statku kosmicznego czy nawet implantu w twoim ciele, gdy tylko wymknie się ono z ograniczeń tej fizycznej postaci - jak to pokazano (choć grzecznie) w Transcendencji - byłoby to być prawie niemożliwe do powstrzymania.
Podczas gdy książki i filmy science fiction zastanawiają się nad kwestią sztucznej inteligencji od dziesięcioleci, Fink zwraca uwagę, że niezbędny przełom „może dosłownie nastąpić w każdej chwili”. Nie wszystkim się to podoba. W styczniu ubiegłego roku współzałożyciel PayPal i dyrektor generalny Tesla Motors, Elon Musk, przekazał 10 milionów dolarów na zapobieganie przejęciu przez planetę robotów i wyeliminowaniu nas. Ostrzega, że próbując stworzyć autonomiczną sztuczną inteligencję, „wzywamy demona”.
Musk nie jest samotny w swoich obawach związanych z tą linią badań. W ostatnim wątku Reddit „Ask Me Anything” współzałożyciel i filantrop Microsoftu Bill Gates napisał, że „przebywa w obozie, który martwi się o super wywiad” i „nie rozumie, dlaczego niektórzy ludzie nie są zaniepokojeni” sztuczną sztuczką istoty, które przekraczają nasze własne zdolności poznawcze i zyskują autonomię. Fizyk Stephen Hawkings podobnie podziela te obawy i wyraża je jeszcze bardziej otwarcie: „Rozwój pełnej sztucznej inteligencji może oznaczać koniec rasy ludzkiej”, powiedział BBC.
Nawet hity z filmów komiksowych kroczą tą znużoną ścieżką, zwykle zarezerwowaną dla gatunku science fiction. Jak wskazano w najnowszym zwiastunie Marvel's Avengers: Age of Ultron, bohaterowie filmu walczą z robotem, który pierwotnie został stworzony jako wybawca planety przed wojną, ale zamiast tego postanawia eksterminować ludzkość.
Z drugiej jednak strony ludzie mogą być agresorami, zagrażającymi istnieniu autonomicznych istot, które sami tworzymy, jak pokazano w Chappie . To, czy my, ludzie, będziemy podążać pokojową ścieżką, zależy w dużej mierze od dwóch rzeczy, Mattu mówi: czy możemy komunikować się z robotami i czy mamy dla nich empatię. Ten ostatni, wyjaśnia, zależy od pozornie płytkich czynników, takich jak wygląd robotów - czy mają oczy? Czy wyglądają podobnie, ale nie za bardzo do nas? - i czy wydają się ogólnie podobni. Osiągnięcie tych samych celów co my również pomogłoby w ich sprawie. Czynniki te wpływają na naszą wrodzoną neurologiczną tendencję do klasyfikowania innych jako część naszej zaufanej grupy wewnętrznej lub jako część potencjalnie groźnej grupy zewnętrznej. Robotyści biorą pod uwagę takie czynniki psychologiczne przy projektowaniu swoich najnowszych maszyn.
Mattu zwraca jednak uwagę, że nawet jeśli roboty spełniają wszystkie te warunki wstępne, nadal nie ma gwarancji, że wszystko pójdzie dobrze. „Ludziom ciężko jest postrzegać siebie jako ludzi, nie mówiąc już o sztucznej inteligencji lub obcym życiu” - mówi Mattu. „Mamy również historię pierwszych kontaktów, które przebiegają bardzo źle”.
Możliwe więc, że zniszczymy nasze stworzenie, zanim jeszcze go poznamy, lub że dzieje się odwrotnie - że nasze potomstwo oprogramowania czyni nas niewolnikami, jak widać w Matrycy, lub decyduje w stylu Skynet, że ludzkość po prostu nie jest godny istnienia. Z drugiej strony ludzie i roboty autonomiczne mogą się obejmować, zgadzając się współpracować przy ciekawych zajęciach, takich jak eksploracja kosmosu. Jedynym sposobem, aby dowiedzieć się, czy rzeczy kończą się płomieniami i łzami, czy postępem i przyjaźnią, jest jednak stworzenie tych istot. Ale jeśli przeszłość jest jakimkolwiek wskaźnikiem, będzie to tylko kwestia czasu. „Zawsze napędza nas ciekawość, chęć odkrywania i odkrywania nieoczekiwanych” - mówi Fink. „A etyka naukowa zwykle pozostaje w tyle za naszym postępem”.
„Czasami dostajemy energię atomową, a czasem broń atomową”, dodaje Mattu. „Nie wiemy, w jakim kierunku pójdzie, ale nie możemy powstrzymać nauki”.
