Muzyczny spektakl „Sight Machine” ujawnia, co sztuczna inteligencja „myśli” o nas

W zeszłym roku Facebook stworzył dwa chatboty i poprosił ich, aby zaczęli ze sobą rozmawiać, ćwicząc swoje umiejętności negocjacyjne. Okazuje się, że boty były całkiem dobre w negocjacjach - ale zrobiły to przy użyciu własnego, wymyślonego języka, który był niezrozumiały dla ludzi.

powiązana zawartość

• Ten artysta mieszka w tajnym świecie tajnych tajemnic i nadzoru

Tam zmierza świat. Komputery tworzą treści dla siebie, a nie dla nas. Zdjęcia są robione przez komputery, aby inne komputery mogły je wyświetlać i interpretować. Wszystko dzieje się cicho, często bez naszej wiedzy i zgody.

Zatem nauczenie się patrzeć jak komputer - dzięki czemu komunikacja między maszynami jest widoczna - może być najważniejszą umiejętnością XXI wieku.

25 października 2018 roku Kronos Quartet - David Harrington, John Sherba, Hank Dutt i Sunny Yang - zagrali koncert w Smithsonian American Art Museum. Obserwowało ich 400 osób i kilkanaście algorytmów sztucznej inteligencji, które dzięki uprzejmości Trevora Paglena, artysty stojącego za wystawą „Miejsca niewidoczne”, obecnie oglądaną w muzeum.

Podczas grania muzyków ekran nad nimi pokazywał ludziom, co widzą komputery.

Gdy Kronos przedzierał się przez żałobny utwór pochodzący z Imperium Osmańskiego, na ekranie algorytmy nad głowami wykrywały twarze muzyków, zarysy warg, oczu i nosa dla każdej osoby (i czasami widziały twarze „duchów” tam, gdzie ich nie było - często w Mop włosów Harringtona, założyciela Kronos). W miarę jak algorytmy stawały się coraz bardziej zaawansowane, obraz wideo zanikał, aż pozostały tylko linie neonowe na czarnym tle. W końcu kontury twarzy znikały, dopóki nie pozostało abstrakcyjne ułożenie linii - prawdopodobnie cały komputer musiał zrozumieć „twarz”, ale zupełnie niezrozumiały dla ludzi.

„Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos (Bruce Guthrie) „Sight Machine”, Trevor Paglen, Kwartet Kronos

Debiut wschodniego wybrzeża spektaklu zatytułowanego „Sight Machine”, podobnie jak inne dzieło Paglena, poprosił widzów i słuchaczy, aby dowiedzieli się, jak postrzegać to, co robią komputery, i ponownie przeanalizowali ludzki związek z technologią - telefony w naszych kieszeniach i oczy w niebo i wszystko pomiędzy.

Jest rok 2018, a pomysł, że obserwują nas telefony komórkowe, nie jest już teorią spiskową postawioną przez piwnicznego blogera w blaszanym kapeluszu. Google został przyłapany na początku tego roku na śledzeniu lokalizacji użytkowników telefonów z Androidem, nawet jeśli użytkownicy wyłączyli tę funkcję. Wiele osób jest przekonanych, że nasze telefony nas słuchają, aby lepiej wyświetlać reklamy - Facebook i inne firmy odmawiają tych opłat, chociaż jest to technicznie i prawnie możliwe. Dziennikarze techniczni Alex Goldman i PJ Vogt zbadali to samo: nie ma powodu, dla którego nasze telefony nie miałyby słuchać, ale z drugiej strony reklamodawcy mogą uzyskać wystarczającą ilość informacji o nas innymi metodami, których po prostu nie potrzebują .

W tym kontekście wykonano „Sight Machine”. Kilkanaście kamer oglądających Kwartet Kronos przesłało wideo na żywo z występu do szafy komputerów, która wykorzystuje gotowe algorytmy sztucznej inteligencji do tworzenia niesamowitych efektów wizualnych. Algorytmy są takie same, jak te stosowane w naszych telefonach, aby pomóc nam robić lepsze selfie, te używane przez samochody samobieżne, aby unikać przeszkód, i te wykorzystywane przez organy ścigania i wytyczne dotyczące broni. Podczas gdy wyniki na ekranie były czasami piękne, a nawet zabawne, istniał nurt grozy.

„Tym, co mnie zadziwia, jest to, że pokazuje nam coś, co jest - i to dotyczy całej jego pracy - pokazuje nam coś niepokojącego i robi to przy użyciu sztuczek”, mówi John Jacob, kustosz muzeum dla fotografii, która zorganizowała „Witryny niewidoczne”.

„To celowa sztuczka” - mówi - „i działa”.

Później zaawansowane algorytmy rozpoznawania twarzy osądzały członków Kronos i wyświetlały ich wyniki na ekranie. „To jest John [Sherba]. John ma od 24 do 40 lat”, powiedział komputer. „Sunny [Yang] to 94, 4% kobiety. Sunny jest w 80% zła i w 10% neutralna.”

„Jedną z rzeczy, które mam nadzieję, że przedstawienie pokazuje”, mówi Paglen, „jest to jeden ze sposobów, w jaki sposób postrzegania komputerów nie jest neutralny. Jest bardzo tendencyjny… z wszelkimi założeniami politycznymi i kulturowymi, które są nie neutralne ”. Jeśli system klasyfikacji płci mówi, że Sunny Yang jest kobietą w 94, 4 procentach, oznacza to, że ktoś jest kobietą w 100 procentach. „A kto zdecydował, która w 100 procentach jest kobietą? Czy Barbie w 100 procentach jest kobietą? I dlaczego płeć jest dwójkowa?” Pyta Paglen. „Widząc, że dzieje się to w momencie, gdy rząd federalny próbuje dosłownie wymazać ludzi o dziwnej płci, z jednej strony jest to zabawne, ale dla mnie to również przerażające”.

Późniejszy algorytm zrezygnował z wartości procentowych i został przeniesiony w celu prostej identyfikacji obiektów na scenie. „Mikrofon. Skrzypce. Osoba. Meduza. Peruka.” (Te dwa ostatnie są wyraźnie błędami; wydaje się, że algorytm pomylił Hanka Dutta z meduzą i prawdziwe włosy Harringtona z peruka). Potem klasyfikacje stały się bardziej złożone. „Sunny trzyma nożyczki”, powiedziała maszyna, gdy światło błysnęło na strunach wiolonczeli. „John trzyma nóż”. Co by się stało, gdyby klasyfikator podał te - nieprawidłowe - informacje organom ścigania, nigdy się nie dowiemy.

Większość użytkowników końcowych platform AI - którzy nie są artystami - może argumentować, że systemy te mogą mieć swoje uprzedzenia, ale zawsze otrzymają ostateczne podpisanie się przez człowieka. Opracowany przez Amazon algorytm Rekognition, który firma sprzedaje organom ścigania i być może ICE, słynie błędnie zidentyfikował 28 członków Kongresu jako osoby oskarżone o przestępstwo, porównując ich twarze do zdjęć w publicznie dostępnej bazie danych. W tym czasie Amazon argumentował, że ACLU, która używała systemu do dopasowywania, nieprawidłowo zastosowała Rekognition. Firma powiedziała, że ​​domyślne ustawienie systemu dla dopasowań, zwane „progiem ufności”, wynosi zaledwie 80 procent. (Innymi słowy, algorytm był tylko w 80 procentach pewien, że rep. John Lewis był przestępcą). Rzecznik Amazon powiedział, że zaleca, aby departamenty policji stosowały próg ufności 95 procent i że „Amazon Rekognition jest prawie wyłącznie używany do pomocy zawęzić pole i pozwolić ludziom na szybkie sprawdzenie i rozważenie opcji przy użyciu ich osądu. Komputery mogą komunikować się ze sobą, ale - na razie - wciąż proszą ludzi o wykonanie ostatecznego połączenia.

Muzyka wybrana przez Paglena przy udziale Kronos ma również coś do powiedzenia na temat technologii. Jeden utwór Raymonda Scotta „Powerhouse” jest „prawdopodobnie najbardziej znany z używania w kreskówkach w scenach fabrycznych”, mówi Paglen. „Jeśli kiedykolwiek zobaczysz fabrykę nadprodukcyjną i oszalałą, to często przemawia do niej muzyka. Dla mnie jest to sposób myślenia o niemal kreskówkowej industrializacji i sytuowanie ich w kontekście technologicznym”. Kolejny utwór Steve Reich „Różne pociągi” zamknął zestaw. Kronos wykonuje tylko pierwszą część, która dotyczy dzieciństwa Reicha w latach 30. i 40. XX wieku; Paglen mówi, że myśli o tym dziele jako o „uczuciu entuzjazmu i postępu, które ułatwiają pociągi”. *

Zostało to połączone z obrazami z publicznie dostępnej bazy danych o nazwie ImageNet, które służą do uczenia komputerów, jakie są rzeczy. (Nazywany także „danymi treningowymi”, więc tak, to trochę gra słów.) Ekran migał niewiarygodnie szybko, pokazując przykłady owoców, kwiatów, ptaków, czapek, ludzi stojących, ludzi chodzących, ludzi skaczących oraz osoby takie jak Arnold Schwarzenegger. Jeśli chcesz nauczyć komputer rozpoznawania osoby, takiej jak Schwarzenegger, domu lub pojęcia „obiadu”, zacznij od pokazania komputerowi tych tysięcy zdjęć.

Były też krótkie klipy wideo z ludźmi całującymi się, przytulającymi, śmiejącymi się i uśmiechniętymi. Może sztuczna inteligencja wyszkolona na tych zdjęciach byłaby życzliwa, przyjazna.

Ale „Różne pociągi” to nie tylko optymizm; późniejsze ruchy, w które Kronos nie grał w czwartek, ale są „implikowane” przez pierwsze, dotyczą tego, w jaki sposób obietnica podróży pociągiem została wykorzystana, aby stać się narzędziem Zagłady. Pociągi, które wydawały się postępem technologicznym, stały się pojazdami, w których dziesiątki tysięcy Żydów przeniesiono do obozów śmierci. To, co wydawało się być dobroczynną technologią, zostało obalone przez zło.

„To jest jak:„ Co może pójść nie tak? ” Paglen mówi. „Zbieramy wszystkie informacje o wszystkich ludziach na świecie”.

W rzeczywistości, gdy zakończyły się „Różne pociągi”, ostrość się zmieniła. Ekran nie wyświetlał już obrazów Kronos ani danych szkoleniowych z ImageNet; zamiast tego pokazywał transmisję wideo na żywo z widowni, ponieważ algorytmy rozpoznawania twarzy wybrały cechy każdej osoby. Naprawdę, nawet jeśli uważamy, że nie jesteśmy obserwowani, jesteśmy.

Podczas transmisji wideo na żywo z widowni algorytmy rozpoznawania twarzy wybrały cechy każdej osoby. (Bruce Guthrie)

Aby zgłosić tę historię, wyszedłem z domu i poszedłem na stację metra, gdzie zeskanowałem kartę elektroniczną powiązaną z moim imieniem, aby przejść przez bramkę obrotową, i ponownie, kiedy opuściłem centrum metra. W centrum miasta minąłem pół tuzina kamer bezpieczeństwa, zanim wszedłem do muzeum, gdzie zauważyłem co najmniej dwa kolejne (rzecznik Smithsonian mówi, że Smithsonian nie korzysta z technologii rozpoznawania twarzy; stołeczny departament policji DC mówi to samo o swoich kamerach).

Nagrywałem wywiady za pomocą telefonu i przesyłałem audio do usługi transkrypcji, która używa AI, aby dowiedzieć się, co mówię ja i moi poddani, i może, ale nie musi, kierować reklamy na mnie na podstawie treści wywiadów. Wysłałem e-maile za pomocą Gmaila, który nadal „czyta” wszystko, co wysyłam (chociaż nie wyświetla mi już reklam).

Podczas procesu raportowania, gdy spacerowałem po mieście, natknąłem się - nie zmyślam - na samochód Google Street View. Dwa razy. To nie jest paranoja, jeśli naprawdę cię obserwują, prawda?

Co więc pozostało, na tym świecie, w którym komputery oglądają nas i prawdopodobnie oceniają nas? „Sight Machine” zachęca nas do uczenia się, jak myśleć jak komputer - ale przypomina nam również, że istnieją pewne części nas, które są na razie w pełni ludzkie.

Muzyka, jak mówi Paglen, „jest czymś, co naprawdę nie jest wymierne ... kiedy oglądasz komputerowy system wizyjny zasadniczo przesłuchujący wykonawców, to naprawdę dla mnie zwraca uwagę na ogromną przepaść w postrzeganiu kultury, emocji i znaczenia. i wszystkie sposoby, w jakie są one niewidoczne dla systemów autonomicznych ”.

Lub, jak to ujmuje Harrington, możesz tworzyć muzykę ze skrzypcami wykonanymi z drewna lub ze skrzyni wykonanej na drukarce 3D. Możesz użyć łuku z włókna węglowego lub wykonanego z drewna pernambuco. Mówi jednak, że wciąż trzeba naciągnąć łuk na sznurki. Muzyka „staje się cenniejsza, ponieważ jest wykonywana ręcznie”.

A na razie jest to coś, co tylko możemy zrobić. Maszyny mogą już nas nie potrzebować. Ale jeśli chodzi o uroczysty dźwięk łuku na strunach skrzypcowych i emocjonalne struny, które wydają szarpnięcia, nie potrzebujemy maszyn.

„Trevor Paglen: Sites Unseen”, kurator John Jacob, kontynuuje w Smithsonian American Art Museum w Waszyngtonie do 6 stycznia 2019 r. Planuje się podróż do Muzeum Sztuki Współczesnej w San Diego 21 lutego - 2 czerwca, 2019.

* Nota redaktora, 2 listopada 2018 r .: Ta historia została zredagowana, aby wyjaśnić zamierzone znaczenie i historię powstania kompozycji „Różne pociągi” Steve'a Reicha.