Nie powinieneś się bać tego zabójczego robota Volkswagena

Wczoraj w Internecie pojawiły się nagłówki, że robot zabił osobę w Niemczech. Pod powierzchnią sensacji kryła się tragiczna prawda: robot przemysłowy w fabryce Volkswagena w Niemczech rzeczywiście zabił 22-letni pracownik kto to ustalał. Niezależnie od relacji, nie wyglądało to na początek apokalipsy kierowanej przez maszyny – zanim udałem się do mojego biura, chciałem zasięgnąć drugiej opinii. bunkier podwórkowy. Ryan Calo jest profesorem prawa na Uniwersytecie Waszyngtońskim i publikował prace naukowe na naszej stronie nadchodząca przyszłość robotaoraz interakcję pomiędzy roboty i cyberprawo.

Wysłałem Calo kilka pytań e-mailem i poniżej zestawiłem je z jego odpowiedziami. W stosownych przypadkach dodałem także linki.

Popularnonaukowa: Wczoraj na Twitterze zrobiło się głośno o zabiciu człowieka przez robota przemysłowego. Powiedziałeś wtedy: „jest to stosunkowo powszechne.” Co masz przez to na myśli?

Ryana Calo: W samych Stanach Zjednoczonych około jedna osoba rocznie zostaje zamordowana przez robota przemysłowego. Departament Pracy

prowadzi dziennik takich wydarzeń o tytułach jak „Pracownik został zabity przez robota przemysłowego” (2006) czy „Pracownik został zabity przez roboty przemysłowe” (2004).

Pisałeś wcześniej o możliwości wystąpienia unikalnych błędów ze strony maszyn autonomicznych. Na jakie cechy powinniśmy zwrócić uwagę w przyszłych opowieściach o „robocie zabijającym człowieka”, które sprawią, że coś zmieni się z „wypadku przemysłowego” w „błąd z autonomią”?

Prawidłowy. Roboty przemysłowe mają tendencję do ciągłego wykonywania tych samych czynności, na przykład chwytania i przenoszenia, i generalnie nie są w stanie określić, nad czym pracują. Dlatego fabryki ustanawiają strefy „niebezpieczne” lub „zabójcze”, od których ludzie muszą się trzymać z daleka podczas pracy robota. Piszę o perspektywie, że przyszłe roboty nie będą wykazywały autonomii, ale wyłaniające się zachowania. Zachowanie pojawiające się zgodnie z definicją Stephena Johnsona w swojej znakomitej książce, odnosi się do czynności przydatnej, ale zaskakującej. Czasami wydarzą się rzeczy, które przerażają programistów, a których nigdy się nie spodziewali. Na przykład algorytm graficzny Google oznaczył niedawno zdjęcie dwóch kolorowych osób jako „goryle”. Google był odpowiednio upokorzony.

Mówię o tym, co się dzieje, gdy zaczynamy widzieć fizyczne roboty, które mogą wykazywać wyłaniające się zachowania. Tam rodzaje wypadków są różne i rzadziej wiążą się z błędem ofiary, ale być może nie są bardziej przewidywalne niż algorytm tagowania Google.

Wstępne doniesienia przypisują śmierć błędowi ludzkiemu. Jak myślisz, w którym momencie posiadanie człowieka „w pętli” dla systemu autonomicznego stanowi obciążenie, a nie funkcję bezpieczeństwa?

W robotyce przemysłowej ten statek już dawno pływał. Nie można mieć kogoś na bieżąco i utrzymać produktywności na poziomie dzisiejszej. Zamiast tego należy upewnić się – za pomocą protokołów, ostrzeżeń itp. – że ludzie nie wchodzą na drogę robota.

Dyskusja na temat utrzymywania ludzi „na bieżąco”, aby roboty nie zabijały, stanowi oczywiście dużą część debaty dotyczącej broni autonomicznej. Panuje powszechna zgoda co do tego, że ludzie utrzymują „znaczącą ludzką kontrolę”, ale nie bardzo rozumieją, co to oznacza.

Czy powinniśmy zaakceptować wypadki z udziałem maszyn jako codzienną część życia, tak jak to robimy w przypadku wypadków samochodowych? A może hiperboliczne nagłówki „robot zabija człowieka” niosą ze sobą jakąś ostrzeżenie?

Czasami martwię się, że strach przed robotami spowoduje całkowitą utratę życia ludzkiego. Opowiadam historię samochodu bez kierowcy, który staje przed wyborem pomiędzy wjechaniem w wózek sklepowy a wjechaniem w wózek dziecięcy. Powiedzmy, że samochód bez kierowcy jest 20 razy bezpieczniejszy niż ludzki kierowca. Jeśli jednak w moim scenariuszu okaże się to błędne, nagłówek brzmi „Robot zabija dziecko, aby zaoszczędzić artykuły spożywcze” i cofa autonomiczną jazdę o dekadę.

OK, ale skąd mam wiedzieć, że sam nie jesteś robotem próbującym zwabić nas w fałszywe poczucie bezpieczeństwa, zanim wszystkie maszyny przejmą kontrolę?

Obawiam się, że nie mogę odpowiedzieć na to pytanie, Kelsey.

Najnowszy wpis na blogu

Generator wykorzystujący energię z prądów oceanicznych
August 19, 2023

Działający model urządzenia o wartości szacowanej na 5 milionów dolarów może być gotowy w ciągu roku. Turbina Wodna Magia prądów oceanicznych pol...

XPrize o wartości 7 milionów dolarów zachęci do eksploracji głębokich oceanów
August 19, 2023

Odwiedziliśmy Plutona, wylądowaliśmy na Księżycu i zrobiliśmy zdjęcia Ziemi milion mil stąd. Ale jest tak wiele rzeczy na naszej planecie, których ...

Nowa Zelandia tworzy ogromny nowy rezerwat morski
August 19, 2023

Masa lądowa Nowej Zelandii obejmuje obszar 103 363 mil kwadratowych. Ale wczoraj ogłosiła, że ​​wyznacza ponad dwa razy większy obszar oceanu jako ...