Zawartość
- Zwolniony przez maszynę
- Automatyzacja i zakłócenia pracy
- Bez błędów, bez stresu - Twój przewodnik krok po kroku do tworzenia oprogramowania zmieniającego życie bez niszczenia życia
- Aplikacje z elektroniki użytkowej
- Odzyskiwanie kontroli
- Jak to może działać
Źródło: Artinspiring / Dreamstime.com
Na wynos:
Aby automatyzacja działała z ludzkością i dla niej, a nie przeciwko niej, potrzebujemy zabezpieczeń i poinformowanych ludzi umocowanych do zatrzymania lub naprawienia błędu systemu.
"Błądzić jest rzeczą ludzką; naprawdę paskudne rzeczy wymagają komputera. ”William E. Vaughan dokonał tej obserwacji w 1969 roku. Przejęcie kontroli nad zautomatyzowanym systemem niesie ze sobą możliwość awarii i spowodowania poważnej szkody, zanim zostanie sprawdzony.
Automatyzacja nie jest nowa, ale staje się coraz bardziej rozpowszechniona dzięki integracji systemów cyfrowych i fizycznych. Zaletą automatyzacji na dużą skalę jest duża wydajność. Ale wadą polegającą na systemie „ustaw i zapomnij” jest to, że ktoś może nie ustawić go poprawnie.
Dzięki systemowi, który po prostu działa bez interwencji i bez możliwości zatrzymania maszyny, możesz mieć destrukcyjne skutki. W związku z tym technologia może stworzyć sytuację opisaną w „Uczniu czarnoksiężnika”, kiedy to, co wydaje się ułatwiać życie, faktycznie wymyka się spod kontroli.
Zwolniony przez maszynę
Automatyzacja bez interwencji sprawiła, że pracownik technologiczny w Wielkiej Brytanii znalazł się bez pracy bez przyczyny w zeszłym roku. Ibrahim Diallo zauważył, że jego karty poświadczające bezpieczeństwo nie pracują w pracy, i odkrył, że dzieje się tak, ponieważ nie ma pracy. „The Machine Fired Me” to tytuł, który nadał swojemu rozszerzonemu blogowi na temat tego wydarzenia.
Ostatecznie przyczyną zakończenia Diallo nie była jakaś ocena algorytmu, która określała, kogo należy wyeliminować. Problem nie dotyczył systemu, ale był to błąd ludzki. W tym przypadku była to cała zautomatyzowana reakcja na to, że człowiek nie podał informacji o odnowieniu umowy przez Diallo.
Nie chodzi o to, że maszyna zdecydowała, że powinien zostać zwolniony za coś konkretnego. Po prostu wykonał zaprogramowane w nim kroki dla osoby, której status okazał się już nie zatrudniony. Jak wyjaśnia w komentarzach, nie jest to tak naprawdę sztuczna inteligencja, ale „automatyczny skrypt”. (Aby dowiedzieć się, w jaki sposób sztuczna inteligencja może pomóc (zamiast ranić) w biznesie, sprawdź, co AI może zrobić dla przedsiębiorstwa.)
Automatyzacja i zakłócenia pracy
Tego rodzaju efekt nie jest dokładnie tym, co ludzie przewidują, opisując wspaniałe korzyści, których możemy spodziewać się w zautomatyzowanej przyszłości. Zwykle optymistyczne podejście do zmiany zadań, ponieważ zadania są podejmowane przez automatyzację, zadania zostaną przedefiniowane - nie zakończone przez zautomatyzowane systemy. Ale w rzeczywistości niektóre miejsca pracy zostaną wyeliminowane, a osoby, które je utrzymały, niekoniecznie będą w stanie bezproblemowo przejść do nowych karier w branży w dużej mierze zautomatyzowanej.
Zakłócenie pracy jest jednym z mniejszych zagrożeń, jakie Elon Musk przewidział w związku z rozwojem sztucznej inteligencji, chociaż jego własna wizja wpływu na zatrudnienie jest znacznie bardziej pesymistyczna niż Fitzgeralda. W opinii Muska AI wymaga ścisłych regulacji, ponieważ stanowi „fundamentalne, egzystencjalne ryzyko dla ludzkiej cywilizacji”.
Bez błędów, bez stresu - Twój przewodnik krok po kroku do tworzenia oprogramowania zmieniającego życie bez niszczenia życia
Nie możesz poprawić swoich umiejętności programistycznych, gdy nikt nie dba o jakość oprogramowania.
Aplikacje z elektroniki użytkowej
Pomimo własnych poświadczeń technicznych Musk, niektórzy eksperci w tej dziedzinie, jak Rodney Brooks, który był dyrektorem założycielem MIT Computer Science and Artificial Intelligence Lab oraz współzałożycielem zarówno iRobot, jak i Rethink Robotics, twierdzą, że Musk myli się co do zagrożenia AI i tego, jak robotyka faktycznie działają.
W wywiadzie dla TechCrunch Brooks wskazał, że nierozsądnie jest domagać się przepisów, nie dopracowując technologii do punktu, w którym możemy dokładnie określić, co należy uregulować. Rzucił wyzwanie Muskowi: „Powiedz mi, jakie zachowanie chcesz zmienić, Elon?”
Brooks przyznał, że roboty spowodują przesunięcie pracy. Ale uważa również, że można zmienić paradygmat w branży, aby podążał za elektroniką użytkową.
Sposób, w jaki przedstawił to w wywiadzie dla TechCrunch, brzmiał: „Mamy tradycję w wytwarzaniu sprzętu, który ma okropne interfejsy użytkownika i jest trudny i trzeba brać udział w kursach, podczas gdy w elektronice użytkowej sprawiliśmy, że maszyny, których używamy, uczą ludzi jak z nich korzystać. ”
To, jak powiedział, powinno być celem zmiany sposobu, w jaki odnosimy się do „sprzętu przemysłowego i innego rodzaju sprzętu, aby maszyny uczyły ludzi, jak z nich korzystać”.
Odzyskiwanie kontroli
To, co sugeruje Brooks, może skierować nas w stronę rozwiązania problemu błędu ludzkiego, który uruchamia zautomatyzowany proces, który wydaje się wymykać spod kontroli. Odwołując się do nieszczęśliwej przygody Mickeya w „Uczniu czarnoksiężnika”, cały problem wynika z osoby, która aktywuje system, ale nie ma realnego sposobu komunikowania się z nim, aby zatrzymać lub zmienić kierunek.
Ale jeśli interfejs jest oparty na elektronice użytkowej, a nie na tradycyjnych modelach przemysłowych, mógłby dosłownie oddać kontrolę w ręce ludzkie. Aby naprawdę był skuteczny, interfejs musi być nie tylko dostępny, ale również zaprojektowany, aby utrzymywać ludzi na bieżąco, co się dzieje, dostarczając dane o otrzymanych aktualizacjach i podjętych działaniach.
Jak to może działać
W przypadku przypadkowego wypowiedzenia Diallo oznaczałoby to, że zautomatyzowany system nie tylko zablokuje go z systemu, a następnie poinformuje jego rekrutera, że został rozwiązany. Po pierwsze uznałby, że przedłużenie umowy nie zostało wprowadzone w przewidywanym terminie. Przed rozpoczęciem działań związanych z rozwiązaniem umowy zaoferuje menedżerowi i rekruterowi informacje o braku odnowienia i konsekwencjach, które pojawią się w ciągu dnia, jeśli nie zostaną podjęte żadne działania.
Ten rodzaj ostrzeżenia pozwoliłby ludziom podejmować świadome decyzje dotyczące tego, czy pozwolić na automatyzację czy interweniować w celu usunięcia błędu ludzkiego, który był pierwotną przyczyną problemu. Ale ludzie muszą również wykonywać swoją część, reagować na ostrzeżenie i podejmować właściwe działania. Innymi słowy, odpowiedź na pytanie postawione przez Brooksa na temat zachowania dotyczy ludzi; muszą być mniej pasywne w obliczu automatyzacji. (Aby dowiedzieć się więcej o tym, jak ludzie i maszyny mogą współpracować, zobacz Kanalizacja elementu ludzkiego: zasady, procedury i procesy).
Jak napisał Diallo w sekcji komentarzy na swoim blogu, powodem tego było to, że ludzie odmówili działania przeciwko maszynie:
Kolejną rzeczą, która jest pomijana, jest to, że chociaż wszyscy wiedzieli, że to błąd ludzki ją wywołał, i że był to czysty błąd, postanowili pójść za nimi. To tak, jakby umieścić znak „palenie dozwolone” w szpitalu, a ludzie szanują ten znak zamiast kierować się zdrowym rozsądkiem.
W związku z tym zasady, które musimy przyjąć, aby automatyzacja działała z ludzkością i dla niej, a nie przeciwko niej, są dwojakie: po stronie maszyny potrzebujemy interfejsów, które są dostępne i zawierają informacje, a po stronie ludzkiej potrzebujemy ludzi upoważniony do zidentyfikowania, kiedy coś jest nie tak i do podjęcia działań, aby to naprawić.