Zawartość
Przedstawione przez: AltaML
P:
Dlaczego niektóre firmy rozważają dodanie „kontroli ludzkiej informacji zwrotnej” do nowoczesnych systemów AI?
ZA:
Niektóre firmy pracujące z najnowocześniejszą technologią sztucznej inteligencji pracują nad wprowadzeniem kontroli tych systemów przez ludzi, dając narzędziom do uczenia maszynowego i głębokiego uczenia się pewien bezpośredni nadzór człowieka. Te firmy też nie są małymi graczami - Google DeepMind i OpenAI Elona Muska to dwa przykłady dużych firm, które zdobywają wiedzę na temat postępów w dziedzinie sztucznej inteligencji. Mając to na uwadze, wyniki są różne - na przykład DeepMind był przedmiotem kontrowersji z powodu jego odczuwanej niechęci do dostarczania kluczowych danych opinii publicznej, podczas gdy OpenAI to znacznie więcej, no cóż, otwarty o jego pracy nad kontrolowaniem sztucznej inteligencji.
Nawet tacy znani, jak Bill Gates, zastanawiali się nad tą kwestią, Gates powiedział, że jest jednym z wielu, którzy są zaniepokojeni pojawieniem się sztucznej superinteligencji, która może w pewien sposób wyjść poza ludzką kontrolę. Ze swej strony Musk przedstawił również alarmujący język na temat możliwości „nieuczciwej sztucznej inteligencji”.
Jest to prawdopodobnie najpilniejszy powód, dla którego firmy pracują nad zastosowaniem ludzkiej kontroli do sztucznej inteligencji - pomysł, że pewna osobliwość technologiczna zaowocuje super-potężną świadomą technologią, której ludzie po prostu nie mogą już kontrolować. Od zarania ludzkich ambicji umieściliśmy narzędzia, aby mieć pewność, że możemy kontrolować moce, którymi władamy - czy to konie z wodzami i uprzężami, elektryczność w izolowanych drutach, czy jakikolwiek inny mechanizm kontrolny, mający kontrola jest z natury ludzką funkcją, dlatego na całym świecie ma sens, że gdy sztuczna inteligencja zbliża się do prawdziwej funkcjonalności, ludzie stosują własne bezpośrednie kontrole, aby utrzymać tę moc pod kontrolą.
Jednak strach przed superinteligentnymi robotami to nie jedyny powód, dla którego firmy stosują kontrolę ludzi do uczenia maszynowego i projektów AI. Innym ważnym powodem jest stronniczość maszyn - jest to idea, że systemy sztucznej inteligencji często mają ograniczony sposób oceniania danych danych - tak, że wzmacniają one jakiekolwiek odchylenie właściwe dla systemu. Większość profesjonalistów zajmujących się uczeniem maszynowym może opowiadać przerażające historie o systemach informatycznych, które nie były w stanie traktować grup ludzkich użytkowników - niezależnie od tego, czy chodziło o różnice płciowe czy etniczne, czy też o inne błędy w systemie, które naprawdę nie rozumiały niuansów naszych ludzkich społeczeństw i jak wchodzimy w interakcje z ludźmi.
W pewnym sensie możemy nałożyć ludzką kontrolę na systemy, ponieważ obawiamy się, że mogą one być zbyt potężne - lub alternatywnie, ponieważ obawiamy się, że mogą nie być wystarczająco potężne. Kontrole ludzkie pomagają celować w zestawy danych uczenia maszynowego, zapewniając większą precyzję. Pomagają wzmocnić idee, których komputer po prostu nie może się uczyć samodzielnie, albo dlatego, że model nie jest wystarczająco wyrafinowany, ponieważ sztuczna inteligencja nie jest wystarczająco zaawansowana, albo dlatego, że niektóre rzeczy leżą w gestii ludzkiego poznania. Sztuczna inteligencja jest świetna do niektórych rzeczy - na przykład system oparty na nagrodach i wynikach pozwolił sztucznej inteligencji pokonać ludzkiego gracza w niezwykle złożonej grze planszowej „Go” - ale w innych przypadkach ten system oparty na zachętach jest całkowicie nieodpowiednie.
Krótko mówiąc, istnieje wiele istotnych powodów, aby angażować ludzi bezpośrednio w działanie projektów sztucznej inteligencji. Nawet najlepsze technologie sztucznej inteligencji potrafią dużo myśleć na własną rękę - ale bez rzeczywistego biologicznego ludzkiego mózgu, który mógłby przetwarzać takie emocje i obyczaje społeczne, po prostu nie widzą dużego obrazu w ludzki sposób.
Wykwalifikowana firma ucząca się może pomóc w osiągnięciu tej równowagi dzięki połączeniu ekspertów biznesowych i merytorycznych oraz programistów uczących się maszyn z umiejętnościami rozwiązywania dużych problemów biznesowych.
