Zawartość
- Kobiety i AI
- Bez błędów, bez stresu - Twój przewodnik krok po kroku do tworzenia oprogramowania zmieniającego życie bez niszczenia życia
- Zwracanie uwagi na uprzedzenia upieczone w sztucznej inteligencji
- Wpływ AI na siłę roboczą
- Pula talentów AI Teraz i na dole
- Edukacja do rozwijania puli talentów AI
Na wynos:
Znaczenie sztucznej inteligencji dla operacji biznesowych rośnie i chociaż ma działać obiektywnie, wykazano, że wzmacnia uprzedzenia dotyczące płci. Ale dzięki świadomości i edukacji można go wykorzystać do wypełnienia luk, a nie do ich uzupełnienia.
Jak widzieliśmy w Minding Gender Gap, kobiety nadal pozostają daleko w tyle za mężczyznami w dziedzinie technologii, zarówno pod względem reprezentacji (która wynosi około 25% w Stanach Zjednoczonych), jak i pod względem wynagrodzenia, gdzie różnica między mężczyznami i kobietami jest blisko 12%.
Podczas gdy liczby dotyczące różnic w wynagrodzeniach w technologii nie koncentrują się na specjalistach od sztucznej inteligencji (AI), reprezentacja kobiet jest tam jeszcze niższa.
Według raportu „Systemy dyskryminujące: płeć, rasa i władza” konferencje kobiet stanowią zaledwie 18% reprezentowanych autorów na konferencjach AI i mniej niż 20% profesorów AI. Gorzej radzą sobie w korporacjach, w których stanowią tylko 15% stanowisk personelu badawczego w i zaledwie 10% w Google.
Ponieważ sztuczna inteligencja staje się coraz ważniejsza dla operacji biznesowych, należy zbadać następujące pytanie: jaki wpływ może mieć sztuczna inteligencja na różnice płci i ogólnie na siłę roboczą? (Przeczytaj Czy genetyka może wyjaśnić różnicę płci między mężczyznami i kobietami w dziedzinie technologii?)
Dotarłem do kilku ekspertów w tej dziedzinie, aby dowiedzieć się, jaką rolę może odegrać AI we wzmacnianiu lub przekraczaniu uprzedzeń związanych z płcią. Ogólnie są optymistami co do przyszłości.
Kobiety i AI
Anish Joshi, wiceprezes ds. Technologii w Fusemachines (wiodący dostawca usług, rozwiązań i edukacji AI) uważa, że AI „usuwa uprzedzenia z procesu rekrutacji, który historycznie faworyzował mężczyzn”.
Jest to zgodne z tym, co Amy Chen, dyrektor operacyjny Cortex Labs zaobserwowała na temat sztucznej inteligencji jako przeciwwagi dla emocjonalnych lub subiektywnych perspektyw, które wciąż wpływają na decyzje: „Możemy w przyszłości opierać się bardziej na obiektywnych faktach, z mniejszą liczbą stereotypów i stronniczości” - powiedziała. .
Joshi wyjaśnił, że sposób, który będzie działał, jest następujący:
Bez błędów, bez stresu - Twój przewodnik krok po kroku do tworzenia oprogramowania zmieniającego życie bez niszczenia życia
Nie możesz poprawić swoich umiejętności programistycznych, gdy nikt nie dba o jakość oprogramowania.
- Algorytmy sztucznej inteligencji potrafią uwzględniać dane, które mają znaczenie przy zatrudnianiu (kwalifikacje, wykształcenie, doświadczenie itp.) I ignorują dane, które nie mają znaczenia (płeć, pochodzenie etniczne, wiek itp.).
- Ta technologia może również mierzyć odpowiednie trendy i wykorzystywać analizę predykcyjną, aby lepiej zatrudniać pracowników w oparciu o zasługi.
- Pracownicy mogą cenić różne rzeczy w miejscu pracy, a rozszerzona analiza predykcyjna AI może zidentyfikować te różnice.
Joshi zauważył, że nie jest to ściśle hipotetyczne, ale zostało już wprowadzone w życie poprzez wykorzystanie oprogramowania firm takich jak Gapsquare, Pipeline, Plum i Pymetric do kierowania decyzjami na podstawie danych. Przyznaje jednak, że uprzedzenia zaprogramowane w AI mogą pogłębić dysproporcję między płciami w zatrudnianiu.
Wyjaśnił: „Jeśli algorytmy zostaną przeszkolone w zakresie stronniczych danych, przyniosą one stronnicze wyniki. Może to być szczególnie szkodliwe dla kobiet w HR i zatrudnianiu. Było wiele godnych uwagi przypadków, w tym jeden z Amazonem, którego technologia zatrudniania oparta na uczeniu maszynowym została ukarana życiorysy sugerują, że jej właścicielem była kobieta, np. kobiety. ”
„Reuters podaje, że dzieje się tak, ponieważ modele komputerowe Amazon zostały przeszkolone do sprawdzania kandydatów przez obserwowanie wzorców w życiorysach przesyłanych do firmy w ciągu 10 lat. Większość pochodzi od mężczyzn, co odzwierciedla męską dominację w branży technologicznej”.
Mimo to Joshi utrzymuje „nadzieję, że AI pomoże zwiększyć liczbę zatrudnionych kobiet”. Odniósł się do raportu Unilever, że różnorodność pracowników poprawiła się o 16% dzięki zastosowaniu AI.
Michał Neufeld, CPO Ubimo, ujął to w następujący sposób: „Krótko mówiąc, każdy algorytm jest tak dobry, jak dane wejściowe i modele, których używa”. Prawdziwym zagrożeniem dla sztucznej inteligencji nasyconej uprzedzeniami wynikającymi z programowania jest to, że może on przenosić pojawienie się i autorytet „obiektywnej nauki”.
Jednak świadomość tego rośnie, a to jest inspirujące rozwiązanie.
„Częściowo z powodu niefortunnych ustaleń, takich jak przypadek COMPAS, częściowo dlatego, że istnieje praktyczna potrzeba wyjaśnienia wyników uzyskanych przez te systemy, a także, mam nadzieję, również dlatego, że staramy się działać lepiej”, powiedział Neufeld.
Zwracanie uwagi na uprzedzenia upieczone w sztucznej inteligencji
Neufeld wyjaśnił, że duża część problemu wynika z trudności związanych ze zrozumieniem tego, co dokładnie dzieje się w modelach AI. To właśnie stało się problemem „czarnej skrzynki” (patrz AI ma jakieś wyjaśnienia do zrobienia).
Wyjaśniła, że jednym ze sposobów rozwiązania tego problemu jest „opracowanie objaśnień, takich jak LIME, mających na celu„ inżynierię odwrotną ”danych wejściowych, wyjściowych i modelu w celu wskazania, które funkcje z danych wejściowych zostały ostatecznie wykorzystane do obliczenia wyników modelu”.
Umożliwiłoby to „identyfikację predyktorów, które są tendencyjne lub zakładają związek przyczynowo-skutkowy z korelacją”.
Uważa również, że ważne jest, aby dotrzeć do głównej przyczyny błędu, a nie tylko sposobu, w jaki przejawia się to w wynikach sztucznej inteligencji. Można to zrobić, „kładąc nacisk na zasadność edukacji i uprzedzeń kulturowych”. Neufeld jest optymistą, że możliwe będzie usunięcie uprzedzeń od ludzi, a programowanie bez uprzedzeń nastąpi w naturalny sposób.
Ta optymistyczna prognoza jest podzielana również przez pozostałe dwa.
Wpływ AI na siłę roboczą
Wszyscy respondenci przyznają, że nastąpi pewne przesunięcie pracy, ponieważ niektóre zadania są zautomatyzowane za pośrednictwem sztucznej inteligencji. Joshi przyznał ponadto, że może to mieć szkodliwy wpływ na kobiety.
„Role tradycyjnie sprawowane przez kobiety (administracja, obsługa klienta itp.) Są zautomatyzowane, co naraża niektóre kobiety na ryzyko zastąpienia ich, jeśli nie są wykwalifikowane i / lub przeszkolone”.
Uważają jednak, że strata w jednym obszarze zostanie zrekompensowana możliwościami w innym obszarze. Neufeld ujął to w ten sposób:
„Podobnie jak w rewolucji przemysłowej, kiedy praca ludzi została zastąpiona przez maszyny, ludzie nadal byli potrzebni do zbudowania tych maszyn. W dzisiejszym przypadku praca poznawcza wykonywana przez maszyny wciąż nie ma możliwości, które są albo transcendentalne do zadań (jak projektowanie model, który wykona zadanie) lub taki, którego my, ludzie, nie możemy „łatwo” nauczyć, np. kreatywność ”.
„Pomimo oczywistej utraty miejsc pracy z powodu zastąpienia sztucznej inteligencji, wierzę, że w krajobrazie„ ochrony ”maszyn powstanie wiele nowych możliwości - czy to poprzez ich szkolenie, monitorowanie ich etycznych i społecznych wyników, czy też wyjaśnianie ich wyników i wypełnianie luki między „nimi” a ludźmi. Ludzie będą odpowiedzialni za wyjaśnianie i tłumaczenie technicznych zestawów danych, implementacji i wyników po stronie biznesowej (serwery proxy do technicznych) ”.
Joshi dodał, że siła robocza przyszłości nie zostanie zredukowana do ludzi lub maszyn tak bardzo, jak ludzie posiadający maszyny.
„Ludzie będą musieli przyzwyczaić się do pracy z inteligentnymi maszynami, a nie po prostu ich zastępować.” Podał teraz przykład innowacji w diagnozowaniu raka. „Oprócz używania AI nadal konieczna jest ocena człowieka.” (Przeczytaj Szczepionki przeciwnowotworowe i sztuczna inteligencja: wygrywanie wojny z rakiem?)
Pula talentów AI Teraz i na dole
Wiele firm narzeka na problem braku talentów w technologii. Joshi, Chen i Neufeld zgadzają się, że tak jest teraz. Ale wszyscy uważają to za tymczasowe niepowodzenie. Joshi wierzy, że programy takie jak te oferowane przez programy takie jak The Fuse AI Center sprawią, że edukacja AI stanie się bardziej dostępna, i że „poszerzy pulę talentów AI i zasadniczo przygotuje inżynierów na szybko rozwijający się globalny rynek pracy AI”.
Jeśli chodzi o wykształcenie potrzebne do pracy, Neufeld uważa sytuację talentu AI za porównywalną z tym, co widzieliśmy wcześniej, i przewiduje, że nastąpi zmiana w innym kierunku:
„Uważam, że brakuje obecnie programistów zajmujących się badaniami danych i sztuczną inteligencją, podobnie jak brak programistów internetowych pod koniec ubiegłego wieku. I podobnie, widzimy naturalny efekt ekonomiczny podaży i popytu, który podnosi płace i lukratywność takich pozycji ”.
„Gdybym musiał przewidzieć, zobaczymy zjawisko wahadła nasycenia rynku, zanim osiągnięta zostanie równowaga”.
Edukacja do rozwijania puli talentów AI
Wszyscy przewidują, że więcej osób będzie uczyć umiejętności technicznych, których potrzebują, aby przejść do sztucznej inteligencji w przyszłości, a programy nauczania zmieniają się, aby przygotować ludzi do nowoczesnej siły roboczej. Jednak Chen uważa, że powinno to rozpocząć się nawet na poziomie szkoły średniej.
Argumentuje, że program nauczania jest dostosowany do potrzeb czasu. We wcześniejszej części ubiegłego wieku, w której technologia koncentrowała się na silnikach, przedmioty nauczane na poziomie szkoły średniej obejmowały chemię, fizykę i matematykę. Następnie zaawansowana technologia „koncentruje się wokół komputerów i telefonów komórkowych, a teraz AI i blockchain”.
W związku z tym, twierdzi Chen, edukacja powinna teraz obejmować „kodowanie, informatykę i architekturę komputerową” wśród „obowiązkowych kursów”.
Z drugiej strony Neufeld uważa, że dyscypliny takie jak filozofia, psychologia i antropologia mogą stać się coraz ważniejsze w szkoleniu ludzi, którzy programują AI. Wyjaśniła to w ten sposób:
„Interesującą częścią zmian w puli talentów są prace, o których nie wiemy, lub te wymagające kwalifikacji, których nie umiemy nauczać. W jaki sposób szkolisz kogoś, aby tworzył maszynę wykazującą empatię lub rozpoznającą sarkazm ?
„W tym sensie przedmioty badawcze, takie jak filozofia, psychologia i antropologia, mogą stać się bardziej odpowiednie do szkolenia przyszłej generacji operatorów AI. Może to spowodować większą lukę w najbliższej przyszłości, ponieważ wymaga to budowania tych zdolności i dostosowania programów edukacyjnych z zmielone."