Paneliści podczas sesji podczas regat Women in Tech Regatta w Seattle w środę. Od lewej do prawej: moderatorka Sarah Studer z Uniwersytetu Waszyngtońskiego, Maria Martin z Nordstrom, Nandita Krishnan z Adobe i Anya Edelstein z Highspot. (Zdjęcie z regat WiT)
Kobiety od dawna były wykluczane ze zbiorów danych i decyzji wpływających na wszystko, od bezpieczeństwa samochodu po diagnozy medyczne. Liderzy branży ostrzegają, że pochopne podejście do sztucznej inteligencji grozi powtórzeniem tych schematów.
To było głównym przesłaniem tegotygodniowych regat Women in Tech Regatta w Seattle, podczas których prelegenci nawoływali do wcześniejszego i szerszego udziału w rozwoju sztucznej inteligencji w miarę przyspieszania adopcji.
„Wykluczenie z biegiem czasu pogłębia się i staje się znacznie trudniejsze do wykrycia” – powiedziała Anya Edelstein, menedżer ds. doświadczeń edukacyjnych w Highspot z siedzibą w Seattle, podczas środowego panelu przywódców AI. „Jeśli ich punkt widzenia nie zostanie uwzględniony na sali podczas początkowego podejmowania decyzji, później będzie trudniej dokonać zmiany”.
W ostatnich latach badacze próbowali złagodzić wady modeli uczenia maszynowego trenowanych na wypaczonych lub stronniczych zestawach danych, w tym błędne diagnozowanie niewydolności nerek u kobiet. Tymczasem kobiety na całym świecie o około 20% rzadziej niż mężczyźni korzystają z narzędzi sztucznej inteligencji, co zwiększa dysproporcje w zakresie szkoleń.
Wydaje się, że przynajmniej w dziedzinie technologii różnice między płciami w sztucznej inteligencji się zmniejszają. To zauważalna zmiana, ponieważ firmy dążą do automatyzacji na dużą skalę, a wokół IPO Anthropic i OpenAI pojawiają się obawy dotyczące dezinformacji i bezpieczeństwa danych.
Kobiety ostrożnie prowadzą strategię sztucznej inteligencji
Jak wynika z ankiety przeprowadzonej wśród ponad 1700 liderów branży opublikowanej na początku tego miesiąca przez Chief, sieć przywódczą skupioną na kobietach, większość kobiet na stanowiskach kierowniczych (80%) kieruje strategią sztucznej inteligencji w miejscu pracy, gdzie przedkładają odpowiedzialne wdrażanie nad szybkość.
Często kontrastuje to z presją wywieraną na firmy, aby wdrażały narzędzia i strategie sztucznej inteligencji w coraz szybszym tempie, powiedziała Maria Martin, dyrektor ds. zarządzania produktami w Nordstrom.
„Margines między podjęciem decyzji a jej skalą jest mniejszy” – powiedział Martin podczas środowego panelu. „Ważne jest, aby wyprzedzić konkurencję i zaangażować się wcześnie”.
W grupie ankietowanych menedżerek 71% jako pierwsze w swoich firmach zwróciło uwagę na zagrożenia związane ze sztuczną inteligencją.
„Jeśli nie będziemy celowo wprowadzać interwencji na każdym kroku” – powiedział Edelstein – „istnieje możliwość wkradania się uprzedzeń”.
Zabierz kobiety do pokoju
Problem włączania wykwalifikowanych kobiet do stanowisk kierowniczych i decyzyjnych związanych ze sztuczną inteligencją może zaczynać się od zatrudnienia. Co najmniej dwie trzecie rekruterów wykorzystuje sztuczną inteligencję do selekcji kandydatów. Wykazano, że jest to proces reprodukujący uprzedzenia rasowe i płciowe, często w sposób przekrojowy.
Uczestnicy spotkają się w środę na regatach Women in Tech w Seattle. (dzięki uprzejmości WiT Regatta)
W 2024 roku badacze z Uniwersytetu Waszyngtońskiego odkryli, że osoby przesiewowe AI w 89% przypadków wybierają imiona męskie zamiast żeńskich, a w 85% przypadków imiona kojarzone z bielą zamiast imion kojarzonych z czarnym. Rok później Uniwersytet Waszyngtoński odkrył, że menedżerowie ds. rekrutacji odzwierciedlają uprzedzenia swojego modelu sztucznej inteligencji.
Kobiety i osoby kolorowe stają przed presją asymilacji i zmiany kodów (np. używania w CV nazwiska neutralnego pod względem rasowym i płciowym) jeszcze przed wejściem do biura. Po zatrudnieniu najważniejsze jest znalezienie odpowiednich osób do wsparcia, powiedziała Cynthia Tee, wieloletnia liderka IT i inżynierii.
Tee sugeruje, że więcej liderów branży może wdrożyć model sponsoringu, który wymaga większych intencji, wymiernego ryzyka i kosztów w porównaniu z typowym sojuszem w miejscu pracy.
„Nadal nalegajmy na promowanie ludzi, którzy na to zasługują” – powiedział Tee podczas panelu na temat kierowania dynamiką w miejscu pracy. „Kontynuuj pozyskiwanie bardziej zróżnicowanych osób za pośrednictwem kanałów rekrutacji. Kontynuuj pozyskiwanie osób, których głosy nie są słyszane”.
Rozmowa AI jest dla każdego
Może istnieć bariera zaufania w zrozumieniu lub używaniu sztucznej inteligencji, częściowo ze względu na projekt „czarnej skrzynki” w branży. Nandita Krishnan, analityk danych w Adobe, która tworzy aplikacje na boku, sugeruje, aby co tydzień zarezerwować czas na przeczytanie najświeższych wiadomości i eksperymentowanie z automatyzacją codziennych zadań.
„Jeśli kodujesz wibrując, rób to w taki sposób, aby oprogramowanie pozostało bezpieczne” – powiedział podczas panelu z Edelsteinem i Martinem. „Kiedy budujesz systemy sztucznej inteligencji, są one bardzo podatne na wykolejenie. Dodaj coś, co uziemi LLM i przekaż swojemu agentowi bazę danych faktów lub wiedzy, aby mieć pewność, że się nie wykolei”.
Zaangażowanie w proces decyzyjny AI nie ogranicza się do wiedzy technicznej. Edelstein sugeruje ustanowienie wartości wokół sztucznej inteligencji (w tym edukacji, opieki zdrowotnej i środowiska) oraz znalezienie liderów branży lub firm, które będą z nimi współpracować.
Dodał, że wielu pracowników uczy się sztucznej inteligencji w obawie przed pozostawieniem w tyle, ale ciekawość prowadzi do lepszych wyników.
„Jeśli uda nam się zmienić wiele poglądów na temat sztucznej inteligencji” – powiedział – „będzie to pierwszy krok w kierunku włączenia większej liczby osób do dyskusji”.
