TL; DR: Osoby poszukujące pracy pozywają narzędzie rekrutacyjne AI o nazwie Eightfold za rzekome sporządzanie tajnych raportów, które pomagają pracodawcom sprawdzać kandydatów. Dlaczego jest to nielegalne? Z tego samego powodu, dla którego agencje ratingowe muszą informować Cię o zmianie wyniku, twierdzi pozew. Jeśli sądy uwierzą w tę logikę, może to zacząć przekształcać świat czarnej skrzynki w zakresie zamówień związanych ze sztuczną inteligencją.
Co się stało: Podobnie jak wiele osób, które ostatnio grały w grę polegającą na szukaniu pracy w liczbach, osoby poszukujące pracy miały dość pozornie spadającej liczby podań. Złożyli pozew zbiorowy przeciwko firmie Eightfold, która wykorzystuje duże firmy, takie jak Microsoft i PayPal, do weryfikacji potencjalnych pracowników. W pozwie zarzuca się, że Eightfold naruszył ustawę o uczciwej sprawozdawczości kredytowej i podobne kalifornijskie prawo dotyczące ochrony konsumentów, uniemożliwiając wnioskodawcom przeglądanie informacji o sobie i poprawianie danych, jeśli to konieczne.
„Technologia Eightfold czai się w tle aplikacji o pracę” – zarzuca się w pozwie – „zbiera dane osobowe, takie jak profile w mediach społecznościowych, dane o lokalizacji, aktywność w Internecie i urządzeniach, pliki cookie i inne rodzaje śledzenia”.
Eightfold kwestionuje to: Narzędzie „działa na danych celowo udostępnionych przez kandydatów lub dostarczonych przez naszych klientów. Nie korzystamy z mediów społecznościowych itp.” – powiedział nam rzecznik Kurt Foeller. „Eightfold uważa, że zarzuty są bezpodstawne”.
Nie ulega wątpliwości, że Eightfold wykorzystuje sztuczną inteligencję do uzyskania wyniku od zera do pięciu, klasyfikującego stopień przydatności kandydata na dane stanowisko.
Dlaczego to ma znaczenie: firmy korzystają obecnie z szeregu narzędzi sztucznej inteligencji, aby znajdować i oceniać kandydatów. W grę wchodzą także kandydaci, którzy korzystają z własnych narzędzi AI, aby znaleźć pracę i tworzyć aplikacje. To sztuczna inteligencja.
W niektórych stanach (i w Nowym Jorku) obowiązują przepisy regulujące te narzędzia, w dużej mierze skupiające się na ich potencjale stronniczości i dyskryminacji. Jednak podejmowanie decyzji przez sztuczną inteligencję nadal odbywa się w dużej mierze bez wiedzy osób poszukujących pracy.
Według Pauline Kim, profesor prawa pracy na Wydziale Prawa Uniwersytetu Waszyngtońskiego, nie jest to pierwszy przypadek wykorzystania ustawy Fair Credit Reporting Act do kwestionowania systemów zatrudniania wykorzystujących duże zbiory danych, ale nowością jest to, że jeden z tych przypadków koncentruje się na sztucznej inteligencji.
Co to oznacza dla Ciebie: jeśli pozew zakończy się sukcesem (co może zająć lata), narzędzia rekrutacyjne AI mogłyby bardziej bezpośrednio podchodzić do gromadzonych danych i bardziej pracować nad zapewnieniem ich dokładności, powiedział Kim. Jednak 55-letnie prawo, na którym opiera się pozew, może również nie w pełni odzwierciedlać współczesne zwyczaje.
Zdaniem Kima prawdziwe znaczenie polega na tym, że firmy korzystające z tych narzędzi musiałyby zachować większą przejrzystość w zakresie ich wykorzystania. „Jednak ponieważ prawo zostało napisane wcześniej, nawet jeśli będzie egzekwowane przez sądy, zapewni jedynie ograniczoną przejrzystość, prawdopodobnie niewystarczającą, aby zapewnić uczciwość tych systemów”. -PAKIET
Raport ten został pierwotnie opublikowany przez Tech Brew.
