NYC bill zakazuje narzędzi rekrutacyjnych AI, które nie sprawdzają błędów

Nowy Jork może wkrótce zmniejszyć szanse na stronniczość sztucznej inteligencji na rynku pracy. Na Associated Press uwagi Rada Miasta uchwaliła ustawę zakazującą zatrudniania systemów AI, które nie przechodzą corocznych audytów sprawdzających dyskryminację ze względu na rasę lub płeć. Deweloperzy potrzebowaliby również większej przejrzystości (w tym ujawniania zautomatyzowanych systemów) i dostarczania alternatywnych rozwiązań, takich jak recenzje ludzkie. Grzywny sięgną nawet 1500 dolarów za incydent.

Ustawa została uchwalona 10 listopada. Odchodzący burmistrz Bill de Blasio ma miesiąc, by to podpisać, ale nie powiedział, Czy to zrobi. Jeżeli środek zostanie wdrożony, wejdzie w życie w 2023 r.

Podpisane prawo może zmniejszyć szanse, że technologia zatrudniania AI wypaczy pule kandydatów i demografię wynikających z tego pracowników. Organizacje Pro-biznesowe, takie jak Greater New York Chamber of Commerce, są już za, sugerując, że ujawnienia są niezbędne zarówno dla pracodawców, jak i ich talentów.

Istnieją jednak obawy, że uchwalona ustawa nie pomoże tak bardzo, jak obiecano. Centrum Demokracji i technologii Alexandra Givens powiedziała AP ustawa nie uwzględnia innych uprzedzeń, takich jak ableizm czy ageizm. Zakłada to również, że audyty są skuteczne-twierdzi Julia Stoyanovich Z New York University, że wymagania były ” bardzo łatwe do spełnienia.”Istnieje obawa, że prawodawstwo może nieumyślnie chronić pracodawców, których platformy sztucznej inteligencji mają różne lub trudniejsze do wykrycia uprzedzenia.

Wszystkie produkty polecane przez Engadget są wybierane przez nasz zespół redakcyjny, niezależnie od naszej firmy macierzystej. Niektóre z naszych historii zawierają linki partnerskie. Jeśli kupisz coś za pośrednictwem jednego z tych linków, możemy zarobić prowizję partnerską.