Умные алгоритмы чаще всего отвергают кандидатов темнокожего и азиатского происхождения. И это далеко не единственная форма их предвзятости.
Специалисты Стэнфордского университета провели самое масштабное на сегодняшний день исследование алгоритмов найма, использующих искусственный интеллект для отбора сотрудников, и пришли к неожиданному выводу. Выяснилось, что наиболее распространенные HR-инструменты, используемые крупными компаниями, имеют значительные предвзятости в своих оценках. Порой они действительно проявляют расистские наклонности.
Исследователи проанализировали четыре миллиона заявок на работу от 156 работодателей, использующих популярную платформу для подбора персонала Pymetrics. Эта система оценивает кандидатов через серию онлайн-игр и затем выставляет баллы по таким критериям, как склонность к риску и скорость реакции. После этого сотрудники с наивысшими оценками рекомендуются потенциальным работодателям.
Анализ показал, что кандидатам, проходящим через игры Pymetrics, необходимо подать заявки как минимум на 25 различных вакансий, чтобы получить хотя бы одну рекомендацию для перехода на следующий этап тестирования. При этом система демонстрирует расовую предвзятость, в большей степени отклоняя кандидатов азиатского и африканского происхождения.
Однако главная проблема заключается не в этом. Теоретически, прохождение тестов у разных работодателей должно увеличивать шансы на получение нужной вакансии. Но если обе компании применяют одни и те же модели для подбора персонала, кандидат автоматически получит одинаковую числовую оценку в обоих случаях. Это лишает его возможности «второй попытки» в прохождении тестирования.
При подаче заявок на две вакансии у двух различных работодателей кандидаты могут ожидать, что получат две разные оценки и, следовательно, два шанса. Однако если для обеих вакансий используется одна и та же ИИ-модель, их числовая оценка будет одинаковой.
Фото: hi-tech.mail.ru
