Стэнфордский Институт человекоориентированного ИИ (Stanford HAI) в июне выпустил крупнейшее на сегодняшний день полевое исследование AI-рекрутинговых алгоритмов: выяснилось, что в 26% заявок чернокожих соискателей и в 15% заявок соискателей из числа азиатов их AI-система фильтрации вакансий демонстрирует дискриминацию, подпадающую под определение «правила четырех пятых» Комиссии США по равным возможностям в сфере занятости (EEOC), а наиболее востребованными обычно оказываются белые соискатели.
Исследование отслеживает 3,4 млн соискателей, 4 млн заявок и охватывает 150 работодателей в 11 отраслях
Исследование включает 3,4 млн соискателей, 4 млн заявок, 1 700 вакансий, 150 работодателей и 11 отраслей — это крупнейшее в мире полевое исследование рекрутинговых AI-алгоритмов. Контрольная группа — 108 компаний из списка Fortune 500 и 83 000 заявок: эти компании не применяли AI для фильтрации, и систематическое полное отклонение практически отсутствовало в контрольной группе.
EEOC «правило четырех пятых» гласит: если доля рекомендаций по приёму для какой-либо группы ниже 80% от доли рекомендаций для группы с самым высоким показателем, это считается юридическим порогом «неблагоприятного воздействия». Исследование на основе этого критерия показывает, что при соблюдении справедливых пропорций рекомендаций для чернокожих и азиатских соискателей до этапа ручного рассмотрения можно было бы довести более 40 000 заявок.
Исследование также выявило механизм «цифрового сокрытия» дискриминации: если перемешать и усреднить показатели рекомендаций по всем вакансиям, дискриминация в цифрах почти исчезает — например, один AI-системный предпочтительный сценарий, когда чернокожих чаще рекомендуют на работу в складской логистике, но реже рекомендуют на финансовые должности, в сумме и усреднении приводит показатель к значению, близкому к справедливому базису. Только разбор по каждой вакансии и по каждой группе отдельно позволяет дискриминации проявиться.
Ключевая проблема алгоритмов: 90% американских работодателей используют AI-фильтрацию, Workday сталкивается с коллективным иском
В каждой из 4 компаний, использовавших одного и того же AI-поставщика, 10% соискателей подали заявки во все четыре компании, но были отклонены везде; в контрольной группе, где AI-фильтрацию не применяли, подобное явление практически отсутствует. Исследователи связывают это с «алгоритмической монокультурой»: одна и та же схема с предвзятостями одновременно внедряется в сотни компаний, что систематически исключает определённые группы соискателей из всего рынка труда, при этом обычно соискатели не имеют о происходящем никакого представления.
Исследователи выделили три категории уже существующих характеристик с повышенным риском у AI-инструментов для фильтрации:
Широкое внедрение (Pervasively Adopted): около 90% работодателей в США используют AI в процессе найма
Высокая значимость последствий (Highly Consequential): напрямую определяет, сможет ли соискатель перейти к этапу ручного рассмотрения
Непрозрачность для общественности (Opaque): соискатели не могут понять, исключены ли они алгоритмом, а работодатели также могут не контролировать, как именно инструмент показывает себя по различным категориям вакансий
AI-инструмент для фильтрации от Workday в настоящее время сталкивается с коллективным иском: в обвинениях заявлена дискриминация по расовому признаку, а также по возрасту и инвалидности.
Закон об ИИ в Колорадо вступил в силу в июне, стандарт «разумного ухода» пока не определён
Закон об ИИ в Колорадо (Colorado AI Act) официально вступил в силу в июне 2026 года. Это один из немногих в США примеров штатного законодательства с явными требованиями по соблюдению норм для AI-инструментов в сфере найма: от разработчиков требуется применять меры «разумного ухода» для предотвращения дискриминации. Однако конкретное содержание «разумного ухода» и механизмы исполнения пока предстоит разработать.
Исследовательская группа отмечает, что предпосылкой для подобных исследований является доступ к данным, а данные по найму нередко контролируют поставщики и работодатели. Также группа указывает, что к выпускникам, которые заканчивают в 2026 году, сейчас относится самая сложная за последние годы ситуация на рынке труда: количество заявок на входные позиции в компаниях — в 3 раза больше, чем в 2022 году, а доля использования AI-инструментов для фильтрации растёт синхронно.
Частые вопросы
Что такое «правило четырех пятых» EEOC и как в этом исследовании по нему определяют дискриминацию?
«Правило четырех пятых» устанавливает, что если доля рекомендаций по приёму для какой-либо группы ниже 80% доли рекомендаций для группы с самым высоким показателем, это означает достижение юридического порога «неблагоприятного воздействия». Стэнфордское исследование HAI применяет этот стандарт, поэтапно разбирая AI-данные по каждой вакансии и по каждой группе, и обнаруживает, что в 26% заявок чернокожих соискателей на вакансию и в 15% заявок соискателей из числа азиатов на вакансию AI-система проявляет дискриминацию, соответствующую приведённому выше определению.
Почему дискриминация в AI-наборе персонала раньше была трудно распознаваемой?
Ключевая причина — статистическое «исчезновение» дискриминации. Когда долю рекомендаций по всем вакансиям рассчитывают как смешанное усреднение, AI в одних типах вакансий повышает долю рекомендаций, а в других — снижает, и эти эффекты взаимно компенсируются, из-за чего общий средний показатель приближается к справедливому базису. Исследование Stanford HAI позволяет увидеть дискриминацию в цифрах благодаря детальному анализу по каждой вакансии и каждой группе отдельно.
Что именно требует Colorado AI Act в отношении AI-инструментов для найма?
Colorado AI Act вступил в силу в июне 2026 года и требует от разработчиков AI-инструментов для найма применять меры «разумного ухода» для предотвращения дискриминации. На текущий момент это один из немногих уже вступивших в силу в США законодательных актов штатов по AI-набору персонала. Конкретные стандарты «разумного ухода» в тексте закона и соответствующие механизмы исполнения пока ещё подлежат дальнейшей конкретизации со стороны уполномоченных органов.
