ИИ-рекрутинг создаёт собственные предубеждения, а не просто копирует человеческие
Новое исследование показывает, что большие языковые модели при отборе резюме могут генерировать новые, непредсказуемые предубеждения, а не просто воспроизводить искажения из обучающих данных.
Искусственный интеллект, призванный сделать найм объективным, сам создает новые предубеждения. Исследование MIT Technology Review показало: большие языковые модели для скрининга резюме не просто копируют человеческие предрассудки. Они активно генерируют новые, часто неожиданные искажения в процессе принятия решений. Даже если очистить обучающие данные от явной дискриминации, система может стать непредсказуемо предвзятой, создавая собственные алгоритмы отбора.
Эксперименты выявили тревожный феномен. При отборе кандидатов модели формируют предпочтения на основе тонких, неочевидных паттернов. Например, система может связать определенные формулировки или структуру документа с желаемым результатом, создавая "синтетические" предубеждения. Этот процесс происходит внутри "черного ящика" модели и не контролируется инженерами напрямую. Анализ поведения моделей на 8230 резюме показал: LLM способны не только усиливать существующие искажения, но и генерировать собственные.
Это открытие разрушает ключевую надежду на внедрение ИИ в управление персоналом. Раньше главной проблемой считался принцип "мусор на входе - мусор на выходе": очистка данных должна была обеспечить объективность. Но LLM действуют как активные ученики, которые не просто запоминают, но и обобщают, иногда в опасном направлении. Система становится источником новых, трудно предсказуемых рисков.
Для отрасли это означает, что стандартные методы аудита моделей на предвзятость, ищущие известные человеческие предрассудки, теперь недостаточны. Требуются новые подходы, способные отслеживать самостоятельное, эмерджентное поведение модели. Последствия для пользователей серьезны. Компании, полагающиеся на "объективный" ИИ-скрининг, сталкиваются с юридическими и репутационными рисками, если их система дискриминирует кандидатов по новым, неучтенным критериям.
Для соискателей это означает зависимость их шансов от непрозрачных алгоритмов, чье предвзятое поведение возникло в процессе "обучения". Это подрывает доверие к автоматизированному найму. Тенденция ведет к необходимости более жесткого регулирования. От разработчиков могут потребовать не только раскрывать данные для обучения, но и предоставлять отчеты о том, как модель принимает решения и какие новые паттерны создает. Будущее этичного ИИ в найме теперь зависит от способности отрасли создать инструменты для контроля как за известными, так и за возникающими в процессе работы предубеждениями.
