Исследователи кибербезопасности раскритиковали модель Anthropic Fable за чрезмерные ограничения
Новая модель Fable от Anthropic столкнулась с критикой со стороны экспертов по безопасности из-за слишком строгих защитных механизмов, которые, по их мнению, делают инструмент бесполезным для профессиональных задач, таких как анализ вредоносного ПО.
Модель Fable от компании Anthropic, основанной бывшими сотрудниками OpenAI, столкнулась с критикой со стороны специалистов по кибербезопасности. Встроенные защитные механизмы модели настроены настолько строго, что она блокирует выполнение задач, связанных с анализом потенциально вредоносного кода или поиском уязвимостей, даже в исследовательских целях. По сообщениям в отраслевой прессе, Fable отказывается обрабатывать многие базовые запросы из этой области, классифицируя их как недопустимые.
Компания Anthropic известна своим акцентом на безопасность и выравнивание ИИ, но в данном случае этот подход, по мнению экспертов, реализован без достаточной гибкости. Специалистам по безопасности часто требуется изучать методы атак или подозрительные скрипты в изолированных средах именно для разработки защитных мер. Текущая версия Fable не проводит различий между подобной законной исследовательской работой и потенциально злонамеренным использованием, что резко ограничивает её применимость в профессиональной среде.
Это создает проблему для отрасли, где языковые модели могли бы автоматизировать рутинные задачи анализа, помогать в расследовании инцидентов или составлении отчетов. Из-за чрезмерно консервативных ограничений внедрение Fable в реальные процессы исследовательских групп или центров мониторинга безопасности становится маловероятным. Образуется разрыв между стремлением разработчиков ИИ к максимальной безопасности и потребностями специалистов, которым требуются эффективные инструменты для противодействия постоянно развивающимся угрозам.
Ситуация с Fable высвечивает более общую дилемму: как обеспечить баланс между предотвращением злоупотреблений и практической полезностью ИИ для экспертов, защищающих инфраструктуру. Если тренд на жесткие, неразборчивые ограничения сохранится, профессиональное сообщество может начать активнее использовать менее безопасные, но более функциональные открытые модели или собственные внутренние разработки, что сопряжено с отдельными рисками. Данный случай, вероятно, побудит Anthropic и другие компании к пересмотру калибровки защитных механизмов для узких профессиональных областей. Возможными путями могут стать создание верифицированных режимов доступа для аккредитованных исследователей или внедрение более тонких и контекстно-зависимых политик. В противном случае сегмент ИИ-инструментов для кибербезопасности может остаться неохваченным или перейти к решениям с более взвешенным подходом к ограничениям.
