IBM: 92% утечек в ИИ-системах вызваны слабым контролем доступа, а не уязвимостями моделей
Новое исследование IBM выявило, что подавляющее большинство инцидентов безопасности в сфере искусственного интеллекта происходит из-за фундаментальных организационных провалов, а не из-за взлома самих моделей.
Исследование IBM показывает, что главная причина утечек в сфере ИИ - это слабая организационная защита, а не уязвимости в самих алгоритмах. В 92% компаний, столкнувшихся с такими инцидентами, не было базового контроля доступа к системам. Проблема фундаментальна: организации внедряют сложные технологии, но игнорируют классическую кибербезопасность. Сами модели редко становились прямой причиной утечки, что меняет представление об угрозах.
Отсутствие контроля доступа означает, что сотрудники или посторонние могли получить несанкционированный доступ к моделям, данным или API. Это ведет к утечке информации, манипуляциям с поведением модели, краже интеллектуальной собственности или злонамеренному использованию вычислительных ресурсов. Такие инциденты - уже реальность для компаний, активно внедряющих ИИ. Исследование указывает на разрыв между скоростью внедрения инноваций и зрелостью управления рисками.
Выводы имеют практическое значение. Они смещают фокус с чисто технических аспектов безопасности, таких как adversarial attacks или poisoning данных, на вопросы управления, политик и процедур. Разработчикам и продактам нужно работать с командами информационной безопасности с самого начала проекта. Руководителям стоит понять: инвестиции в передовые модели бесполезны без параллельных вложений в инфраструктуру безопасности, обучение персонала и принцип минимальных привилегий. Риск потерь из-за плохо защищенного API может перевесить все преимущества ИИ.
Отрасль, вероятно, столкнется с ужесточением регулирования и требований к аудиту ИИ-систем, где контроль доступа станет обязательным элементом. Поставщики решений могут активнее встраивать инструменты управления доступом в свои платформы. На рынке вырастет спрос на специалистов, которые понимают и классическую кибербезопасность, и специфику ИИ. Искусственный интеллект - это прежде всего информационная система, и к ней применимы все проверенные правила защиты данных. Игнорирование этих правил ведет к инцидентам. В конечном счете, безопасность ИИ - это не только про модели, но и про людей и процессы вокруг них.
