От MVP до 10 млн проверок в месяц: как Пятёрочка продуктивизировала компьютерное зрение

Команда X5Tech, технологическое подразделение "Пятёрочки", перевела сервис компьютерного зрения для проверки фото товаров из MVP в промышленную систему. За 8 месяцев сервис начал обрабатывать около 10 млн проверок в месяц. Основной вызов - обеспечить стабильную и масштабируемую работу в реальных условиях ритейла.

Изначально задача была автоматизировать проверку фотографий товаров от поставщиков для маркетплейса. Сервис определяет соответствие изображения карточке товара и базовым требованиям качества. Система включает 26 моделей, выполняющих 62 проверки. Архитектура использует CNN для классификации и мультимодальные модели для анализа соответствия текста и изображению. Инфраструктура построена на Triton Inference Server, vLLM и Kafka для высокой пропускной способности и низких задержек.

Первой проблемой стала сезонность и изменчивость ассортимента. Модели ошибались при появлении новых товаров или обновлении упаковки. Например, классификатор путал фотографию мясного фарша с грязью. Для решения внедрили строгий мониторинг качества предсказаний: команда отслеживает 9 ключевых метрик и использует A/B-тестирование.

Ключевой элемент архитектуры - принцип Human-in-the-loop (HITL). Сложные или спорные проверки направляются человеку-оператору. Это позволяет поддерживать качество сервиса без попыток достичь полной автоматизации и собирать сложные кейсы для дообучения моделей.

Масштабирование до 10 млн запросов потребовало оптимизации производительности. Команда решала проблемы с утечками памяти в inference-серверах, race conditions в конвейере и балансировкой нагрузки между разными типами моделей. Провели работу по кэшированию, оптимизации размеров батчей и распределению ресурсов GPU.

Для "Пятёрочки" стабильная работа сервиса влияет на скорость подключения поставщиков и качество карточек товаров, что сказывается на клиентском опыте.

Опыт X5Tech показывает сдвиг сложности внедрения ИИ: с создания моделей на инженерную продуктивизацию. Успех определяется способностью системы адаптироваться к изменениям, масштабироваться под нагрузку и интегрироваться в бизнес-процессы с участием человека.