VK внедрила гибридную VLM-систему для разметки видео, ускорив подготовку датасетов в десятки раз
Команда VK Видео представила VLM-асессор - гибридную систему, которая автоматизирует разметку данных для видеопоиска с помощью моделей, понимающих и текст, и изображения. Это позволило преодолеть критическое узкое место в разработке и в десятки раз ускорить подготовку обучающих данных для поиска по 500 миллионам видео.
VK внедрила гибридную систему VLM-асессор для автоматизации разметки данных видеопоиска. Система использует модели, способные анализировать и текст, и изображения. Это ускорило подготовку обучающих датасетов, решив узкое место в развитии поиска по видео. Ежедневно VK Видео обрабатывает около 10 миллионов запросов при времени ответа в 0,5 секунды и нагрузке в 1800 RPS, что требует от алгоритмов высокой скорости и точности.
Ручная разметка долгое время была стандартом, но на больших масштабах стала бутылочным горлышком. Развитие алгоритмов ранкинга невозможно без качественных данных, а ручная работа не масштабировалась. Команде VK требовался быстрый и точный способ оценки релевантности видео запросам для постоянного улучшения поиска. Эту задачу решает новая гибридная система.
VLM-асессор анализирует текстовые запросы и визуальное содержание видео, например ключевые кадры. Система автоматически присваивает оценки релевантности, сокращая время создания размеченных датасетов. Переход к гибридной системе кратно ускорил не только подготовку данных для обучения, но и офлайн-оценку качества поиска. Инженеры и специалисты по данным теперь быстрее тестируют новые гипотезы и вносят улучшения в алгоритмы, не тратя недели на ручную разметку.
Этот кейс показывает важный тренд: автоматизация трудоемких этапов ML-пайплайна, таких как разметка данных, становится ключевым конкурентным преимуществом. Особенно это актуально для продуктов с мультимодальным контентом, где объемы данных огромны. Внедрение гибридных систем, где ИИ выполняет основную работу, а человек контролирует качество, позволяет компаниям ускорять итерации разработки и поддерживать высокий уровень сервиса на растущих масштабах.
Для пользователей VK Видео это означает, что поиск будет становиться точнее и релевантнее быстрее. Ускоренный цикл улучшений алгоритмов напрямую влияет на качество выдачи, помогая зрителям находить нужный контент среди миллионов видео. Внедрение автоматизированной разметки устраняет зависимость от ручного труда, что критически важно для поддержания скорости развития в условиях постоянно растущего объема контента и пользовательских запросов. Такой подход позволяет сосредоточить человеческие ресурсы на более сложных задачах, таких как проектирование архитектуры моделей и анализ их работы, а не на монотонной разметке.
