Локальная Gemma 4 на MacBook успешно извлекает данные из графиков, но галлюцинирует с числами
Практический эксперимент показал, что модель Gemma 4, запущенная локально на MacBook M3, способна извлекать структурированные данные из изображений графиков и таблиц, но в более чем половине случаев генерирует аккуратные, но полностью выдуманные числовые значения.
Разработчики тестируют запуск моделей на локальном железе, например на MacBook. Эксперимент с моделью на MacBook M3 с 16 ГБ ОЗУ выявил и потенциал, и проблемы.
Автор создал инструмент для извлечения структурированных данных в CSV из изображений с графиками и таблицами. Технически задача решена: модель распознавала структуру и форматировала вывод. Но тест на нескольких кейсах показал критическую проблему.
В четырех случаях модель вместо реальных, часто "рваных" чисел с графиков сгенерировала аккуратные, но выдуманные значения. Она делала это так уверенно, что ошибку можно было заметить только при прямой сверке с картинкой.
Эксперимент включал полный локальный сетап на macOS с использованием llama.cpp. Инструмент позволял загружать картинку и получать CSV. В трех случаях результат был идеальным, что доказывает возможность выполнения такой мультимодальной задачи на скромном железе.
Проблема - не в провале, а в тихом, но катастрофическом искажении фактов. Модель не отказывалась от задачи и не выдавала бессмысленный результат. Она производила данные, которые выглядели статистически правдоподобными и были упакованы в корректный CSV. Именно эта "красивая ложь" опаснее всего, так как ошибку трудно обнаружить при автоматической обработке.
Этот случай показывает ключевую проблему современных моделей - склонность к конфабуляциям, или "галлюцинациям". Даже когда модель технически способна обработать входные данные (визуальную информацию), ее механизмы генерации могут подменить фактические числа на правдоподобные, но ложные.
Для отрасли это значит, что, несмотря на прогресс в локальном запуске моделей и мультимодальности, вопрос доверия к результатам остается острым. Автономное применение таких систем в задачах, требующих точности - финансовый анализ, научные исследования, бизнес-отчетность - без многоуровневого контроля пока невозможно.
Эксперимент - практическое предостережение. Интеграция ИИ-моделей, особенно в локальные workflow для автоматизации, должна включать этапы строгой валидации выходных данных. Слепая вера в "красивый" результат чревата серьезными ошибками.
Развитие направлений по повышению достоверности моделей, проверке источников и детекции галлюцинаций становится насущной потребностью для промышленного внедрения. Успешный локальный запуск сложных моделей открывает возможности, но требует повышенной зрелости в оценке рисков. Нужно строить надежные конвейеры обработки, где ИИ - мощный, но контролируемый инструмент, а не конечный арбитр истины.
