OpenAI и Broadcom анонсировали первый пользовательский чип Jalapeño для вывода LLM
Компания OpenAI представила свой первый специализированный процессор для вывода (inference) больших языковых моделей, разработанный совместно с Broadcom. Чип под названием Jalapeño предназначен для повышения эффективности и снижения затрат на ключевой этап работы ИИ и должен быть развёрнут в масштабе к концу 2026 года.
OpenAI представила свой первый пользовательский чип для вывода больших языковых моделей. Процессор Jalapeño разработан совместно с Broadcom. Его задача — эффективно обрабатывать запросы к моделям типа GPT с минимальными затратами. Чип создан с учетом специфики систем вывода OpenAI и планируется к массовому внедрению к концу 2026 года.
Создание собственного ASIC — часть стратегии OpenAI по оптимизации затрат. До сих пор компания сильно зависела от GPU NVIDIA. Эти процессоры универсальны, но не всегда оптимальны для вывода текста. Jalapeño, специализирующийся на этой задаче, может обеспечить лучшую энергоэффективность и снизить стоимость вычислений на запрос. Партнерство с Broadcom позволяет OpenAI сосредоточиться на архитектуре, а не на производстве.
Этот шаг отражает тренд на вертикальную интеграцию в ИИ-индустрии. Крупные разработчики моделей диверсифицируют цепочки поставок вычислений, снижая зависимость от единственного поставщика. Ранее свои чипы создали Google, Amazon и Microsoft. Теперь к ним присоединилась OpenAI. Фокус на выводе, а не на обучении, показывает, где сосредоточены основные операционные расходы публичных ИИ-сервисов.
В долгосрочной перспективе пользователи могут увидеть снижение стоимости доступа к моделям и повышение их доступности. Если собственные чипы сократят издержки, это может привести к более демократичным ценам на API. Полный контроль над железом позволит OpenAI тонко настраивать производительность, что может ускорить генерацию ответов и улучшить стабильность сервиса.
Однако до практической реализации пройдет время — развертывание намечено на конец 2026 года. До этого компания продолжит использовать традиционные GPU. Успех Jalapeño покажет, насколько OpenAI и другие лидеры смогут уйти от текущей парадигмы и изменить фундамент генеративного ИИ.
