Рубрика

LLM

LLM

К 2026 году оптимизация инференса LLM станет ключом к экономии тысяч долларов

Стоимость выполнения запросов к большим языковым моделям становится основной статьёй расходов, и правильная настройка стека может радикально снизить затраты, сохраняя качество ответов.

Алексей Нейролентов 22 Июн2 мин
LLM

LLM-судья для hh.ru: почему оценка ИИ-моделей оказалась сложнее, чем кажется

Опыт hh.ru по созданию системы автоматической оценки качества нейроразбора резюме показал, что построение надежного LLM-судьи - это самостоятельная и ресурсоемкая инженерная задача,…

Алексей Нейролентов 22 Июн2 мин
LLM

Яндекс запустил персонажей в Алисе, а на Хабре показали, как создать подобный чат с нуля

Запуск более 30 ИИ-персонажей в Алисе от Яндекса следует мировому тренду, в то время как техническая статья демонстрирует, как построить аналогичную систему…

Алексей Нейролентов 20 Июн2 мин
LLM

Subquadratic заявляет о математическом прорыве в механизме внимания трансформеров

Стартап Subquadratic вышел из скрытого режима с громким заявлением о решении ключевой математической проблемы, ограничивающей производительность больших языковых моделей.

Алексей Нейролентов 19 Июн1 мин
LLM

ИИ-генерация кода не решает проблем верификации: эксперимент с AutoProof показал важность строгого процесса

Несмотря на способность ИИ генерировать код по описанию, ключевые проблемы разработки ПО, особенно верификация корректности, остаются. Эксперимент по созданию формально верифицированной системы…

Алексей Нейролентов 15 Июн2 мин
LLM

SymFSM: от генерации текста к вычислимому мышлению — новая архитектура для ИИ

Исследователи предлагают концепцию SymFSM как альтернативу вероятностным языковым моделям, стремясь заменить текстовую генерацию на вычислимое мышление и изменить архитектурные основы искусственного интеллекта.

Алексей Нейролентов 14 Июн2 мин
LLM

ИИ-агенты прожили 10 лет в симуляции жизни Agentopia, чтобы создать данные для обучения

Исследователи создали виртуальный мир, где сотни ИИ-агентов на базе LLM самостоятельно жили в течение десяти лет, генерируя синтетический опыт для обучения моделей.

Алексей Нейролентов 14 Июн2 мин