Рубрика

LLM

LLM

Сравнение подходов подключения LLM к сложной БД: победил неожиданный метод, но выявились системные проблемы

Исследование трёх способов интеграции больших языковых моделей с базой данных из 253 таблиц выявило победителя по точности, стоимости и скорости, которым оказался…

Алексей Нейролентов 25 Aug2 мин
LLM

Энтузиаст применил Claude и Gemini для анализа данных Московской биржи в исследовательском проекте

Разработчик в личном эксперименте использовал современные языковые модели для сбора и анализа исторических данных Московской биржи, подчеркнув исследовательский, а не коммерческий характер…

Алексей Нейролентов 25 Aug1 мин
LLM

Gemini: обзор нейросети Google

Gemini - нейросеть Google, которая живёт не только в отдельном приложении, но и внутри Gmail, Документов и поиска. Разбираемся, чем она полезна…

Алексей Нейролентов 24 Aug6 мин
LLM

Спекулятивное декодирование как спасение от лоботомии LLM: почему грубое квантование KV-кеша убивает интеллект

В гонке за скоростью локальных языковых моделей разработчики часто жертвуют качеством, применяя агрессивное квантование ключевых кешей. Эксперт на Habr критикует этот подход…

Алексей Нейролентов 24 Aug2 мин
LLM

Perplexity: поиск вместо чата, обзор

Perplexity ищет по актуальным источникам и отвечает со ссылками на них, а не просто болтает. Разбираем, чем это удобно, сколько стоит и…

Алексей Нейролентов 23 Aug5 мин
LLM

Экономия на LLM для агентов оборачивается ростом затрат: исследование предупреждает о ложной выгоде

Попытка сэкономить на выборе более дешёвых языковых моделей для создания ИИ-агентов часто приводит к обратному эффекту, увеличивая общие расходы на токены и…

Алексей Нейролентов 22 Aug1 мин
LLM

Деглобализация и рост культурной фрагментации: новый вызов для больших языковых моделей

Аналитики указывают на переход от глобализации к многополярному миру, что создает сложную реальность для ИИ, вынужденного работать в условиях культурного многообразия и…

Алексей Нейролентов 21 Aug2 мин
LLM

Как нейросети ищут ответы: исследование 686 тысяч подзапросов раскрывает внутреннюю кухню ИИ-поиска

Масштабный анализ показал, что крупные языковые модели не ищут ответ напрямую, а генерируют множество собственных формулировок запроса. Яндекс оказался лидером по ширине…

Алексей Нейролентов 21 Aug1 мин