Что такое LLM?

LLM расшифровывается как large language model, большая языковая модель. Это разновидность нейросети, обученная специально на текстах и предсказывающая следующее слово, точнее фрагмент слова, токен, в последовательности. ChatGPT, YandexGPT, GigaChat, Claude — всё это LLM.

Слово «большая» здесь не для красоты: такие модели обучают на массивах текста в сотни миллиардов слов — книги, статьи, код, форумы — и настраивают десятки или сотни миллиардов внутренних параметров. Именно масштаб обучения даёт модели способность поддерживать связный диалог, писать код и отвечать на вопросы по самым разным темам без отдельного обучения под каждую задачу.

Соотношение с искусственным интеллектом такое: ИИ — широкий термин для любых систем, имитирующих интеллектуальное поведение, сюда входят и распознавание лиц, и рекомендательные системы, и игровые боты. LLM — лишь один класс внутри ИИ, специализированный на языке. Есть и другие классы: сети для изображений, для звука, для видео, и всё чаще их комбинируют в одной модели.

Важно понимать ограничение LLM: она предсказывает правдоподобное продолжение текста, а не проверяет факты. Отсюда и уверенные, но неверные ответы, так называемые галлюцинации, — модель не знает, что она чего-то не знает, а просто выдаёт наиболее вероятное по своим весам продолжение. Поэтому фактические утверждения LLM, даты, цифры, ссылки на источники, стоит перепроверять отдельно.