Как искусственный интеллект отвечает на вопросы?
Евгений, Томск 122 просм.
Каждый раз, когда получаю быстрый и складный ответ от нейросети, задумываюсь: она реально понимает мой вопрос, или просто где-то ищет готовый ответ в интернете, как поисковик? Хочется понять принцип, а не просто пользоваться вслепую.
Марина Соколова аналитик по внедрению ИИ
ответил
Нейросеть не ищет готовый ответ в интернете в момент вашего вопроса — в базовом режиме она вообще не подключена к сети, а отвечает на основе того, что «запомнила» во время обучения на огромном массиве текстов. Разница с поисковиком принципиальная: поисковик находит существующую страницу, а модель заново собирает ответ слово за словом, как будто досочиняет наиболее вероятное продолжение вашего вопроса.
Механика простыми словами: во время обучения модель изучила миллиарды примеров текста и научилась предсказывать, какое слово или часть слова статистически чаще всего идёт следующим в похожем контексте. Когда вы задаёте вопрос, она не «понимает» его так, как человек, а подбирает наиболее вероятную последовательность слов, которая по структуре похожа на хороший ответ из обучающих данных.
Из этого вытекают два практических следствия:
- у модели есть дата «отсечки» знаний — она не в курсе событий позже определённого момента обучения, если только сервис отдельно не подключил её к поиску в интернете (это делают некоторые режимы ChatGPT, Perplexity и подобные);
- модель может уверенно и гладко сформулировать неправильный факт, потому что для неё «звучит правдоподобно» и «является правдой» — разные вещи, а критерия истинности внутри неё нет.
Поэтому к ответам на вопросы про конкретные цифры, даты и события стоит относиться как к черновику эксперта, который отвечает по памяти без возможности свериться с источником — в большинстве случаев он прав, но важные детали лучше перепроверить отдельно, особенно если ответ используется не для общего представления, а для конкретного решения.
Задать свой вопрос
Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.
Вопрос отправлен на модерацию. После проверки он появится на сайте вместе с ответом эксперта.