Новости ИИ

Как искусственный интеллект отвечает на вопросы?

Евгений, Томск 122 просм.

Каждый раз, когда получаю быстрый и складный ответ от нейросети, задумываюсь: она реально понимает мой вопрос, или просто где-то ищет готовый ответ в интернете, как поисковик? Хочется понять принцип, а не просто пользоваться вслепую.

Марина Соколова аналитик по внедрению ИИ

ответил

эксперт

Нейросеть не ищет готовый ответ в интернете в момент вашего вопроса — в базовом режиме она вообще не подключена к сети, а отвечает на основе того, что «запомнила» во время обучения на огромном массиве текстов. Разница с поисковиком принципиальная: поисковик находит существующую страницу, а модель заново собирает ответ слово за словом, как будто досочиняет наиболее вероятное продолжение вашего вопроса.

Механика простыми словами: во время обучения модель изучила миллиарды примеров текста и научилась предсказывать, какое слово или часть слова статистически чаще всего идёт следующим в похожем контексте. Когда вы задаёте вопрос, она не «понимает» его так, как человек, а подбирает наиболее вероятную последовательность слов, которая по структуре похожа на хороший ответ из обучающих данных.

Из этого вытекают два практических следствия:

  • у модели есть дата «отсечки» знаний — она не в курсе событий позже определённого момента обучения, если только сервис отдельно не подключил её к поиску в интернете (это делают некоторые режимы ChatGPT, Perplexity и подобные);
  • модель может уверенно и гладко сформулировать неправильный факт, потому что для неё «звучит правдоподобно» и «является правдой» — разные вещи, а критерия истинности внутри неё нет.

Поэтому к ответам на вопросы про конкретные цифры, даты и события стоит относиться как к черновику эксперта, который отвечает по памяти без возможности свериться с источником — в большинстве случаев он прав, но важные детали лучше перепроверить отдельно, особенно если ответ используется не для общего представления, а для конкретного решения.

Задать свой вопрос

Вопросы проходят модерацию. Ответ эксперта публикуется на сайте в течение пары дней.

Похожие вопросы

Все в теме