Как думает искусственный интеллект?

Слово «думает» здесь метафора, и довольно неточная. Искусственный интеллект не рассуждает и не взвешивает варианты так, как это делает человек — у него нет намерений, сомнений или понимания смысла того, что он пишет.

То, что происходит внутри языковой модели, ближе к очень сложному предсказанию. Модель обучена на огромном объёме текстов и на каждом шаге вычисляет, какое слово статистически вероятнее всего должно идти следующим, учитывая весь предыдущий текст разговора. Она не хранит факты в виде базы данных и не проверяет их — она воспроизводит паттерны, которые видела при обучении, миллиарды раз подряд.

Из-за этого механизма модель звучит одинаково уверенно и когда отвечает правильно, и когда ошибается: сомнение в фактах она не «чувствует», а лишь иногда добавляет оговорки, если так делали авторы текстов, на которых её обучали.

При этом сама архитектура настолько сложна, что даже разработчики не всегда могут точно объяснить, почему модель выдала именно такой ответ, а не другой — в этом смысле её иногда называют «чёрным ящиком». Но это не признак скрытого мышления, а просто сложность миллиардов параметров, взаимодействующих между собой.

Практический вывод простой: относитесь к ответам ИИ как к правдоподобному предположению, а не к результату размышления. Проверяйте факты, особенно цифры и даты, отдельно, а не полагайтесь на уверенный тон ответа.