ELIZA 1960-х: как иллюзия интеллекта рождается в голове пользователя
Разбор знаменитой программы-терапевта ELIZA показал, что её техническое устройство было сложнее, чем принято считать, но главный феномен - готовность человека додумывать смысл за машиной.
На Habr разобрали архитектуру ELIZA - одной из первых диалоговых программ, созданной Джозефом Вейценбаумом в 1960-х. ELIZA имитировала психотерапевта и считается простым ботом на шаблонах. Но анализ показал, что её устройство было сложнее базовых регулярных выражений.
Программа на SNOBOL занимала 929 строк кода, включала 3 таблицы (ключевых слов, разборов, рангов) и 32 правила. Для своего времени это была нетривиальная задача.
Однако главный вывод - не технический, а психологический. Успех ELIZA был не в её "начинке", а в готовности людей вступать с ней в глубокий диалог. Пользователи проецировали на её уклончивые реплики собственные мысли и эмоции, становясь соавторами иллюзии интеллекта. Этот "эффект ELIZA" заложил основы понимания социального принятия ИИ.
Сегодняшние языковые модели на порядки сложнее. Они генерируют связные и релевантные тексты. Но базовый психологический механизм тот же: пользователь антропоморфизирует систему, приписывает ей намерения и личность на основе текстовых ответов. Иллюзия разумности всё ещё создаётся в сознании человека, который интерпретирует ответы и достраивает контекст.
Для разработчиков это напоминание об ответственном проектировании интерфейсов. Создатели систем должны учитывать силу эффекта ELIZA: пользователи склонны переоценивать возможности машины, что ведёт к неверным выводам, излишнему доверию или эмоциональной зависимости. История ELIZA показывает - проблема не в том, чтобы сделать машину "понимающей", а в том, чтобы чётко обозначать её ограничения и управлять ожиданиями.
