ELIZA эффект - ELIZA effect

В ELIZA эффект, в Информатика, это тенденция бессознательно предполагать, что поведение компьютера аналогично поведению человека; то есть, антропоморфизация.

Обзор

В своей особой форме эффект ELIZA относится только к «восприимчивости людей к тому, чтобы читать гораздо больше понимания, чем требуется в цепочках символов, особенно слов, соединенных вместе компьютерами».[1] Тривиальный пример особой формы эффекта Элизы, приведенный Дуглас Хофштадтер, включает банкомат который отображает слова "СПАСИБО" в конце транзакции. (Очень) случайный наблюдатель может подумать, что машина на самом деле выражает благодарность; однако аппарат печатает только заранее запрограммированную строку символов.[1]

В более общем смысле, эффект ELIZA описывает любую ситуацию.[2][3] где, основываясь исключительно на выходе системы, пользователи воспринимают компьютерные системы как обладающие «внутренними качествами и способностями, которых программное обеспечение, управляющее (выходными данными), не может достичь»[4] или «предположим, что [результаты] отражают большую причинную связь, чем они есть на самом деле».[5] Как в своей конкретной, так и в общей формах, эффект ELIZA примечателен тем, что возникает, даже когда пользователи системы знают о определенный характер продукции, производимой системой. С психологической точки зрения эффект ELIZA является результатом тонкого когнитивный диссонанс между осведомленностью пользователя об ограничениях программирования и его поведением по отношению к выходу программа.[6] Открытие эффекта ELIZA было важным событием в искусственный интеллект, демонстрируя принцип использования социальная инженерия вместо явного программирования для передачи Тест Тьюринга.[7]

Источник

Эффект назван в честь 1966 г. болтун ELIZA, разработанный специалистом по информатике Массачусетского технологического института Йозеф Вайценбаум. При выполнении Вайценбаума ВРАЧ сценарий, ELIZA пародировала Роджериан психотерапевт, в основном перефразируя "пациент"ответы в виде вопросов:

Человек: Ну, мой парень заставил меня приехать сюда.
ЭЛИЗА: Твой парень заставил тебя приехать сюда?
Человек: Он говорит, что я большую часть времени в депрессии.
ЭЛИЗА: Мне жаль слышать, что вы в депрессии.
Человек: Это правда. Я несчастлив.
ЭЛИЗА: Как вы думаете, приезд сюда поможет вам не быть несчастным?[8]

Хотя он разработан строго как механизм для поддержки «разговора на естественном языке» с компьютером,[9] ELIZA's ВРАЧ Сценарий оказался на удивление успешным в получении эмоциональных откликов от пользователей, которые в ходе взаимодействия с программой начали приписывать понимание и мотивацию результатам работы программы.[10] Как позже писал Вейценбаум, «я не осознавал ... что чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать сильное бредовое мышление у вполне нормальных людей».[11] Действительно, код ELIZA изначально не был разработан для того, чтобы вызывать такую ​​реакцию. При наблюдении исследователи обнаружили, что пользователи подсознательно полагают, что вопросы ELIZA подразумевают интерес и эмоциональную вовлеченность в обсуждаемые темы. даже когда они сознательно знали, что ELIZA не моделирует эмоции.[12]

Смотрите также

Примечания

  1. ^ а б Хофштадтер, Дуглас Р. (1996). "Предисловие 4 Неистребимый эффект Элизы и его опасности, эпилог". Гибкие концепции и творческие аналогии: компьютерные модели фундаментальных механизмов мышления. Основные книги. п. 157. ISBN  978-0-465-02475-9.
  2. ^ Фентон-Керр, Том (1999). "GAIA: экспериментальный педагогический агент для изучения мультимодального взаимодействия". Вычисление метафор, аналогий и агентов. Конспект лекций по информатике. 1562. Springer. п. 156. Дои:10.1007/3-540-48834-0_9. ISBN  978-3-540-65959-4. Хотя Хофштадтер делает упор здесь на текстовом режиме, «эффект Элизы» можно увидеть почти во всех режимах взаимодействия человека и компьютера.
  3. ^ Экбиа, Хамид Р. (2008). Искусственные сны: поиски небиологического интеллекта. Издательство Кембриджского университета. п.8. ISBN  978-0-521-87867-8.
  4. ^ Кинг, W. (1995). Антропоморфные агенты: друг, враг или глупость (Технический отчет). Вашингтонский университет. М-95-1.
  5. ^ Роуз, Уильям Б.; Бофф, Кеннет Р. (2005). Организационное моделирование. Wiley-IEEE. С. 308–309. ISBN  978-0-471-73943-2. Это особая проблема в цифровой среде, где «эффект Элизы», как его иногда называют, заставляет взаимодействующих лиц предполагать, что система более разумна, чем она есть, полагать, что события отражают большую причинность, чем они на самом деле.
  6. ^ Экбиа, Хамид Р. (2008). Искусственные сны: поиски небиологического интеллекта. Издательство Кембриджского университета. п.156. ISBN  978-0-521-87867-8. Но люди хотеть поверить, что программа «видит» футбольный матч на каком-то приемлемом уровне абстракции. Слова, которыми манипулирует (программа), настолько полны ассоциаций у читателей, что они НЕ МОГУТ быть лишены всех своих образов. Коллинз, конечно, знал, что его программа не имеет отношения к чему-либо, напоминающему двумерный мир плавно движущихся точек (не говоря уже об упрощенных человеческих телах), и, по-видимому, он думал, что его читатели тоже поймут это. Однако он не мог предположить, насколько силен эффект Элизы.
  7. ^ Траппл, Роберт; Петта, Паоло; Пайр, Сабина (2002). Эмоции у людей и артефакты. Кембридж, Массачусетс: MIT Press. п. 353. ISBN  978-0-262-20142-1. «Эффект Элизы» - склонность людей рассматривать программы, которые им отвечают, как если бы они обладали большим интеллектом, чем они есть на самом деле (Weizenbaum 1966), является одним из самых мощных инструментов, доступных для создателей виртуальных персонажей.
  8. ^ Гюзельдере, Гювен; Франки, Стефано. «диалоги с колоритными личностями раннего ИИ». В архиве из оригинала 2011-04-25. Получено 2007-07-30.
  9. ^ Вайценбаум, Джозеф (январь 1966 г.). "ELIZA - компьютерная программа для изучения естественного языка общения между человеком и машиной". Коммуникации ACM. Массачусетский Институт Технологий. 9: 36. Дои:10.1145/365153.365168. Получено 2008-06-17.
  10. ^ Сучман, Люси А. (1987). Планы и действия: проблема взаимодействия человека с машиной. Издательство Кембриджского университета. п. 24. ISBN  978-0-521-33739-7. Получено 2008-06-17.
  11. ^ Вайценбаум, Джозеф (1976). Компьютерная мощь и человеческий разум: от суждения к расчету. В. Х. Фриман. п.7.
  12. ^ Биллингс, Ли (16 июля 2007 г.). «Возникновение робоэтики». Семя. В архиве из оригинала от 28 февраля 2009 г. (Джозеф) Вайценбаум неожиданно обнаружил, что, даже если они полностью осознают, что разговаривают с простой компьютерной программой, люди, тем не менее, будут относиться к ней так, как если бы это было реальное, мыслящее существо, которое заботится о своих проблемах - явление, теперь известное как `` Элиза Эффект ».

Рекомендации

  • Хофштадтер, Дуглас. Предисловие 4: Неистребимый эффект Элизы и его опасности. (из Гибкие концепции и творческие аналогии: Компьютерные модели основных механизмов мышления, Basic Books: Нью-Йорк, 1995)
  • Теркл, С., Эффект Элизы: склонность воспринимать ответы компьютера как более разумные, чем они есть на самом деле (от Жизнь на экране - идентичность в эпоху Интернета, Феникс в мягкой обложке: Лондон, 1997)
  • ELIZA эффект, от Файл жаргона, версия 4.4.7. По состоянию на 8 октября 2006 г.