Искусственная глупость - Artificial stupidity

Искусственная глупость обычно используется как юмористическая противоположность термину искусственный интеллект (AI), часто как унизительный ссылка на неспособность технологии искусственного интеллекта адекватно выполнять свои задачи.[1] Однако в области Информатика, искусственная глупость также используется для обозначения техники "тупой " компьютерные программы чтобы сознательно вносить ошибки в свои ответы.

История

Алан Тьюринг в его статье 1952 г. Вычислительная техника и интеллект, предложил тест на интеллект, который с тех пор стал известен как Тест Тьюринга.[2] Хотя существует ряд различных версий, исходный тест, описанный Тьюрингом как основанный на "имитационная игра ", вовлекал" машинный интеллект "(компьютер, на котором запущена программа ИИ), участницу-женщину и следователя. И ИИ, и участница-женщина должны были утверждать, что они были женщинами, а задача следователя заключалась в том, чтобы выяснить, что именно участница женского пола, а не путем изучения ответов участника на набранные вопросы.[2] Хотя неясно, имел ли Тьюринг в виду, что следователь должен был знать, что один из участников был компьютером, при обсуждении некоторых возможных возражений против его аргумента Тьюринг высказал опасения, что «машины не могут делать ошибок».[2]

Утверждается, что следователь мог отличить машину от человека, просто задав им ряд арифметических задач. Машина будет разоблачена из-за ее смертельной точности.

— Тьюринг, 1950, стр. 448

Как тогда заметил Тьюринг, ответ на это простой: машина должна нет попытка "дать верно ответы на арифметические задачи ».[2] Вместо этого в ответы компьютера должны быть внесены преднамеренные ошибки.

Приложения

В информатике есть по крайней мере два основных приложения искусственной глупости: создание преднамеренных ошибок в чат-боты попытка пройти тест Тьюринга или иным образом заставить участника поверить в то, что он человек; и преднамеренное ограничение компьютерных ИИ в видеоигры чтобы контролировать сложность игры.

Чат-боты

Первый Премия Лебнера Конкурс проводился в 1991 году. Экономист, победившая запись содержала преднамеренные ошибки, описанные Экономист как «искусственную глупость» - заставить судей поверить в то, что это был человек.[3] Эта техника осталась частью последующих розыгрышей призов Лебнера и отражает проблему, впервые поднятую Тьюрингом.

Игровой дизайн

Ларс Лиден утверждает, что хороший игровой дизайн предполагает нахождение баланса между «интеллектом» компьютера и способностью игрока побеждать. Путем тонкой настройки уровня «искусственной глупости» можно создавать игры, управляемые компьютером, которые позволяют игроку побеждать, но делают это «не выглядя неразумным».[4]

Алгоритмы

Есть много способов намеренно ввести неверное принятие решений в алгоритмы поиска. Возьми минимакс алгоритм например. В минимакс Алгоритм - это состязательный алгоритм поиска, который широко используется в играх, в которых требуется, чтобы более одного игрока соревновались друг с другом. Основная цель этого алгоритма - выбрать ход, который максимизирует ваши шансы на победу, и избегать ходов, которые максимизируют шансы на победу вашего оппонента. Такой алгоритм был бы чрезвычайно полезен для компьютера, поскольку компьютеры могут искать на тысячи ходов вперед. Чтобы "упростить" этот алгоритм и учесть разные уровни сложности, эвристический функции должны быть изменены. Обычно в выигрышных состояниях даются огромные очки. Настройка эвристический за счет уменьшения таких больших выплат снизится вероятность выбора алгоритмом состояния выигрыша.

Создание эвристический учесть глупость сложнее, чем можно подумать. Если эвристический позволяет сделать лучший ход, компьютерный противник будет слишком всеведущ, что сделает игру неприятной и неприятной. Но если эвристический плохая, игра тоже может не радовать. Следовательно, баланс хороших и плохих ходов в состязательной игре зависит от хорошо реализованной эвристический функция.

Другие приложения

Согласно ее определению, достаточно разработанная программа искусственной глупости способна рассмотреть все худшие случаи в данной ситуации. Это позволило бы компьютерным программистам и аналитикам немедленно находить недостатки, сводя к минимуму ошибки в коде.

Однако в основном предполагается, что он будет использоваться на этапах разработки и отладки компьютерного программного обеспечения.

Аргументы об искусственной глупости

The Economist заявляет, что, если мы хотим достичь предсказания Алана Тьюринга, «это будет ужасный кризис». Это бессмысленная попытка создать машину, имитирующую поведение и уровень интеллекта человека. Цель изобретения компьютера - помочь людям в выполнении задач, которые были бы сочтены слишком утомительными или трудоемкими для выполнения вручную.[3]

Как упоминалось в отрывке о конкурсе на призы Лебнизера, компьютер смог обмануть судей, допустив умышленные опечатки. The Economist утверждает, что никому не нужен компьютер, который не может правильно печатать.[3]

Дарем Т., автор журнала «Об искусственной глупости», кажется, считает, что компьютеры обладают интеллектом от природы. Компьютер кажется неразумным только из-за плохого программирования. Дарем утверждает обратное в том, во что люди обычно верят, поскольку «не существует такой вещи, как ИИ, есть только искусственная глупость, которая случается, когда компьютерам не дают необходимых знаний».[5]

Этот термин появился в связи с другими предметными областями, в основном связанными с компьютерными технологиями, но также и с человеческим поведением. Сэди Плант предполагает, что Ада Лавлейс, пророчица вычислительной техники девятнадцатого века, использовала нечто вроде искусственной глупости, чтобы критиковать тех, кто недооценил будущий потенциал вычислительных машин.[6][7] Хито Штайерл применяет этот термин со ссылкой на глупость непризнания силы и опасности алгоритмов из-за их невидимости.[8] С другой стороны, искусственная глупость, ибо Авиталь Роннель, описывает шокирующее злоупотребление измерением интеллекта во время эпоха евгеники в США: люди были искусственно признаны неразумными.[9][10] Художник и исследователь Мишель О'Коннелл использовал термин искусственная глупость для его докторской диссертации[11] применительно как к вопросам человеческого интеллекта, так и технологического интеллекта. Искусственная глупость может относиться к обычно сомнительной способности человека «вести себя глупо» илитупой вниз "но он предполагает, что это также может быть средством творческого поиска. Он цитирует Джон Робертс ' внимание к современным художникам и их использование «глупого мышления» как «отказ от доминирующих дискурсов».[12][13] Предполагается, что одна из причин устойчивости "система искусства "- его хитрая обратная претенциозность; само по себе искусство кажется глупым с точки зрения утилитарных интересов, коммерции, развлечений, академических кругов и политических интересов. Помимо обсуждения искусства и творчества, О'Коннелл выступает за переосмысление значения человеческого интеллект против, часто ощутимой глупости технологической сферы, включая ИИ (понимается в самом широком смысле).

Искусственная глупость как ограничение искусственного интеллекта

Искусственная глупость - это не только преднамеренное внесение ошибок в компьютер, но также ее можно рассматривать как ограничение компьютерного искусственного интеллекта. Доктор Джей Либовиц утверждает, что «если разум и глупость естественным образом существуют и если ИИ существует, то есть ли что-то, что можно было бы назвать« искусственной глупостью »?»[14]

Либовиц указал на следующие ограничения:

  • Способность обладать здравым смыслом и использовать его
  • Разработка систем глубокого мышления
  • Возможность варьировать возможности объяснения экспертной системы
  • Возможность получить экспертные системы для обучения
  • Возможность иметь распределенные экспертные системы
  • Умение легко приобретать и обновлять знания
    — Либовиц, 1989, стр. 109

Рекомендации

  1. ^ О’Коннелл, М., 2017. Искусство как «искусственная глупость». [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно на: <http://sro.sussex.ac.uk/id/eprint/67604 > [Доступ 3 августа 2020 г.]. п. 44
  2. ^ а б c d Тьюринг, Алан (Октябрь 1950 г.), «Вычислительная техника и интеллект», Разум, LIX (236): 433–460, Дои:10.1093 / разум / LIX.236.433, ISSN  0026-4423
  3. ^ а б c «Искусственная глупость», Экономист, 324 (7770): 14, 1992-09-01, первое мероприятие прошло в 1991 г.
  4. ^ Лиден, Ларс (2004), С. Рабин (редактор), «Искусственная глупость: искусство совершать преднамеренные ошибки», Мудрость программирования игр с ИИ 2, Charles River Media, Inc., стр. 41–48.
  5. ^ Дарем, Т. (21 марта 1985 г.), «Об искусственной глупости», Вычислительная техника, Журнал стр: 4-5
  6. ^ Плант, С., 1998. Нули и единицы: цифровые женщины и новая технокультура. Лондон: Четвертое сословие. п. 89
  7. ^ О’Коннелл, М., 2017. Искусство как «искусственная глупость». [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно на: <http://sro.sussex.ac.uk/id/eprint/67604 > [Доступ 8 августа 2017 г.]. п. 170
  8. ^ Steyerl, Hito; Кроуфорд, Кейт (23 января 2017 г.). «Потоки данных». Новый запрос. Получено 8 августа 2017.
  9. ^ Ронелл, А., 2002. Глупость. Урбана, Иллинойс: Урбана: Издательство Иллинойского университета. стр. 59-60
  10. ^ О’Коннелл, М., 2017. Искусство как «искусственная глупость». [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно на: <http://sro.sussex.ac.uk/id/eprint/67604 > [Доступ 8 августа 2017 г.]. п. 168
  11. ^ О’Коннелл, М., 2017. Искусство как «искусственная глупость». [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно на: <http://sro.sussex.ac.uk/id/eprint/67604 > [Доступ 8 августа 2017 г.].
  12. ^ Робертс, Дж., 1996b. Без ума от этого! пользователя John Roberts. [онлайн] Журнал Everything. Доступно на: <http://bak.spc.org/everything/e/hard/text/roberts1.html > [Доступ 14 июня 2016 г.].
  13. ^ О’Коннелл, М., 2017. Искусство как «искусственная глупость». [онлайн] Фалмер, Восточный Суссекс: Университет Сассекса. Доступно на: <http://sro.sussex.ac.uk/id/eprint/67604 > [Доступ 8 августа 2017 г.]. п. 174
  14. ^ Либовиц, Джей (июль 1989 г.). «Если есть искусственный интеллект, есть ли такая вещь, как искусственная глупость?». Информационный бюллетень SIGART. 109.

дальнейшее чтение

  • http://www.c2.com/cgi/wiki?ArtificialStupidity Описывает искусственную глупость в юмористическом контексте.
  • TEDx: «Тест Тьюринга, искусственный интеллект и человеческая глупость» [1]