В теории игр дилемма заключённого (ДВ) — игра с ненулевой суммой, в которой игроки стремятся получить выгоду, сотрудничая друг с другом или изменяя. Как во всей теории игр, предполагается, что игрок («узник») максимизирует свой собственный выигрыш, не заботясь о выгоде других.

В дилемме заключенного измена строго доминирует над сотрудничеством, поэтому единственный возможный равновесие — предательство обоих участников. Проще говоря, не важно, что сделает другой игрок, каждый выиграет больше, если предаст. Поскольку в любой ситуации предать выгоднее, чем сотрудничать, все рациональные игроки выберут предательство.

Обращаясь отдельно рационально, вместе участники приходят к нерациональному решение: если оба предадут, они получат в сумме меньше выигрыш, чем если бы сотрудничали (единственная равновесие в этой игре не ведет к Парето-оптимального решения). В этом и заключается дилемма.

В дилемме заключенного, повторяющееся игра происходит периодически, и каждый игрок может «наказать» другого за несотрудничество раньше. В такой игре сотрудничество может стать равновесием, а стимул предать может перевешиваться угрозой наказания (с ростом числа итераций равновесие Нэша стремится Парето-оптимума).

Классическая дилемма заключённого

Классическая дилемма заключенного такова:

Двое подозреваемых, А и Б, арестованы. У полиции нет достаточных доказательств для обвинения, и изолировав их друг от друга, они предлагают им одну и ту же операцию: если один свидетельствует против другого, а тот хранит молчание, то первый освобождается, а второй получает 10 лет тюрьмы. Если оба молчат, в полиции мало доказательств, и они приговариваются к 6 месяцев. Если оба свидетельствуют против друг друга, они получают по 2 года. Каждый заключенный выбирает, молчать или свидетельствовать против другого. Однако ни один из них не знает точно, что сделает другой. Что произойдет?

Игру можно представить в виде следующей таблицы:

Узник Б хранит молчание Узник Б дает показания
Узник А хранит молчание Оба получают полгода. А получает 10 лет Б освобождается
Узник А дает показания А освобождается Б получает 10 лет тюрьмы Оба получают 2 года тюрьмы

Дилемма появляется, если предположить, что оба заботятся только о минимизации собственного срока заключения.

Представим рассуждения одного из заключенных. Если партнер молчит, то лучше его изменить и выйти на свободу (иначе — полгода тюрьмы). Если партнер говорит, то лучше тоже свидетельствовать против него, чтобы получить 2 года (иначе — 10 лет). Стратегия «свидетельствовать» строго доминирует над стратегией «молчать». Аналогично другой заключенный приходит к тому же выводу.

С точки зрения группы (этих двух заключенных) лучше сотрудничать друг с другом, хранить молчание и получить по полгода, поскольку это уменьшит суммарный срок заключения. Любое другое решение будет менее выгодным. Это очень наглядно демонстрирует, что в игре с ненулевой суммой Парето-оптимум может быть противоположным равновесии Нэша.

Обобщенная форма

Можно раскрыть скелет игры далее, абстрагировавшись от подтекста заключенных. Обобщенная форма игры часто используется в экспериментальной экономике. Вот правила, которые дают типичную реализацию игры.

В игре — два игрока и банкир. Каждый игрок держит 2 карты: на одной написано «сотрудничать», на другой — «предать» (это стандартная терминология игры). Каждый игрок кладет одну карту перед банкиром надписью вниз (то есть никто не знает чужого решения, хотя знание чужого решения не влияет на анализ доминирования). Банкир открывает карты и выдает выигрыш.

Если оба выбрали «сотрудничать», оба получают C. Если один выбрал «предать», другой «сотрудничать» — первый получает D, второй с. Если оба выбрали «предать» — оба получают d.

Значения переменных C, D, с, d могут быть любого знака (в примере выше все меньше или равны 0). Обязательно должна соблюдаться неравенство D> C> d> c, чтобы игра была ДВ.

Каноническая матрица выигрышей ДВ
Сотрудничать Изменить
Сотрудничать C, C c, D
Изменить D, c d, d

Если игра повторяется, то есть играет более 1 раза подряд, общий выигрыш от сотрудничества должен быть большим суммарного выигрыша в ситуации, когда один изменяет, а другой — нет (объяснения — ниже):

2C> D + c

Эти правила были установлены Дугласом Гофштадтером и образуют канонический описание типичной дилеммы заключенного.

Похожая, но другая игра

Гофштадтер предположил, что люди проще понимают задачи, как задача ДВ, если она представлена ​​в виде отдельной игры или процесса торговли. Один из примеров — «обмен закрытыми сумками»: Два человека встречаются и обмениваются закрытыми сумками, понимая, что одна из них содержит деньги, другая — товар. Каждый игрок может уважать операцию и положить в сумку то, о чем договорились, или обмануть партнера, дав пустую сумку.

В этой игре обман всегда будет наилучшим решением, означая также, что рациональные агенты никогда не играть в нее, и рынок обмена закрытыми сумками будет отсутствовать.

В вариации, популярной у программистов и хакеров каждый агент этой игры помнит предыдущие результаты (или имеет доступ к общественному мнению, «коллективной памяти»), и множество обменов повторяются длительное время.

Как указано выше, без памяти эта игра имеет мало смысла, она мало что объясняет в поведении систем и групп людей, кроме описания взаимодействий, не проходить. Сложностей вводится больше, чем можно ожидать. Программист (особенно специализирующийся на функциональном программировании) сразу поймет значимость времени и состояния (памяти). Но и без написания программ можно предположить, как поведут себя агенты. Насколько велика память каждого агента? Какая стратегия каждого из них? Как агенты с различными стратегиями распределены и определяет, кто с кем взаимодействует и в каком порядке?

Сложность создания какой-то многозначной модели может смущать, но она поднимает некоторые интересные и ценные технические и философские вопросы.

Выполнена некоторая работа по моделированию этого. Различные программисты и математики утверждают, что стратегия «око за око» — наилучшая общая стратегия, однако не было сделано серьезных академических усилий, чтобы классифицировать различные типы и распределения агентов, обучающихся с различными стратегиями.

О потенциале этой задачи свидетельствует тот факт, что в этой дискуссии еще не упоминались возможность формировать коалиции и рядиться коллективно. А как насчет агентов, которые по плату организовывали переговоры? Или агентов, которые накапливали информацию о самых операции?

Примеры из реальной жизни

Примеры с заключенными, карточной игрой и обменом закрытыми сумками могут казаться надуманными, но на самом деле есть множество примеров взаимодействия людей и животных, имеющих такую ​​же матрицу выигрышей. Поэтому ДВ представляет интерес социальным наукам, таким как экономика, политология и социология, а также разделам биологии — этологии и эволюционной биологии. Многие природные процессы были обобщены в модели, в которых живые существа участвуют в бесконечных играх типа дилеммы заключенного. Такая широкая применимость ДВ придает этой игре значительную важность.

В политологии, например, сценарий ДВ часто используется для иллюстрации проблемы двух стран, вовлеченных в гонку вооружений. Обе заявлять, что у них есть две возможности: либо увеличить расходы на военные нужды, или сокращать вооружения. Ни одна из сторон не может быть уверена, что другая соблюдать договоренность, следовательно обе стремиться к военной экспансии. Это можно считать теоретическим объяснением политики запугивания.

В автоспорте яркий пример дилеммы заключенного — Формула-1, где последние 20 лет происходит гонка бюджетов команд, через какое количество машин участников сократилось с 36 в 1990 до 20 в 2003.

Случай дилеммы узника может быть найден в бизнесе. Две конкурирующие фирмы должны определиться, сколько средств тратить на рекламу. Эффективность рекламы и прибыль каждой фирмы уменьшается с ростом расходов на рекламу у конкурента. Обе фирмы принимают решение увеличить расходы на рекламу, при этом их доли рынка и, возможно, объемы продаж остаются неизменными, а прибыль сокращается. Предел гонки рекламных бюджетов — прибыль, впрочем, они могут пытаться некоторое время работать и в убыток. Фирмы могут пойти на соглашение о сокращении расходов на рекламу, но всегда есть стимул его нарушить.

В олигополистических рынках ценовая политика — это повторение ДВ. Конечно олигополисты сотрудничают друг с другом и не доводят ситуацию до ценовой войны.

Уильям Паундстоун в книге о проблеме узника описывает ситуацию в Новой Зеландии, где почтовые ящики оставляют открытыми. Газету можно взять, не заплатив за нее, но мало кто так делает, потому что большинство осознает вред, который был бы, если бы все воровали газеты. Поскольку ДВ в чистом виде одновременно для всех игроков (никто не может повлиять на решение других), эта распространенная линия рассуждений называется «магическое мышление».

Теоретический вывод ДВ — одна из причин, почему во многих странах сделка о признании вины запрещена. Часто сценарий ДВ повторяется очень точно: в интересах обеих подозреваемых признаться и свидетельствовать против другого подозреваемого, даже если оба невиновны. Возможно, наихудший случай — когда только один виноват, в этом случае виноват вряд ли признается в чем, а виноват пойдет на это и даст показания против невинного.

Многие проблемам в реальной жизни включают множество игроков. Хотя и метафорическая «трагедии общин» Ардена можно рассматривать как обобщение ДВ для множества игроков. Каждый житель общины выбирает — или пасти скот на общем пастбище и получить выгоду, истощая его ресурсы, или ограничить свой доход. Коллективный результат от общего (или частого) максимального использования пастбища — низкий доход (что ведет к разрушению общины). Однако такая игра не является формальной, так как может быть разбита на последовательность классических игр с 2 участниками.

Дилемма узника, повторяющееся

В книге «Эволюция кооперации» (1984) Роберт Акселрод исследовал расширение сценария ДВ, которое он назвал дилемма узника, повторяется (НДС). В ней участники делают опять время от времени и помнят предыдущие результаты. Акселрод пригласил академических коллег со всего мира, чтобы разработать компьютерные стратегии, чтобы соревноваться в чемпионате по НДС. Программы, вошедшие в него различались по алгоритмической сложности, начальной враждебностью, способностью к прощению и так далее.

Акселрод открыл, что если игра повторялась долго среди множества игроков, каждый с различными стратегиями, «жадные» стратегии давали плохие результаты в долгосрочном периоде, тогда как более «альтруистические» стратегии работали лучше, с точки зрения собственного интереса. Он использовал это, чтобы показать возможный механизм эволюции альтруистического поведения из механизмов, которые сначала чисто эгоистические, через естественный отбор.

Лучшей детерминистской стратегией оказалась «Око за око» (англ. Tit for Tat), которую разработал и выставил на чемпионат Анатолий Рапопорт. Она была простой из всех программ, участвовавших состояла всего из 4 строк кода на языке Бейсик. Стратегия проста: сотрудничать на первой итерации игры, после этого игрок делает то же самое, что делал оппонент на предыдущем шаге. Немного лучше работает стратегия «Око за око с прощением». Когда оппонент изменяет, на следующем шаге игрок иногда в любом случае сотрудничает с небольшой вероятностью (1-5%). Это позволяет случайным образом выйти из цикла взаимного предательства. Она лучше всего работает, когда в игру вводится непонимание — когда решение одного игрока сообщается другому с ошибкой.

Анализируя стратегии, набравшие лучшие результаты, Акселрод назвал несколько условий, необходимых, чтобы стратегия получила высокий результат.

Хорошая

Важнейшее условие — стратегия должна быть «доброй», то есть не предавать, пока этого не сделает оппонент. Почти все стратегии-лидеры были хорошими. Поэтому чисто эгоистическая стратегия с чисто эгоистических причинам не будет первой «бить» соперника.

Мстительная

Однако успешная стратегия не должна быть слепым оптимистом. Она должна всегда мстить. Пример немстивои стратегии — всегда сотрудничать. Это очень плохой выбор, поскольку «подлые» стратегии воспользуются этим.

Прощая

Другая важная качество успешных стратегий — уметь прощать. Отомстив, они должны вернуться к сотрудничеству, если оппонент не продолжает предавать. Это предотвращает бесконечной мести друг другу и максимизирует выигрыш.

НЕ завистливая

Последнее качество — не являться завистливым, то есть не пытаться набрать больше очков, чем оппонент (что в принципе невозможно для «хорошей» стратегии, то есть хорошая стратегия никогда не может набрать больше очков, чем оппонент).

Итак, Акселрод пришел утопично звучащему выводу, что эгоистичные индивиды во имя их же эгоистического блага будут стремиться быть добрыми и прощая и не завистливыми.

Рассмотрим снова модель гонки вооружений. Был дан вывод, что единственная рациональная стратегия — вооружаться, даже если обе страны хотели бы тратить ВВП на масло, а не орудия. Интересно, что попытки продемонстрировать, что вывод ДВ работает на практике (делая анализ «высоких» и «низких» военных расходов между периодами, на основе предположений НДС), часто показывают, что такого поведения не происходит. Например, греческие и турецкие военные расходы меняются не в соответствии со стратегией «око за око», а скорее следуют внутренней политике). Это может быть примером рационального поведения, отличается от одноразовых и многоходовых игр.

Если в одноходовой игре в любом случае доминирует стратегия предать, то в многоходовой оптимальная стратегия зависит от поведения других участников. Например, если среди населения все друг друга обманывают, а один ведет себя по принципу «око за око», он оказывается в небольшом проигрыше из-за потери на первом ходе. В такой популяции оптимальная стратегия — всегда предавать. Если же число исповедуют принцип «око за око» больше, то результат уже зависит от их доли в обществе.

Определить оптимальную стратегию можно двумя путями:

  • Равновесие Байеса-Нэша: если определено статистическое распределение поведения (например, 33% «око за око», 33% всегда обманывают и 33% всегда сотрудничают), что встречается, то стратегию можно вычислить математически. Этим подробно занимается теория эволюционной динамики.
  • По методу Монте-Карло делались симуляции популяций, где индивиды с низкими результатами вымирали, а с высокими воспроизводились (использовался генетический алгоритм поиска оптимальной стратегии). Структура поведения в конечной популяции зависит от структуры в начале.

Хотя стратегия «око за око» считалась удачной простой стратегией, команда Университета Саутгемптона из Англии (под руководством профессора Николаса Дженнингса) представила новую стратегию на 20-ю годовщину Чемпионата по НДС. Эта стратегия оказалась успешной, чем «око за око». Она основывалась на взаимодействии между программами, чтобы получить максимальный счет для одной из них. Университет выставил на чемпионат 60 программ, которые распознавали друг друга по ряду действий на первых 5-10 ходах. Распознав другую, одна программа всегда сотрудничала, а другая предавала, что давало максимум очков предателю. Если программа понимала, что оппонент — не Саутгемптонского, она дальше все время изменяла ему, чтобы минимизировать результат соперника. В результате эта стратегия заняла первые три места в соревновании, как и несколько мест подряд ниже.

Хотя эта стратегия оказалась эффективной в соревновании, это было достигнуто за счет того, что в этом конкретном соревновании команда могла участвовать несколькими агентами. Если игрок может контролировать только одного агента, «око за око» оказывается лучшим. Она также придерживается правила запрета на коммуникации между игроками. То, что Саутгемптонского программы исполняли «ритуальный танец» в первые 10 ходов, чтобы узнать друг друга, только подтверждает, насколько важна коммуникация в сдвиге баланса игры.

Если НДС играет ровно N раз (какая-то известная константа N), есть еще один интересный факт. Равновесие Нэша — всегда предавать. Доводим по индукции: если оба сотрудничают, на последнем ходе выгодно предать, тогда у соперника не будет возможности отомстить. Поэтому оба предадут друг друга на последнем ходу. Раз соперник предаст на последнем ходе в любом случае, любой игрок захочет предать на предпоследнем ходу, и так далее. Чтобы сотрудничество оставалась выгодной, необходимо, чтобы будущее было неопределенным для обоих игроков. Одно из решений — делать число N случайным и подсчитывать результаты по среднему выигрышем за ход.

Дилемма заключенного — фундаментальная для некоторых теорий о взаимодействии людей и доверие. С предположение модели ДВ, что транзакция между двумя людьми требует доверия, доверительная поведение в популяциях может быть смоделирована с помощью многие гравцевои версии игры, повторяется. Это годами вдохновляло многих ученых. В 1975 году Грофман и Пул оценивали число работ, посвященных этой теме, их около 2000.

Психология обучения и теория игр

Если игроки могут оценивать возможность предательства со стороны других игроков, на их поведение влияет опыт. Простая статистика показывает, что неопытные игроки обычно ведут себя чрезмерно хорошо или плохо. Если они все время будут действовать так, то проигрывают из-за своей излишней агрессивности или лишнюю доброту. С получением большого опыта они реально оценивают вероятность измены и добиваются лучших результатов. Ранние розыгрыше сильно влияют на неопытных игроков, чем более поздние на опытных. Это пример, почему ранний опыт имеет такое влияние на молодых, и почему они особенно уязвимы к немотивированной агрессии, иногда сами становясь такими.

Можно уменьшить вероятность измены в популяции посредством сотрудничества в ранних играх, позволив укрепить доверие. Итак самопожертвование может в некоторых ситуациях усилить моральный дух группы. Если группа маленькая, на позитивное поведение с большей вероятностью ответят взаимностью, что поощрит индивидов на дальнейшее сотрудничество. Это связано с еще одной дилеммой, хорошее отношение без причины — это потерянные, которое может ухудшить моральные качества.

Эти процессы — главное поле интереса взаимного альтруизма, группового отбора, семейного отбора и этики.

Восточная философия

В боевых искусствах изучается даосское пословица, которая гласит, что:

  • Отвечать добром на добро — дает добро
  • Отвечать злом на зло — дает добро
  • Отвечать злом на добро — дает зло
  • Отвечать добром на зло — дает зло

Второе и четвертое утверждение кажутся сомнительными, особенно с позиций христианства, но дилемма заключенного объясняет их. В древнем Китае «добро» и «зло» считались незыблемыми истинами (например, их нельзя поменять местами), таким образом, эта пословица можно прочитать еще и как «плюс на минус дает минус». Есть усиленный вариант этой пословицы, где в двух последних строках выходит «двойное зло».

Библиография

(источники, названные в англоязычной статьи)

  • Axelrod, Robert and Hamilton, William D. (1981). «The Evolution of Cooperation». Science, 211: 1390-1396.
  • Эволюция сотрудничества, Роберт Акселрод, Basic Books, ISBN 0-465-02121-2
  • Axelrod, Robert (1997). The Complexity of Cooperation. Princeton University Press. ISBN 0-691-01567-8.
  • Ген Эгоизма, Ричард Доукинс (1990), второе издание — включает два раздела об эволюции сотрудничества, ISBN 0-19-286092-5
  • Grofman and Pool (1975). «Bayesian Models for Iterated Prisoner’s Dilemma Games». General Systems 20: 185-94.
  • Hardin, Garrett (1968). «The Tragedy of the Commons». Science, 162: 1243-1248.
  • Kreps, David, Robert Wilson, Paul Milgrom, and John Roberts (1982). «Rational Cooperation in the Finitely Repeated Prisoners ‘Dilemma.» Journal of Economic Theory 27 (2): 245-52.
  • Milgrom, Paul (1984). «Axelrod’s The Evolution of Cooperation». Rand Journal of Economics 15 (2): 30-59.
  • Poundstone, William (1992). Prisoner’s Dilemma: John von Neumann, Game Theory, and the Puzzle of the Bomb. Doubleday. ISBN 0-385-41567-2. Обширный популярное введение, как отмечено в заголовке.
  • Rapoport, Anatol and Chammah, Albert M. (1965). Prisoner’s Dilemma. University of Michigan Press. Расчет множества экспериментов, в которых играла ДВ.
  • Verhoeff, Tom (1998). «The Trader’s Dilemma: A Continuous Version of the Prisoner’s Dilemma». Computing Science Notes 93/02, Кафедра математики и вычислительных систем, Технический Университет Эйндховена, Нидерланды.
  • New Tack Wins Prisoner’s Dilemma

Видео по теме