Чтение на выходные «Сигнал и шум» Нэйта Сильвера

Глава 9. Восстание против машин

Как и многие другие, 27-летний Эдгар Аллан По, был очарован «Механическим турком» — хитроумным изобретением, которому удалось обыграть в шахматы Наполеона Бонапарта и Бенджамина Франклина. Машина, сконструированная в Венгрии в 1770 г., то есть еще до рождения По или Соединенных Штатов Америки, была доставлена в Балтимор и Ричмонд в 1830-е гг. после того, как в течение десятилетий собирала огромные аудитории по всей Европе. По предположил, что это — довольно сложный розыгрыш. Он считал, что за винтиками и шестеренками машины скрывался высококлассный шахматист. И именно он управлял рычагами, обеспечивая перемещение фигур по доске и кивок головой куклы в тюрбане каждый раз после того, как она делала шах оппоненту.

По считают создателем детективного жанра, и действительно, в некоторых своих произведениях он очень хорошо вскрывал мистификации. Тот факт, что некий человек (впоследствии оказавшийся немецким гроссмейстером Вильгельмом Шламбергером) всегда находился рядом с машиной при ее распаковке и упаковке, но всегда отсутствовал во время игры, вполне оправданно показался ему подозрительным. («Ага! — подумал По. — Он и сидит в ящике».)

Однако самые интересные и пророческие мысли, изложенные По в эссе о Механическом турке, связаны с его представлением о том, что мы теперь называем «искусственным интеллектом» (сам термин появился только через 120 лет). В эссе выражалась очень глубокая и довольно привычная для наших дней обеспокоенность тем, что «компьютеры» смогут имитировать высшие функции человека или даже превзойти их.

По признавал, насколько впечатляющим был сам факт, что машины вообще могут играть в шахматы. Едва ли кто задумывался о первом механическом компьютере, который Чарльз Бэббидж называл «вычислительной машиной», в то время, когда По делился своими мыслями. Предложенный Бэббиджем компьютер, так и не достроенный при его жизни, мог в лучшем случае рассчитывать значения некоторых элементарных функций типа логарифмических в дополнение к операциям сложения, вычитания, умножения и деления. О работе Бэббиджа По отзывался как о достаточно впечатляющей. Однако в машину вводили предсказуемые значения на входе, затем в ней крутились несколько шестеренок, и машина выдавала предсказуемые значения на выходе.

Эта машина не обладала никаким интеллектом — работа, выполняемая ею, была в чистом виде механистической. С другой стороны, компьютер, который мог играть в шахматы, казался почти чудом, поскольку для хорошей игры ему нужно было делать собственные суждения. По заявлял, что если бы машины, играющие в шахматы, действительно существовали, то они должны были бы, по определению, играть безупречно — машины не допускают ошибок при вычислении. Он подчеркивал тот факт, что «Турок» не играл в шахматы идеально — машина выигрывала большинство игр, но иногда проигрывала, — как еще одно доказательство того, что это была не машина, а аппарат, находившийся под контролем человека и обладавший человеческим несовершенством.

Хотя логика По не вполне корректна, подобное почитание машин осталось с нами до сих пор. Мы воспринимаем компьютеры как удивительные изобретения, одно из самых ярких выражений человеческого гения. Согласно опросам, Билла Гейтса считают одним из наиболее уважаемых людей в Америке, а Apple и Google — одними из самых значимых компаний. Мы ожидаем, что компьютер будет вести себя безупречно и изыщет возможность преодолеть человеческие недостатки своих создателей.

Более того, мы считаем расчеты компьютерных программ безукоризненно точными и, возможно, даже пророческими. В 2012 г. двум британским подросткам было предъявлено обвинение в обмане инвесторов на сумму более миллиона долларов — они предлагали легковерным вкладчикам «робота» под названием MARL, занимавшегося подбором акций для инвестирования. По словам подростков, робот мог производить «1 986 832 математических операций в секунду» и при этом не быть подверженным человеческим эмоциям, что якобы позволяло инвесторам удваивать вложенные ими денежные средства каждые несколько часов, следуя рекомендациям MARL, касающимся дешевых акций.

Но даже когда предсказания, выданные компьютерами, не внушают нам доверия, они способны развить в нас страхи. Например, компьютеры, рассчитывающие шансы на выживание пациентов больниц, о которых иногда пишут в новостях, начинают считать собратьями HAL 9000, компьютера из фильма «Космическая одиссея 2001», решившего, что он больше не нуждается в астронавтах, и пытавшегося их удушить, лишив подачи кислорода.

Поскольку мы входим в эру Больших данных, а объемы информации и вычислительной мощности растут в геометрической прогрессии, пришло время выработать более здоровое отношение к компьютерам и к тому, что они могут для нас сделать. Технология имеет свои плюсы, поскольку позволяет нам повысить эффективность работы, но не следует ждать, что машины будут думать за нас.

Рождение шахматного компьютера

Испанский инженер Леонардо Торрес де Киведо в 1912 г. изготовил версию Механического турка, которую назвал El Ajedrecista (шахматист). Хотя El Ajedrecista иногда и называют первым компьютерным игровым компьютером, функциональность этого устройства была очень ограничена, в частности, он мог разыгрывать лишь позиции в эндшпиле, когда на доске оставалось всего три фигуры. (Кроме этого, у El Ajedrecista не было примечательной особенности «Турка» — кукольной головы в тюрбане.)

Отцом современного шахматного компьютера был Клод Шэннон из МТИ, математик, считающийся основоположником теории информации. В 1950 г. Шэннон опубликовал работу под названием «Программирование компьютера для игры в шахматы», где были представлены некоторые алгоритмы и техники, которые легли в основу сегодняшних шахматных программ. Он также признал, что именно шахматы представляют собой столь интересную задачу, решение которой позволит тестировать мощности машин, обрабатывающих информацию.

Шэннон понимал, что игра в шахматы имеет исключительно ясную и понятную цель — мат сопернику. Более того, она следует сравнительно простому набору правил, и в шахматах отсутствует элемент удачи или случайности. И тем не менее, как знают все, кто когда-либо играл в шахматы (лично я не такой уж хороший игрок), даже простые правила по достижению простой цели еще не означают, что эта задача окажется легкой. Шахматы требуют глубокой концентрации, позволяющей выжить после пары десятков ходов, не говоря уже о том, чтобы выиграть. Шэннон воспринимал шахматы как своего рода лакмусовый тест мощности компьютеров и способностей, которые они могли бы обрести в какой-то момент.

Однако Шэннон, в отличие от своих последователей, не был склонен романтизировать идею о том, что компьютеры могут играть в шахматы так же, как люди. И он не считал неминуемой их победу над людьми на шахматном поле боя.

При этом он отмечал четыре потенциальных преимущества компьютеров, которые:

1) способны очень быстро производить расчеты;
2) не допускают ошибок, если только эти ошибки не зашиты в самой программе;
3) не ленятся и не отказываются от полного анализа происходящего или всех возможных шагов;
4) не будут играть эмоционально и слишком сильно верить в очевидно выигрышное положение, которое может быть упущено, или слишком расстраиваться в сложной ситуации, когда ее еще можно спасти.

По мнению Шэннона, компьютерам противостоят четыре явно выраженных преимущества, которыми обладают только люди, а именно:

1) гибкость и способность переключаться, решая проблему, а не следовать закодированному набору последовательностей;
2) способность к воображению;
3) способность к разумному размышлению;
4) способность обучаться.

Шэннон считал такое противостояние вполне честным. Однако оно обрело более-менее реальную форму лишь в середине 1990-х гг., когда российский гроссмейстер Гарри Каспаров — лучший шахматист всех времен — решил выступить против одного из самых передовых компьютеров из когда-либо созданных — компьютера Deep Blue производства IBM.

До начала этого матча люди постоянно выигрывали борьбу, и казалось, что компьютерам их не догнать. Однако постепенно компьютеры взяли верх, и теперь это будет так продолжаться, пока мы живы.

Шахматы, предсказания и эвристика

В соответствии с теоремой Байеса предсказание представляет собой, по сути, тип деятельности по обработке информации: использование новых данных для тестирования гипотез об объективном мире с целью создать более истинные и более точные концепции о нем.

Шахматы можно считать неким аналогом предсказания. Игроки должны обрабатывать информацию о положении 32 фигур на доске и их возможные действия. Они используют эту информацию для разработки стратегий, позволяющих поставить своему оппоненту мат. Эти стратегии, в сущности, представляют собой различные гипотезы о том, как выиграть игру. Можно сказать, что любой человек, выигравший игру, имел лучшую гипотезу.

Шахматы обладают свойством детерминизма — в них отсутствует реальный элемент удачи. Однако теоретически это справедливо и в отношении погоды, как мы видели в главе 4. Наше знание обеих систем несовершенно. Что касается погоды, то в метеорологии значительная часть проблемы связана с тем, что у нас нет полных данных изначальных условий. Даже если мы очень хорошо представляем, по каким правилам работает погодная система, у нас нет полной информации о положении всех молекул, образующих облака, штормы и ураганы. Поэтому лучшее, что мы можем сделать, — это дать вероятностные прогнозы.

В шахматах известны все правила и имеется идеальный набор информации — количество шахматных фигур конечно, и они располагаются на доске в ясной последовательности. Однако игра все равно невероятно сложна для нас. Шахматы способны многое сказать о нашей способности обрабатывать информацию — и продемонстрировать нам некоторые лучшие стратегии принятия решений. Необходимость предсказания появляется не только потому, что мир сам по себе наполнен неопределенностью, но и потому, что его понимание находится за пределами наших способностей.

Поэтому и компьютерные программы, и шахматисты допускают ряд упрощений, чтобы спрогнозировать исход игры. Мы можем называть эти упрощения «моделями», однако при изучении компьютерного программирования и процессов принятия решений чаще используется термин эвристика. Это слово происходит от того же греческого слова, что и слово «эврика». Эвристический подход к решению проблемы состоит в использовании эмпирических правил в ситуациях, когда детерминистическое решение проблемы находится вне наших практических способностей.

Эвристика — очень полезная вещь, однако она всегда приводит к возникновению искажений и слепых пятен. Например, правило эвристики «Когда вы сталкиваетесь с опасным животным, то убегайте!» часто действительно представляет собой полезное руководство, но не в случаях, когда вы встречаетесь с медведем-гризли; своим движением вы можете привлечь его внимание, а затем он запросто может вас догнать (напротив, служба национальных парков рекомендует вам в случае встречи с медведем-гризли вести себя максимально тихо и спокойно и даже притворяться мертвым, если это необходимо). Люди и компьютеры используют в процессе игры в шахматы разную эвристику. Игра друг против друга в таких случаях обычно сводится к тому, найти слепые пятна оппонента быстрее, чем он найдет ваши.

Неудачное предсказание Каспарова

В январе 1988 г. Гарри Каспаров, один из самых лучших шахматистов мира с 1986 г. до своего ухода на пенсию в 2005 г., предсказал, что никакая компьютерная программа не может обыграть человека на уровне гроссмейстера по шахматам по крайней мере до 2000 г. «Если какому-то гроссмейстеру сложно играть против компьютеров, — заявил он на пресс-конференции в Париже, — я буду счастлив поделиться своим советом». Но чуть позже в том же году датский гроссмейстер Бент Ларсен потерпел поражение от программы Deep Thought, созданной несколькими выпускниками Университета Карнеги — Меллон в качестве дипломной работы.

Однако Бент Ларсен — далеко не Каспаров, а когда Deep Thought попытался выступить против Каспарова в 1989 г., то потерпел решительное поражение.

Каспаров всегда уважал роль компьютерных технологий в шахматах и уже давно использовал компьютеры для улучшения своей игры. Однако он довольно скромно отозвался о способностях Deep Though и публично высказал надежду, что в один прекрасный день может появиться компьютер, который потребует от него «использовать для победы все 100 % своих способностей».

Команду программистов во главе с Фэн Сюн Сю и Мюрреем Кэмпбеллом, стоявшую за разработкой Deep Thought, со временем наняла компания IBM, и их система постепенно была преобразована в Deep Blue. Новый Deep Blue победил Каспарова в первой игре матча в Филадельфии в 1996 г., однако Каспаров восстановился и довольно легко выиграл все остальные игры матча. В следующем году, в матче-реванше, проходившем в НьюЙорке, случилось невероятное: Гарри Каспаров, лучший шахматист в истории, которого боялись все остальные, сам испугался компьютера.