Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси
Джон Маккарти, исследователь, придумавший термин «искусственный интеллект», также дал одно из самых живучих его определений[35]. «Интеллект, – писал он, – это вычислительный компонент способности достигать своих целей в мире»[36]. Мы можем оценивать интеллект машины в беседе, как во время «Игры в имитацию» Тьюринга, где печатающие друг другу сообщения игроки – как компьютерные программы, так и реальные люди – стараются убедить судью-человека в том, что они люди. Или же мы можем называть обладающей интеллектом программу, способную обыграть человека в шахматы.
Тьюринг, по его собственному признанию, был посредственным шахматистом. Он строил мечты о создании шахматного искусственного интеллекта в беседах со своим любимым партнером по шахматам и коллегой Дональдом Мики, который тоже играл неважно. И Тьюринг, и Мики во время Второй мировой войны работали в Блетчли-парке, где разрабатывали методы взлома военных шифров стран «оси»[37]. Мики попал в Блетчли-парк почти случайно, записавшись на курс криптографии в надежде делать «что-то неясное, но романтичное» для победы в войне[38]. Сегодня мы знаем, что его исследования сыграли огромную роль в успехе союзников: идеи Мики помогли взломать шифр «Лоренц» и значительно усовершенствовать компьютер Colossus II[39]. Благодаря ему сообщения, на расшифровку которых раньше уходили дни, стали обрабатываться за считаные часы, что позволяло союзным войскам избегать засад и предугадывать маневры противника.
Мики был очарован концепцией Тьюринга. «Я решил посвятить свою жизнь искусственному интеллекту, как только это станет практически осуществимым», – писал он[40]. Но реальные компьютерные технологии в тот период катастрофически отставали от амбиций ученых. К тому же вычислительные машины были невероятно дорогими и редко встречались за пределами военных учреждений. После окончания войны Мики, вдохновленный своей детской любовью к мышам, вернулся в академическую среду и переключил внимание на генетику. Он был посредственным биологом; больше всего он поспособствовал исследованиям своей жены Энн Макларен, чья работа открыла дорогу к экстракорпоральному оплодотворению. Тем не менее, несмотря на отсутствие доступа к компьютерам, Мики никогда не оставлял мечту об искусственном интеллекте.
В 1961 г. Мики заключил пари с неким коллегой, который скептически оценивал способность машин к обучению. Выиграть спор ему помогли триста с лишним спичечных коробков и пригоршня цветных стеклянных бусин. Он создал обучающуюся систему, которая могла играть в крестики-нолики, и назвал ее MENACE (Matchbox Educable Noughts and Crosses Engine – «Обучаемый механизм для крестиков-ноликов на основе спичечных коробков», аббревиатура совпадает с англ. Menace – «угроза»)[41]. Каждый спичечный коробок соответствовал одному из состояний поля для игры в крестики-нолики, причем эти коробки были разложены по стопкам, соответствовавшим тому или иному по счету ходу для всех возможных расположений крестиков и ноликов. Бусины, которых всего имелось девять цветов, указывали на все возможные из текущего состояния последующие ходы. Изначально Мики поместил в каждый спичечный коробок равное количество цветных бусин. На каждом ходу он наугад вытягивал из соответствующего коробка одну бусину, что определяло следующий ход MENACE и новое состояние игрового поля. Цвет стеклянной бусины, вытянутой из следующего коробка, определял следующий ход, и так далее. Коробки оставлялись открытыми, фиксируя тем самым сделанные ходы. Если MENACE в конце игры проигрывала, Мики не возвращал бусины в открытые коробки, уменьшая вероятность того, что машина повторит такие ходы в будущем. Если игра заканчивалась вничью, он добавлял по одной дополнительной бусине соответствующего цвета в каждый спичечный коробок. Если же игра завершалась победой MENACE, он клал в каждый коробок по три такие бусины. Система, таким образом, обучалась посредством подкрепления: Мики поощрял правильные ходы и наказывал за неправильные.
Сначала MENACE играла ужасно. «Случайные партии выглядят крайне глупо, в чем легко убедиться, понаблюдав за парой туров», – писал Мики[42]. Но за сотни игр цветные бусины перераспределились внутри коробков так, что выигрышные ходы стали более вероятными, а проигрышные – менее вероятными, словно углубляя колеи на пути, ведущем к победе. В конце концов MENACE научилась играть в крестики-нолики просто идеально. Бездумная система достигла уровня мастера исключительно методом проб и ошибок.
Мики черпал вдохновение в теории обучения методом проб и ошибок, которая находилась в центре внимания психологической науки в первые десятилетия XX в. Психолог Эдвард Торндайк стремился понять загадку «животной глупости» – как поведение, кажущееся нам разумным и целенаправленным, возникает из самых простых ассоциаций[43]. Он сажал в ящик с секретом несколько кошек, а снаружи, вне их досягаемости, клал кусочки рыбы. В ящике имелась дверца, которая открывалась, только если одно из животных нажимало на особый рычаг. Как только случайное нажатие на рычаг приводило к первому открыванию дверцы и получению лакомства, животные быстро усваивали, что в последующих испытаниях они могут выбираться из ящика, снова нажав на рычаг. Торндайк назвал это «законом эффекта»: поведение, которое приводит к приятному результату, будет отбираться и повторяться, тогда как поведение, которое приводит к результату неприятному, подавляется[44]. Это немного походило на эволюцию, в ходе которой генетические варианты, обеспечивающие бо́льшую приспособленность, вознаграждаются выживанием в популяции. При обучении методом проб и ошибок «выживает» случайное действие, приводящее к награде. Вместо того чтобы фиксироваться в последовательности ДНК, оно сохраняется в памяти. Сила его ассоциации с наградой определяет, с какой вероятностью это действие будет воспроизведено в будущем. В случае MENACE победа в партии в крестики-нолики обеспечивала выживание ходов, которые привели к успеху. Победа «размножала» выигрышные ходы, тогда как поражение удаляло копии проигрышных ходов из набора доступных системе действий.
Позже Мики применил схожие методы обучения к шахматным эндшпилям. Он часто повторял высказывание, приписываемое советскому математику Александру Кронроду: для изучения искусственного интеллекта шахматы – то
