Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси
В 1994 г., разочарованные разрозненностью попыток решить эту задачу, биофизики Джон Моулт и Кшиштоф Фиделис учредили проходящий раз в два года конкурс по предсказанию структуры белка под названием CASP (Critical Assessment of Structure Prediction – «Критическая оценка предсказания структуры»). И здесь мы снова видим силу геймификации исследований. Конкурс CASP быстро стал движущей силой для работ в этой области, строгим по своим правилам и открытым по организации мероприятием, задающим единый эталон, в сравнении с которым научные группы могли отслеживать свой прогресс, одновременно учась друг у друга. В качестве обучающих данных сообщество собирает сведения, полученные в тысячах реальных исследованиях структуры белков. Каждый конкурс CASP длится несколько месяцев. Анонимизированные команды представляют свои прогнозы структуры примерно для ста белковых последовательностей, отобранных организаторами. Эти прогнозы сравниваются с экспериментально установленными структурами, которые остаются неопубликованными до окончания конкурса. Затем публикуется рейтинг каждой команды, зависящий от того, насколько точно ее программа предсказала реальные данные.
Группа профессора Дэвида Бейкера из Вашингтонского университета стала одним из главных претендентов на победу в конкурсах CASP. Она назвала свою программу Rosetta – в честь камня, который позволил ученым расшифровать древнеегипетские иероглифы, – так же, как они надеялись перевести генетический код в трехмерные структуры. Испытывая нехватку вычислительных ресурсов, группа Бейкера выпустила публичный вариант программы Rosetta, которая позволяла добровольцам предоставлять свободное компьютерное время для обучения модели. Домашняя версия программы отображала ход своей работы в виде экранной заставки, и некоторые пользователи испытывали раздражение, когда замечали очевидные решения для сворачивания, которые программа еще не нашла. Бейкер совместно с гейм-дизайнерами превратил Rosetta в интерактивную игру Foldit (от Fold it – «Сложи это»)[442]. Иногда игроки в Foldit исследовали возможные способы сворачивания эффективнее, чем сама по себе Rosetta, что привело к определению нескольких сложных структур. Именно под впечатлением от игры Foldit компания DeepMind изначально и создала группу по сворачиванию белка. В конечном итоге ее инженеры приспособили популярную архитектуру трансформера, используемую в таких моделях, как GPT от OpenAI, для предсказания формы белковых молекул по их генетическому коду. В 2020 г. конкурс CASP показал, что созданная DeepMind система AlphaFold может предсказывать многие белковые структуры с точностью, близкой к размеру отдельного атома.
Теперь исследователи надеются научиться не только предсказывать форму природных белков, но и изобретать совершенно новые белки. Для эволюции, несмотря на все разнообразие произведенных ею видов, характерен творческий консерватизм. Жизнь, учитывая жесткие ограничения для выживания, снова и снова использует одни и те же белковые конструкции. Точно так же инопланетный стиль игры программы AlphaGo продемонстрировал, что за тысячи лет люди так и не исследовали до конца все пространство стратегий го. 200 млн известных в природе белков – это лишь ничтожная доля всех возможных. Для белка типичного размера, собранного из аминокислотных звеньев двадцати с лишним типов, существует примерно 10330 теоретических комбинаций. Это на 310 порядков больше, чем число атомов во всей Вселенной.
Компьютеры способны помочь исследователям изучить те участки белкового ландшафта, куда за миллиарды лет еще не добралась эволюция. Используя вычислительные методы, ученые могли бы изобретать и совершенствовать совершенно новые белки с множеством новых функций – от расщепления промышленных отходов и пластика до улавливания атмосферного углерода. Пока неясно, смогут ли эти системы экстраполировать свои навыки далеко за пределы имеющегося у нас массива обучающих данных и открывать действительно новые функции белков. Однако теоретически этот подход может быть с одинаковой легкостью использован как для разработки спасающего жизни лекарства, так и для создания несущего гибель биотоксина. Соответственно, эти генеративные системы могут оказаться опаснее любой языковой модели. При сегодняшнем уровне технологий достаточно искушенный в этих вопросах человек может оборудовать синтетическую биолабораторию у себя в гараже и в перспективе создать там токсин, столь же смертоносный, как любое известное оружие.
Хотя геймификация исследований и пошла на пользу области разработки ИИ, она также запустила в ней процессы, напоминающие по своей динамике гонку вооружений. Го чрезвычайно популярна в Азии, и матч Ли Седоля с AlphaGo в 2016 г. стал международным феноменом, привлекшим внимание более 100 млн зрителей. С тех пор его сравнивают со «спутниковым кризисом», который привел к спешке в разработке и внедрении непроверенных технологий. В 1957 г. Советский Союз успешно запустил на низкую околоземную орбиту «Спутник–1», первый искусственный спутник Земли. В разгар холодной войны американцев охватила паника. Если СССР справился с задачей запустить ракету в космос, он, несомненно, мог создавать и ядерные ракеты, способные поразить любую точку США. «Спутник» казался неопровержимым доказательством того, что Советский Союз в технологическом плане ушел дальше, чем предполагали многие американцы. Точно так же победа AlphaGo вызвала по всему миру ажиотаж новых инвестиций в ИИ. С тех пор Китай вложил в исследования ИИ почти 100 млрд долларов, и на его долю приходится почти пятая часть мирового финансирования в этой области. Другие страны последовали его примеру. Организованная DeepMind рекламная шумиха спровоцировала в сфере ИИ гонку между спецслужбами ведущих государств мира.
Корпорации, армии и академические учреждения теперь торопятся создать сильный искусственный интеллект (СИИ) – технологию, которую некоторые считают бессмыслицей, тогда как другие опасаются, что она сможет положить конец человечеству. Независимо от того, что из этого правда, неразумно создавать системы до того, как для них будут установлены соответствующие ограничения в области безопасности и этики. Представители крупного бизнеса утверждают, что технологический прогресс неизбежен и неостановим и что он подчиняется неумолимой логике сформулированной Гарреттом Хардином трагедии общин. Мы участвуем в технологической гонке вооружений, из которой нет никакой надежды вырваться, говорят они. Но мы не беспомощны и не должны подчинять собственную волю нашим моделям. Стоит отметить, что ранее правительства уже добивались успеха в вопросе запрета других сомнительных технологий, включая клонирование человека и лазерное оружие.
Вместо того чтобы выйти за пределы игр, исследователи ИИ нашли способы превратить в состязание как можно бо́льшую часть реальности. Как мы уже неоднократно видели, игры не способны передавать истинную сложность тех систем, которые они моделируют. Системы, оптимизирующие определенный показатель, подвержены тому, что известно как закон Гудхарта: «Когда мера становится целью, она перестает быть хорошей мерой»[443]. Распространенный пример этого – использование результатов государственных экзаменов в качестве критерия качества образования. Преподавателя эта система стимулирует к тому, чтобы натаскивать учеников на сдачу экзаменов. Ученик может не научиться ничему, кроме как хорошо сдавать такие экзамены, – а этот навык быстро становится бесполезным, как только человек оказывается на рынке труда.
Мир изобилует примерами работы закона Гудхарта. Возьмем обратный выкуп
