Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси
Можно считать, что результаты работы этих языковых моделей принадлежат к тому же платоновскому миру всех допустимых правилами шахматных партий. Многие из них бессмысленны, как и «невероятно убогие» ходы случайного шахматного движка Шеннона. Эти модели нанизывают слова, составляя из них грамматически верные сочетания, но не заботясь об их истинности. Простого способа проверить правдивость производимого такими языковыми моделями текста не существует – в отличие от игры в шахматы или шашки, где есть четкие критерии победы или оптимальной игры. То, что эти модели звучат настолько реалистично, делает их вранье еще более опасным. В этой научной области так долго не было общепринятого определения интеллекта, что его подменили представлениями вроде «пойму, что это он, как только увижу». Это ограничивает нашу оценку интеллекта системами, которые нам легко оценивать, – такими как язык. Поэтому, когда языковая модель создает иллюзию компетентности, она с легкостью удовлетворяет условию «как только увижу».
Люди уязвимы для языка. Если позаимствовать терминологию экспертов по компьютерной безопасности, он может быть нашей самой большой поверхностью атаки. Возьмем в качестве аналогии гусениц европейской бабочки голубянки арион, которые обманом заставляют один из видов красных муравьев заботиться о них на протяжении многих месяцев, имитируя сигналы бедствия и феромоны муравьиной матки. За эоны эволюции эти гусеницы выработали минимальную стратегию стимуляции, необходимую, чтобы убедить целую колонию муравьев, что перед ними – свои. Сигнал бедствия матки – самая незащищенная поверхность атаки у красных муравьев, а у человечества ею может быть язык. Многие из нас, похоже, готовы признать разумной программу, способную эмулировать речь. Это не значит, что корпорации решили задачу создания интеллекта и уж тем более – сознания. Это лишь значит, что, подобно гусенице ариона, они выработали особенно убедительную методику обмана. Перспективы этих моделей гораздо скромнее: скажем, в видеоиграх скоро появятся более гибкие и реалистичные диалоги с неигровыми персонажами.
Лживость языковых моделей – не единственная их тревожная черта. Игровая компания Latitude Games приобрела у OpenAI лицензию на модель GPT для создания текстовой приключенческой игры AI Dungeon. Игра получилась почти непригодной для использования, поскольку GPT недостаточно последовательна, чтобы вести затяжную кампанию в стиле Dungeons & Dragons. Однако некоторые игроки обнаружили, что могут использовать программу для генерации детской порнографии. Модель беззаботно выдавала этот проблемный контент до тех пор, пока Latitude Games и OpenAI не заблокировали все запросы откровенно сексуального характера. Тем не менее с помощью тщательно составленных запросов от языковых моделей все еще можно добиться оскорбительных ответов; известны сообщения о диалогах с такими неприятными субличностями модели, как Сидни, который угрожал одному пользователю словами «Ты никому не нужен и обречен»[440]. Вот чем опасно отношение к языку как к игре, лишенной всякого смысла.
Другие сферы интересов естественных наук могут подходить для геймификации лучше, чем язык. Математика, как рассуждал Гильберт, часто может быть сведена к своего рода логической игре, и исследователи добились определенных успехов, используя модели ИИ для решения математических задач, включая умножение матриц и топологические выкладки. В 1956 г. исследователи ИИ Аллен Ньюэлл, Герберт Саймон и Джон Шоу создали Logic Theorist – программу, способную строить математические доказательства, рассматривая логические высказывания как что-то вроде допустимых ходов в игре. Она сформулировала доказательства 38 теорем из классического математического труда Principia Mathematica, причем некоторые из них были изящнее, чем доказательства авторов книги.
Физика также подчиняется правилам и упорядочена. Физика сворачивания белка была впервые геймифицирована в 1990-х гг. Белки – это крупные молекулы со специфической трехмерной структурой, и они выполняют такие функции, как транспортировка грузов в клетке, управление химическими реакциями, пропуск других молекул внутрь клетки и из нее, а также борьба с патогенами. Их форма часто связана с их функцией, подобно тому как шестеренки в часах подходят одна к другой, в конечном итоге приводя в движение стрелки. Знание формы белковой молекулы облегчает биологам разработку нацеленных на нее лекарств.
Определение формы белка может оказаться сложнейшей задачей; это дорогостоящая и утомительная работа. Ученым известно около 200 млн отдельных белков, используемых живыми существами нашей планеты, и еще множество только предстоит открыть. На данный момент форма известна только для примерно 200 000 из них. В идеале мы могли бы предсказывать очертания белка по его составным частям, которые гораздо проще изучать. Философ Вильгельм фон Гумбольдт писал, что язык – это бесконечное использование конечных средств: из 26 букв латинского алфавита можно составить бесчисленное множество слов, а из них – бесконечное количество предложений с различными (пусть и нелепыми) значениями. В этом смысле белки напоминают язык: как из алфавита, они составлены из двух десятков аминокислот. Окончательная форма белка определяется силами притяжения и отталкивания между звеньями этих молекулярных цепочек, которые заставляют их скручиваться или собираться в складки. Эти цепочки, в свою очередь, задаются генетическим кодом белка. Следовательно, форма белка в принципе должна быть вычислима на основании его генетического кода, который намного легче определить. Это позволило бы ученым быстрее разрабатывать лекарства, действующие на определенные белковые мишени, или предсказывать влияние некоей генетической мутации на форму белка и тем самым получать новые знания о конкретном заболевании.
Однако расчет формы белка – это астрономически огромная задача. По оценке биолога Сайруса Левинталя, для типичной белковой молекулы существует около 10300 возможных способов сворачивания[441]. Если бы она последовательно принимала все возможные конфигурации и оставалась в каждой всего одну пикосекунду, этот процесс занял бы времени больше, чем существует Вселенная. Тем не менее в природе белки сворачиваются за миллисекунды. Это настолько сложная проблема, что в 2004 г. она вдохновила корпорацию IBM на создание преемника Deep Blue, суперкомпьютера Blue Gene. Deep Blue, разработанный с расчетом на сложность шахмат, мог производить 200 млн операций в секунду. Blue Gene, созданный для решения проблемы сворачивания белка, мог производить до 360 трлн. Однако, в отличие от успехов в области шахмат,
