Токен за токеном - SeNS Boston
К началу 2021 года решение было принято.
Глава 11
Отступники
Мы исследовательская лаборатория ИИ-безопасности, занимающаяся пониманием систем, которые мы строим, для того чтобы строить более безопасные системы.
Из ранней страницы Anthropic, 2021
В декабре 2020 года Дарио и Даниэла Амодей официально подали в OpenAI заявления об уходе. От щедрых предложений остаться они отказались. В течение нескольких следующих недель за ними последовало больше десятка исследователей: Том Браун, ведущий автор статьи о GPT-3; Сэм МакКэндлиш, соавтор закона Каплана; сам Джаред Каплан; Крис Олах, известный своими работами по интерпретации нейронных сетей; Том Хенигэн, Бен Манн, Джек Кларк, Кэтрин Олссон и другие. Каждое имя в этом списке было хорошо известно специалистам.
Из десяти авторов статьи о законах масштабирования девять оказались в новой структуре. Из тридцати одного автора статьи о GPT-3 — почти треть. Если посчитать по бюджетной отдаче, OpenAI потеряла, наверное, две трети своего научного потенциала, накопленного за пять лет.
В Кремниевой долине такого крупного отколовшегося движения исследователей не было со времён классической истории Fairchild Semiconductor шестидесятых годов, когда восемь сотрудников Уильяма Шокли ушли и основали полупроводниковую промышленность Силиконовой долины. История Anthropic не настолько была мифологизирована к моменту своего рождения, но по структуре и по человеческим страстям она была удивительно похожа.
Два Амодея и одна семья
Дарио Амодеи, 2023
Даниэла Амодеи, Fortune MPW 2025
Дарио Амодей родился в 1983 году в Сан-Франциско, в семье итальянско-американского мастера по коже и американской библиотекарши. У него была младшая сестра, Даниэла, на четыре года младше его. Семья была интеллигентная, не богатая, с сильным акцентом на образовании. Дарио учился в местной школе, начал в Калифорнийском технологическом, перевёлся в Стэнфорд и получил там бакалавра физики, защитился в Принстоне по биофизике (изучая электрофизиологию нейронных цепей). После Принстона он попробовал академическую карьеру, потом перешёл в Baidu, потом в Google, и в начале 2016 года был приглашён Альтманом и Брокманом в OpenAI.
Даниэла Амодей пошла по другому пути. Она окончила Калифорнийский университет в Беркли по специальности «политические науки», работала в гуманитарных организациях, потом в Stripe (где познакомилась с Брокманом), и в 2018 году пришла в OpenAI как руководитель операционного направления. Брат и сестра редко работают в одной структуре в Кремниевой долине; для Амодеев это было естественно. Они были близкие друзья с детства и всегда дополняли друг друга: Дарио — учёный с социальной чуткостью, Даниэла — менеджер с глубоким техническим пониманием.
Когда летом 2020 года они начали обсуждать возможность ухода, они с самого начала исходили из того, что уходить будут вместе. Не как два отдельных человека, а как одна команда: один возьмёт на себя науку и публичность, другая — операционное управление. Из этого естественного союза постепенно стала вырастать структура того, что в начале 2021 года будет официально зарегистрировано как Anthropic.
Что им не нравилось в OpenAI
Тонкие причины ухода Амодеев и их команды из OpenAI обсуждаются до сих пор. По одним публичным заявлениям самих ушедших, главным разногласием была скорость. По их мнению, OpenAI разрабатывала всё более мощные модели быстрее, чем успевала разбираться, как ими безопасно пользоваться. Дарио в разных интервью говорил, что хочет создать лабораторию, в которой исследования безопасности будут не дополнительной программой, а центральной частью научной работы.
По другим, чуть более частным источникам, разногласия были глубже. Часть команды считала, что переход OpenAI к коммерческой структуре в 2019 году постепенно подменяет миссию: что лаборатория, начинавшаяся как противовес большим корпорациям, превращается в одну из них. Что партнёрство с Microsoft, при всех его финансовых преимуществах, означает зависимость от приоритетов Microsoft, которые в долгосрочной перспективе могут расходиться с целями безопасности.
Сэм Альтман на эту критику отвечал, что коммерциализация — необходимый этап для добычи ресурсов, без которых невозможно ничего исследовать. Что миссия не предаётся, а просто финансируется новыми способами. Что разработка продуктов и исследования безопасности — это не альтернативы, а дополняющие друг друга направления.
Это был принципиальный спор, и разговорами его было не решить. Каждая сторона считала свою позицию правильной. К концу 2020 года стало ясно, что вопрос разрешится только структурно: либо Альтман с Дарио и его командой найдут способ работать рядом несмотря на разногласия, либо одна из сторон уйдёт.
Ушла команда Дарио.
Уход был, по всем свидетельствам, цивилизованным. Никаких публичных скандалов, никаких выноса грязного белья в твиттер, никаких судебных исков. Дарио сделал внутреннее объявление, поблагодарил OpenAI за пять лет совместной работы, перечислил конкретных людей, без которых, по его словам, никаких прорывов не было бы. Альтман в ответном объявлении сказал, что желает Дарио успехов и что между двумя лабораториями обязательно будет сотрудничество.
На бумаге так. На практике в течение нескольких следующих лет OpenAI и Anthropic будут жесточайшими конкурентами, и часть бывших коллег перестанет здороваться друг с другом.
Финансирование
Принципиальный вопрос для любой новой лаборатории искусственного интеллекта — это деньги. Без сотен миллионов долларов в первые годы невозможно ни обучить большие модели, ни нанять конкурентоспособную команду.
Амодеи начали с первого крупного раунда финансирования. В мае 2021 года Anthropic привлекла 124 миллиона долларов от группы инвесторов во главе с Яаном Таллинном — сооснователем Skype и давним сторонником исследований по безопасности ИИ — и включавшей Дастина Московича (сооснователь Facebook), Джеймса МакКлейва и нескольких других технологических миллиардеров с интересом к долгосрочным проектам в искусственном интеллекте. Это был относительно скромный раунд по меркам ИИ-индустрии, но достаточный, чтобы собрать первую команду.
В первый год Anthropic не выпускала продуктов и не делала громких заявлений. Команда писала статьи, преимущественно по интерпретируемости нейронных сетей (это была старая страсть Криса Олаха) и по альтернативным методам обучения языковых моделей. Постепенно к ним присоединялись новые исследователи: каждые несколько месяцев списки авторов в публикациях Anthropic пополнялись новыми именами, часто узнаваемыми по предыдущим работам в OpenAI или Google.
В 2022 году Anthropic привлекла второй раунд: 580 миллионов долларов от Сэма Бэнкман-Фрида, тогда главы криптовалютной биржи FTX. Это были очень большие деньги, но связь с Бэнкман-Фридом через несколько месяцев окажется проблемной: его империя рухнет в
