OpenAI и идеологический тип
агентского конфликта

До 17 ноября 2023 года все рассматривали OpenAI как дорогой технологический стартап стоимостью $86 млрд, создающий синтетический искусственный интеллект, который должен принести огромную прибыль инвесторам (в первую очередь — Microsoft Corp.) и сотрудникам (многие из которых владеют акциями). Но в этот день все изменилось: совет директоров уволил генерального директора Сэма Альтмана и погрузил компанию в хаос. И миру пришлось разобраться в структуре OpenAI.

Формально в состав компании входят две организации: некоммерческая OpenAI, Inc. и коммерческая OpenAI Global LLC. Некоммерческая — единственный контролирующий акционер коммерческой, а та, в свою очередь, сохраняет формальную фидуциарную ответственность перед некоммерческим уставом OpenAI, Inc. Большинству членов совета директоров OpenAI, Inc. запрещено иметь финансовые доли в коммерческой компании.

OpenAI, Inc. — общественная благотворительная организация, зарегистрированная по схеме 501(c)(3), то есть освобожденная от федерального подоходного налога США. Как у любой некоммерческой компании, у OpenAI, Inc. есть миссия, которая описана в ее уставных документах и вокруг которой строится ее работа. Формулируется она так — «создание безопасного и полезного искусственного интеллекта общего назначения на благо человечества». Есть у компании и совет директоров, который контролирует ее деятельность, а также команда, которая реализует ее миссию. Сотрудники отвечают перед советом директоров, а тот, в свою очередь, отвечает... вероятно, перед собственной совестью. Акционеров нет, экономических фидуциарных обязательств нет, а основная обязанность совета директоров — следить за выполнением миссии. «Главным бенефициаром некоммерческой организации является человечество, а не инвесторы OpenAI», — заявляет компания на своем сайте.

В саму структуру OpenAI заложен сценарий конфликта: официальный контроль строится на благотворительных интересах (и осуществляется НКО), а фактический — на экономических (и осуществляется компанией Microsoft).

Противоречие 1. Команда vs совет директоров

В некоммерческих организациях противоречия между миссией компании и устремлениями сотрудников возникают не так уж редко. Очевидно, что НКО, которая ставит перед собой задачу первой создать искусственный интеллект общего назначения, подходя к этому ответственно и фокусируясь на вопросах безопасности, неизбежно столкнется с кадровыми проблемами. Для выполнения задачи ей необходимо нанять талантливых и целеустремленных сотрудников, а такие люди, как правило, относятся к делу с б?льшим энтузиазмом, чем требуется, и их решения не всегда сопрягаются с миссией компании. Это, несомненно, должно настораживать совет директоров.

Сотрудники, в свою очередь, с недоверием относятся к совету. С их точки зрения, это собрание посторонних людей, которые мало того, что слишком озабочены вопросами безопасности ИИ, так еще и не работают в компании. (На момент написания материала трое членов совета трудятся в OpenAI, а трое — большинство из тех, кто голосовал за смещение Альтмана, — нет.) Они вмешиваются в исследования и во внутреннюю динамику проекта, руководствуясь абстрактной миссией. То, что по сути является задачей совета директоров некоммерческой организации, раздражает тех, кто в ней работает.

На третий день после увольнения Альтмана почти все сотрудники OpenAI подписали открытое письмо с требованием отправить совет директоров в отставку и вернуть уволенного гендиректора. В письме утверждалось, что совет проинформировал руководство компании о том, что уничтожение проекта не будет противоречить ее миссии. Это письмо, по всей видимости, стало следствием другого события. Как сообщает агентство Reuters со ссылкой на два анонимных источника из OpenAI, несколько штатных исследователей предупредили совет директоров о том, что компания разработала систему, которая может представлять потенциальную угрозу для человечества.

В теории уничтожить проект действительно возможно: если вы создали небезопасный ИИ, вы, условно говоря, удаляете код и сжигаете здание. За реализацией этого сценария должен следить совет директоров. Команда же, у которой в таком случае стремление выполнить работу войдет в противоречие с моральной необходимостью уничтожить ее, едва ли сможет эффективно функционировать.

Противоречие 2. Совет директоров vs инвесторы

Основанная как некоммерческая организация, OpenAI постепенно поняла, что одними пожертвованиями невозможно покрыть расходы на вычислительные мощности и таланты, необходимые для продвижения основных исследований. Поэтому она породила корпоративную структуру, которая привлекала бы миллиарды долларов от инвесторов, предлагая им заманчивую, хоть и ограниченную прибыль на вложенный капитал.

По сути, на пути к гуманитарной миссии OpenAI расчетливо сделала крюк через мир коммерческих компаний. Она воспользовалась деньгами инвесторов, чтобы приобрести оборудование, инженеров и использовать их для создания прибыльного бизнеса. Но конечный план организации заключался в том, чтобы, достигнув цели, оставить инвесторов с солидным доходом и приятными воспоминаниями и вернуться к основной некоммерческой деятельности, призванной приносить пользу миру.

Юридическая структура компании была разработана таким образом, чтобы способствовать реализации этого плана. Некоммерческая организация имеет контрольное влияние, инвесторы не получают место в совете директоров или право голоса в управлении, а директорам запрещено владеть акциями, чтобы избежать конфликта интересов, поскольку они не должны быть связаны с акционерами. «Было бы разумно рассматривать любые инвестиции в OpenAI Global LLC как пожертвования», — сказано в соглашении с инвесторами.

Однако в реальности компания далека от поставленных целей. OpenAI еще не создала прибыльного искусственного интеллекта. Не так давно газета Financial Times сообщила, что OpenAI остается убыточной из-за расходов на обучение алгоритма и рассчитывает со временем привлечь гораздо больше средств от Microsoft и других инвесторов, чтобы покрыть расходы на разработку более сложных моделей ИИ. 

Перспективный технологический стартап (OpenAI таковым и является) может привлечь много денег (что OpenAI и сделала), не давая инвесторам практически никаких формальных прав на управление (так OpenAI и поступила). Он может сказать: «Выпишите нам чек на $13 млрд, но рассматривайте его как пожертвование», и инвесторы безропотно согласятся. Но даже если инвесторы не входят в совет директоров, компания не может просто поставить их перед фактом, заявив, что гендиректор, который договорился с ними об инвестициях, слишком сосредоточился на создании прибыльного продукта для них и потому был уволен.

Кто по-настоящему принимает решения в структуре OpenAI — совет с формальным контролем или контролирующий инвестор, мотивация которого расходится с миссией компании? В техническом смысле схема, приведенная выше, верна: совет директоров действительно может уволить генерального директора. С практической точки зрения, как написал автор блога Stratechery сразу после перехода Сэма Альтмана в Microsoft, если у Microsoft есть бессрочная лицензия на технологию OpenAI (и в перспективе — большинство ее сотрудников), «можно сделать вывод, что Microsoft только что приобрела OpenAI за $0 и с нулевым риском антимонопольного иска». Экономические интересы победили.

Если конфликт совета директоров НКО с сотрудниками не вызывает удивления, то история взаимоотношений стартапа и инвестора, согласившегося вложить $13 млрд, не получая контрактных или фидуциарных прав, представляется необычной.

Безусловно, искушенные инвесторы вкладывают крупные суммы в компании, не приобретая реальных прав контроля, — но при этом они получают гарантии «безопасности». Даже следя за тем, чтобы менеджмент не принимал непродуманных решений, совет не может забывать о своем фундаментальном фидуциарном финансовом обязательстве перед акционерами. Рациональный игрок, зная, что крупнейший инвестор и обладатель лицензии на технологию в случае неразрешимого противоречия заберет себе проект, не будет действовать против экономических интересов компании. $86 млрд стоимости организации могут испариться из-за одного решения. Какой стартап позволит себе такое?

Совет директоров OpenAI, обладая юридическим преимуществом перед подконтрольной коммерческой компанией, решил, однако, действовать без оглядки на взаимно сдерживающие мотивации участников. В результате, как сообщил Bloomberg, «некоторые инвесторы рассматривают возможность списания стоимости своих акций OpenAI до нуля».

История Open AI показала, что классическая система взаимных сдержек не работает в некоммерческой организации, даже если та стоит $86 млрд. Заявляя, что инвестиции в OpenAI Global LLC стоит считать пожертвованиями, компания добавляет: «Нам неизвестно, какую роль деньги будут играть в пост-ИИ-мире». Но мы пока живем в мире, в котором традиционные экономические интересы и агентские конфликты еще не потеряли своего значения. Теперь, когда совет директоров восстанавливает в должности Сэма Альтмана, что неизбежно приведет к изменению структуры компании, кажется, что Open AI был первым и последним многомиллиардным НКО-экспериментом.

Источники: Stratechery, Financial Times, Bloomberg.