Смятение в OpenAI: отток мозгов, судебные иски и связи с правительством

В ноябре 2023 года совет директоров OpenAI проголосовал за отстранение Сэма Алтмана, одного из сооснователей, от компании. Совет состоял из Ильи Суцкевера (другого сооснователя), Грега Брокмана (также сооснователя), Хелен Тонер, Таши Маккоули и Дэвида Д'Анджело. Выяснилось, что Илья, Хелен, Таша и Дэвид были теми, кто проголосовал за увольнение Алтмана, в то время как Брокман был единственным, кто встал на его сторону.

В последующие месяцы OpenAI пережила значительный отток мозгов. В феврале 2024 года Андре Карпати, пионер в области развития ИИ и ключевая фигура в создании сверточных нейронных сетей, решил покинуть компанию, чтобы сосредоточиться на собственных проектах. Через месяц Логан Килпатрик, глава отдела по работе с разработчиками и заметная фигура в OpenAI, ушел из компании, чтобы присоединиться к Google.

Сразу после этого Илья Суцкевер, один из сооснователей, участвовавших в решении об увольнении Алтмана, также объявил о своем уходе из OpenAI, сославшись на желание сосредоточиться на собственных проектах. Однако его уход был не таким дружественным, как у других, поскольку, вероятно, существовали напряженные отношения между ним и Алтманом.

Недавние уходы ключевых фигур из OpenAI, таких как Ян Лекун, Джон Шульман и Питер Денг, вызвали озабоченность по поводу приоритетов компании в области безопасности и безопасности.

Нитка твитов Яна Лекуна подчеркнула его разногласия с руководством OpenAI по поводу приоритетов компании, заявив, что "безопасность, культура и процессы отошли на второй план по сравнению с блестящими продуктами". Он выразил обеспокоенность тем, что критические проблемы, такие как безопасность, мониторинг, готовность и устойчивость к атакам, не решаются должным образом.

Аналогичным образом, решение Джона Шульмана покинуть OpenAI и присоединиться к конкуренту, Anthropic, было продиктовано его "желанием углубить [его] фокус на выравнивании ИИ". Это предполагает, что он чувствовал, что OpenAI недостаточно уделяет внимание важному вопросу выравнивания ИИ.

OpenAI сталкивается с рядом юридических проблем и усилением государственного участия, что добавляет турбулентности в компанию:

• Ютубер подал коллективный иск против OpenAI, утверждая, что компания собирает расшифровки с YouTube-каналов для обучения своих моделей, включая Sora.
• Илон Маск, который ранее продал свою долю в OpenAI, теперь подал новый иск против компании, утверждая, что она нарушила свои основополагающие принципы, перейдя от некоммерческой к коммерческой модели и отдав приоритет коммерческим интересам, а не общественному благу.
• OpenAI поддерживает несколько законопроектов Сената, включая "Закон о будущем инноваций в области ИИ", который создаст новый регулирующий орган под названием Институт безопасности ИИ США. Это свидетельствует о том, что компания стремится к более тесному сотрудничеству с правительством.
• OpenAI назначила в свой совет директоров отставного генерала армии США Пола М. Накасоне, который ранее возглавлял Киберкомандование США и Агентство национальной безопасности. Это также указывает на усиление сотрудничества компании с государственными структурами.

OpenAI, ведущая компания в области исследований искусственного интеллекта, сталкивается с рядом проблем, вызывающих озабоченность по поводу ее будущего направления и стабильности. Некоторые из ключевых проблем включают:

1. Отток мозгов: Компания пережила значительный отток ключевого персонала, включая сооснователей, видных исследователей и руководителей. Такие фигуры, как Андре Карпати, Логан Килпатрик, Илья Суцкевер и Ян Лекун, покинули компанию, что вызывает вопросы о стабильности ее руководства и направлении исследований.

2. Проблемы с безопасностью и согласованностью: Некоторые бывшие сотрудники, такие как Ян Лекун, высказывали озабоченность по поводу приоритизации OpenAI "блестящих продуктов" над безопасностью, безопасностью и согласованностью с человеческими ценностями. Это вызвало сомнения в приверженности компании ответственному развитию ИИ.

3. Финансовое давление: По сообщениям, OpenAI тратит значительные суммы денег, с прогнозируемыми убытками в 5 миллиардов долларов в течение следующих 12 месяцев. Высокие затраты на обучение крупных языковых моделей и содержание большого штата сотрудников поставили компанию под финансовое давление.