La tourmente d'OpenAI : exode des cerveaux, poursuites judiciaires et liens gouvernementaux

En novembre 2023, le conseil d'administration d'OpenAI a voté pour destituer Sam Altman, l'un des cofondateurs, de l'entreprise. Le conseil était composé d'Ilia Sutskever (un autre cofondateur), Greg Brockman (également cofondateur), Helen Toner, Tasha McCauley et David D'Angelo. Il a été révélé qu'Ilia, Helen, Tasha et David étaient ceux qui ont voté pour licencier Altman, tandis que Brockman était le seul à prendre parti pour lui.

Au cours des mois suivants, OpenAI a connu une importante fuite de cerveaux. En février 2024, Andre Karpathy, un pionnier de l'avancement de l'IA et essentiel dans la création des réseaux neuronaux convolutifs, a décidé de quitter l'entreprise pour se concentrer sur ses propres projets. Un mois plus tard, Logan Kilpatrick, le responsable des relations avec les développeurs et une figure de proue d'OpenAI, a quitté l'entreprise pour rejoindre Google.

Peu après, Ilia Sutskever, l'un des cofondateurs impliqués dans la décision de limoger Altman, a également annoncé son départ d'OpenAI, citant le souhait de se concentrer sur ses propres projets. Cependant, son départ n'a pas été aussi amical que les autres, car il y a probablement eu des tensions entre lui et Altman.

L'ère non confrontationnelle des ingénieurs et des responsables quittant OpenAI a pris fin lorsque Yan LeCun, une autre figure de proue, a quitté l'entreprise. LeCun a exprimé des désaccords avec la direction d'OpenAI concernant les priorités de l'entreprise, notamment dans des domaines tels que la sécurité, la surveillance, la préparation, la sécurité et la robustesse face aux attaques. Il estimait que ces problèmes n'étaient pas traités de manière adéquate et s'inquiétait du virage de l'entreprise vers des "produits brillants" plutôt que de se concentrer sur la sécurité.

La raison pour laquelle LeCun a été le seul à parler négativement des pratiques d'OpenAI était due à la politique de l'entreprise d'exiger que les employés signent des accords de non-dénigrement. Cela signifiait que s'ils quittaient l'entreprise, ils n'étaient pas autorisés à critiquer OpenAI, sous peine de perdre leurs actions acquises. Cependant, après cet incident, OpenAI a modifié ses politiques, permettant aux employés de s'exprimer plus librement sur leurs expériences.

Les récents départs de figures clés d'OpenAI, comme Yan Lecun, John Schulman et Peter Deng, ont soulevé des inquiétudes quant à l'accent mis par l'entreprise sur la sécurité et la sûreté.

Le fil de discussion Twitter de Yan Lecun a mis en évidence ses désaccords avec la direction d'OpenAI sur les priorités de l'entreprise, affirmant que "la sécurité, la culture et les processus ont été relégués au second plan au profit de produits brillants". Il a exprimé des préoccupations concernant le fait que des problèmes critiques comme la sécurité, la surveillance, la préparation et la robustesse face aux attaques n'étaient pas traités de manière adéquate.

De même, la décision de John Schulman de quitter OpenAI et de rejoindre un concurrent, Anthropic, était motivée par son "désir d'approfondir [son] accent sur l'alignement de l'IA". Cela suggère qu'il estimait qu'OpenAI ne donnait pas suffisamment la priorité à cette question importante.

Les révélations selon lesquelles OpenAI avait auparavant exigé que les employés signent des accords de non-dénigrement, les empêchant de s'exprimer sur les pratiques de l'entreprise, soulignent davantage les problèmes potentiels avec l'approche d'OpenAI en matière de sécurité et de transparence.

En outre, la collaboration croissante d'OpenAI avec le gouvernement américain, notamment la nomination d'un ancien responsable de la NSA à son conseil d'administration, a soulevé des inquiétudes quant à l'indépendance de l'entreprise et à sa capacité à maintenir un accent sur le bien public plutôt que sur les intérêts commerciaux.

Dans l'ensemble, les départs de figures clés et les préoccupations qu'ils ont exprimées concernant les priorités d'OpenAI suggèrent que l'entreprise peut avoir du mal à équilibrer sa poursuite de la technologie de pointe en IA avec le besoin crucial d'assurer la sécurité et la sûreté de ses systèmes.

OpenAI fait face à un certain nombre de défis juridiques et à une implication accrue du gouvernement, ce qui ajoute au trouble au sein de l'entreprise :

• Un YouTubeur a déposé un recours collectif contre OpenAI, alléguant que l'entreprise récupère des transcriptions de chaînes YouTube pour entraîner ses modèles, y compris Sora.
• Elon Musk, qui a précédemment vendu sa participation dans OpenAI, a maintenant de nouveau poursuivi l'entreprise, alléguant qu'elle a enfreint ses principes fondateurs en passant d'un modèle à but non lucratif à un modèle à but lucratif et en privilégiant les intérêts commerciaux au détriment du bien public.
• OpenAI soutient plusieurs projets de loi du Sénat, notamment le "Future of AI Innovation Act", qui créerait un nouvel organe de réglementation appelé l'United States AI Safety Institute. Cela suggère que l'entreprise cherche à resserrer ses liens avec le gouvernement.
• OpenAI a nommé un général de l'armée américaine à la retraite, Paul M. Nakasone, qui a précédemment dirigé le US Cyber Command et la National Security Agency, à son conseil d'administration. Cela indique également une collaboration accrue de l'entreprise avec les entités gouvernementales.
• Des rapports suggèrent qu'OpenAI brûle 5 milliards de dollars par an, avec 7 milliards de dollars dépensés pour l'entraînement des modèles et 1,5 milliard de dollars pour la rémunération du personnel, ce qui soulève des inquiétudes quant à la viabilité financière de l'entreprise.

Ces défis juridiques, cette implication gouvernementale et ces pressions financières s'ajoutent au trouble persistant au sein d'OpenAI, comme en témoignent les récents départs de figures clés comme John Schulman et les vacances prolongées du cofondateur Greg Brockman. La capacité de l'entreprise à maintenir son accent sur la sécurité et l'alignement face à ces pressions reste une préoccupation majeure.

OpenAI, la société de recherche en intelligence artificielle de premier plan, fait face à une série de défis qui soulèvent des inquiétudes quant à sa direction future et sa stabilité. Parmi les principaux défis, on peut citer :

1. Fuite de cerveaux : L'entreprise a connu un exode important de personnel clé, y compris de cofondateurs, de chercheurs éminents et de dirigeants. Des personnalités comme Andre Karpathy, Logan Kilpatrick, Ilya Sutskever et Yan LeCun ont tous quitté l'entreprise, soulevant des questions sur la stabilité de sa direction et l'orientation de ses recherches.

2. Préoccupations en matière de sécurité et d'alignement : Plusieurs anciens employés, comme Yan LeCun, ont exprimé des préoccupations concernant la priorité accordée par OpenAI aux "produits brillants" plutôt qu'à la sécurité, à la sûreté et à l'alignement avec les valeurs humaines. Cela a suscité des doutes quant à l'engagement de l'entreprise envers un développement responsable de l'IA.

3. Pressions financières : OpenAI brûlerait des sommes importantes, avec des projections de 5 milliards de dollars de pertes dans les 12 prochains mois. Les coûts élevés de l'entraînement des grands modèles de langage et du maintien d'un personnel important ont mis l'entreprise sous tension financière.

4. Défis juridiques : OpenAI fait face à plusieurs poursuites, notamment un recours collectif concernant l'allégation de récupération de transcriptions YouTube et une poursuite d'Elon Musk alléguant une violation des principes fondateurs de l'entreprise.

5. Implication accrue du gouvernement : L'entreprise a resserré ses liens avec le gouvernement américain, soutenant des initiatives législatives et nommant un ancien responsable de la NSA à son conseil d'administration. Cela a soulevé des inquiétudes quant à la possibilité d'une influence gouvernementale sur la recherche et la prise de décision d'OpenAI.

6. Retards de livraison et pressions concurrentielles : Bien qu'OpenAI ait présenté des modèles d'IA impressionnants comme GPT-4 et Dolly, elle a été lente à les rendre largement accessibles au public. Pendant ce temps, des concurrents comme Anthropic, Stability AI et Google ont rapidement fait progresser leurs propres capacités en IA, les devançant potentiellement.

Ces défis, pris dans leur ensemble, dressent le portrait d'une entreprise d'IA confrontée à des troubles et à une incertitude significative. Le départ de personnalités clés, les préoccupations en matière de sécurité, les pressions financières, les batailles juridiques et l'implication accrue du gouvernement suggèrent qu'OpenAI pourrait être à un carrefour critique de son développement, avec la possibilité de changements majeurs, voire d'un effondrement.

Les événements récents chez OpenAI suggèrent une entreprise confrontée à des défis et à des troubles importants. Le départ de figures clés comme Sam Altman, Andre Karpathy et maintenant Greg Brockman, ainsi que la fuite de cerveaux et les pressions financières rapportées, dressent le portrait d'une organisation qui peine à maintenir son élan et sa direction.

Les préoccupations soulevées par d'anciens employés concernant la priorité accordée aux "produits brillants" au détriment de la sécurité, de la sûreté et de l'alignement sont particulièrement troublantes. Les liens croissants de l'entreprise avec le gouvernement américain et la nomination d'un ancien responsable de la NSA au conseil d'administration soulèvent également des questions sur l'indépendance et les priorités d'OpenAI.

Bien qu'il ne soit pas clair si OpenAI est vraiment en train de "s'effondrer", l'accumulation de nouvelles négatives, de poursuites et de départs de personnalités influentes suggère une entreprise en pleine mutation. Les prochains mois seront probablement cruciaux pour déterminer la trajectoire à long terme d'OpenAI et sa capacité à relever ces défis avec succès.