OpenAIs turbulens: Hjärnflykt, rättstvister och statliga kopplingar

I november 2023 röstade OpenAI:s styrelse för att ta bort Sam Altman, en av medgrundarna, från företaget. Styrelsen bestod av Ilia Sutskever (en annan medgrundare), Greg Brockman (också en medgrundare), Helen Toner, Tasha McCauley och David D'Angelo. Det avslöjades att Ilia, Helen, Tasha och David var de som röstade för att avskeda Altman, medan Brockman var den enda som stödde honom.

Under de följande månaderna upplevde OpenAI en betydande hjärnflykt. I februari 2024 beslutade Andre Karpathy, en pionjär inom AI-utveckling och viktig för skapandet av konvolutionella neuronnät, att lämna företaget för att fokusera på sina egna projekt. En månad senare lämnade Logan Kilpatrick, chef för utvecklarrelationer och en framträdande person på OpenAI, företaget för att gå med i Google.

Kort därefter meddelade även Ilia Sutskever, en av medgrundarna som var inblandad i beslutet att ta bort Altman, att han lämnar OpenAI för att fokusera på sina egna projekt. Hans avgång var dock inte lika vänlig som de andras, eftersom det troligen fanns spänningar mellan honom och Altman.

Den icke-konfrontativa eran av ingenjörer och ledare som lämnar OpenAI tog slut när Yan LeCun, en annan framträdande person, lämnade företaget. LeCun uttryckte oenighet med OpenAI:s ledning när det gäller företagets prioriteringar, särskilt inom områden som säkerhet, övervakning, beredskap, säkerhet och motståndskraft mot motståndare. Han ansåg att dessa frågor inte hanterades tillräckligt och var orolig över företagets förskjutning mot "skinande produkter" snarare än att fokusera på säkerhet.

Anledningen till att LeCun var den enda som talade negativt om OpenAI:s metoder var på grund av företagets policy att kräva att anställda skriver på avtal om icke-förtal. Detta innebar att om de lämnade företaget, fick de inte kritisera OpenAI, annars riskerade de att förlora sin intjänade aktieandel. Efter denna incident ändrade dock OpenAI sina policyer och tillät anställda att tala mer fritt om sina erfarenheter.

De senaste avgångarna av nyckelpersoner från OpenAI, som Yan Lecun, John Schulman och Peter Deng, har väckt oro kring företagets fokus på säkerhet och säkerhet.

Yan Lecuns Twittertrådtråd belyste hans oenighet med OpenAI:s ledning när det gäller företagets prioriteringar och att "säkerhet, kultur och processer har fått stå tillbaka för skinande produkter". Han uttryckte oro över att kritiska problem som säkerhet, övervakning, beredskap och motståndskraft mot motståndare inte hanterades tillräckligt.

På liknande sätt drevs John Schulmans beslut att lämna OpenAI och gå med i konkurrenten Anthropic av hans "önskan att fördjupa [hans] fokus på AI-anpassning". Detta tyder på att han kände att OpenAI inte prioriterade den viktiga frågan om AI-anpassning tillräckligt.

Uppenbarelserna att OpenAI tidigare krävt att anställda skriver på avtal om icke-förtal, vilket förhindrade dem från att tala ut om företagets metoder, understryker ytterligare de potentiella problemen med företagets tillvägagångssätt när det gäller säkerhet och transparens.

Dessutom har OpenAI:s ökade samarbete med den amerikanska regeringen, inklusive utnämningen av en tidigare NSA-ledare till dess styrelse, väckt oro kring företagets oberoende och dess förmåga att bibehålla ett fokus på det allmänna bästa snarare än kommersiella intressen.

Sammanfattningsvis tyder avgångarna av nyckelpersoner och de farhågor de har uttryckt om OpenAI:s prioriteringar på att företaget kan ha svårt att balansera sin jakt på banbrytande AI-teknik med det avgörande behovet av att säkerställa säkerheten och säkerheten för sina system.

Open AI har stått inför ett antal rättsliga utmaningar och ökad statlig inblandning, vilket bidrar till oron inom företaget:

• En YouTuber har väckt en grupptalan mot Open AI och hävdar att företaget skrapar transkript från YouTube-kanaler för att träna sina modeller, inklusive Sora.
• Elon Musk, som tidigare sålde sin andel i Open AI, har nu stämt om företaget på nytt och hävdar att det har brutit mot sina grundläggande principer genom att gå från en ideell till en vinstdrivande modell och prioritera kommersiella intressen framför det allmänna bästa.
• Open AI stöder flera lagförslag i senaten, inklusive "Future of AI Innovation Act", som skulle bilda en ny tillsynsmyndighet kallad United States AI Safety Institute. Detta tyder på att företaget söker närmare band med regeringen.
• Open AI har utsett en pensionerad amerikansk armégeneral, Paul M. Nakasone, som tidigare ledde US Cyber Command och National Security Agency, till sin styrelse. Detta indikerar ytterligare samarbete med statliga enheter.
• Rapporter tyder på att Open AI bränner igenom 5 miljarder dollar per år, med 7 miljarder dollar spenderade på modellträning och 1,5 miljarder dollar på personal, vilket väcker oro kring företagets finansiella hållbarhet.

Dessa rättsliga utmaningar, statlig inblandning och ekonomiska påfrestningar bidrar till den pågående oron inom Open AI, vilket märks av de senaste avgångarna av nyckelpersoner som John Schulman och den förlängda semestern som medgrundaren Greg Brockman tagit. Företagets förmåga att bibehålla sitt fokus på säkerhet och anpassning mitt i dessa påfrestningar förblir en betydande oro.

OpenAI, det framstående AI-forskningsföretaget, har stått inför en serie utmaningar som har väckt oro kring dess framtida inriktning och stabilitet. Några av de viktigaste utmaningarna inkluderar:

1. Hjärnflykt: Företaget har upplevt en betydande avgång av nyckelpersonal, inklusive medgrundare, framstående forskare och ledare. Personer som Andre Karpathy, Logan Kilpatrick, Ilya Sutskever och Yan LeCun har alla lämnat företaget, vilket väcker frågor om stabiliteten i dess ledning och inriktningen på dess forskning.

2. Oro kring säkerhet och anpassning: Flera tidigare anställda, som Yan LeCun, har uttryckt oro över att OpenAI prioriterar "skinande produkter" framför säkerhet, säkerhet och anpassning till mänskliga värderingar. Detta har lett till tvivel om företagets engagemang för ansvarsfull AI-utveckling.

3. Ekonomiska påfrestningar: OpenAI uppges bränna igenom betydande summor pengar, med prognoser om 5 miljarder dollar i förluster inom de närmaste 12 månaderna. De höga kostnaderna för att träna stora språkmodeller och upprätthålla en stor personalstyrka har satt företaget under ekonomisk press.

4. Rättsliga utmaningar: OpenAI står inför flera stämningar, inklusive en grupptalan om påstått skrapande av YouTube-transkript och en stämning från Elon Musk som hävdar ett brott mot företagets grundläggande principer.

5. Ökad statlig inblandning: Företaget har knytit närmare band med den amerikanska regeringen, stöder lagstiftningsinitiativ och har utsett en tidigare NSA-tjänsteman till sin styrelse. Detta har väckt oro kring den potentiella påverkan som regeringen kan ha på OpenAI:s forskning och beslutsfattande.

6. Leveransförseningar och konkurrenstryck: Medan OpenAI har presenterat imponerande AI-modeller som GPT-4 och Dolly, har de varit långsamma med att göra dessa teknologier allmänt tillgängliga för allmänheten. Samtidigt har konkurrenter som Anthropic, Stability AI och Google snabbt utvecklat sina egna AI-möjligheter, vilket potentiellt kan överträffa OpenAI.

Dessa utmaningar, sammantaget, målar upp en bild av ett AI-företag som står inför betydande oro och osäkerhet. Avgången av nyckelpersonal, säkerhetsbekymmer, ekonomiska påfrestningar, rättsliga tvister och ökad statlig inblandning tyder på att OpenAI kan befinna sig vid en kritisk vändpunkt i sin utveckling, med potentialen för stora förändringar eller till och med ett sammanbrott i sikte.

De senaste händelserna på OpenAI tyder på ett företag som står inför betydande utmaningar och oro. Avgången av nyckelfigurer som Sam Altman, Andre Karpathy och nu Greg Brockman, tillsammans med den rapporterade hjärnflykten och de ekonomiska påfrestningarna, målar upp en bild av en organisation som kämpar för att bibehålla sin momentum och riktning.

De farhågor som tidigare anställda har lyft kring att säkerhet, säkerhet och anpassningsfrågor prioriteras ned till förmån för "skinande produkter" är särskilt oroande. Företagets ökade band till den amerikanska regeringen och utnämningen av en före detta NSA-tjänsteman till styrelsen väcker också frågor om OpenAI:s oberoende och prioriteringar.

Men även om det är oklart om OpenAI verkligen "håller på att kollapsa", tyder den ackumulerade negativa nyhetsrapporteringen, rättstvister och avgången av inflytelserika personer på ett företag i förändring. De kommande månaderna kommer sannolikt att vara avgörande för att fastställa OpenAI:s långsiktiga utveckling och huruvida de kan navigera dessa utmaningar framgångsrikt.