La turbulencia de OpenAI: fuga de cerebros, demandas y vínculos gubernamentales

En noviembre de 2023, la junta directiva de OpenAI votó para remover a Sam Altman, uno de los cofundadores, de la empresa. La junta estaba compuesta por Ilia Sutskever (otro cofundador), Greg Brockman (también un cofundador), Helen Toner, Tasha McCauley y David D'Angelo. Se reveló que Ilia, Helen, Tasha y David fueron quienes votaron para despedir a Altman, mientras que Brockman fue el único que se puso de su lado.

En los meses siguientes, OpenAI experimentó una fuga significativa de cerebros. En febrero de 2024, Andre Karpathy, un pionero en el avance de la IA y fundamental en la creación de redes neuronales convolucionales, decidió dejar la empresa para centrarse en sus propios proyectos. Un mes después, Logan Kilpatrick, el jefe de relaciones con los desarrolladores y una figura prominente en OpenAI, dejó la empresa para unirse a Google.

Poco después, Ilia Sutskever, uno de los cofundadores que participó en la decisión de remover a Altman, también anunció su partida de OpenAI, citando el deseo de centrarse en sus propios proyectos. Sin embargo, su partida no fue tan amistosa como las otras, ya que probablemente hubo tensiones entre él y Altman.

La era no confrontacional de ingenieros y líderes que dejaban OpenAI llegó a su fin cuando Yan LeCun, otra figura prominente, dejó la empresa. LeCun expresó desacuerdos con el liderazgo de OpenAI con respecto a las prioridades de la empresa, particularmente en áreas como seguridad, monitoreo, preparación, seguridad y robustez adversaria. Creía que estos problemas no se abordaban adecuadamente y le preocupaba el cambio de la empresa hacia "productos brillantes" en lugar de centrarse en la seguridad.

La razón por la que LeCun fue el único en hablar negativamente sobre las prácticas de OpenAI se debió a la política de la empresa de requerir que los empleados firmaran acuerdos de no divulgación. Esto significaba que si dejaban la empresa, no se les permitía criticar a OpenAI, o correrían el riesgo de perder su patrimonio devengado. Sin embargo, después de este incidente, OpenAI cambió sus políticas, permitiendo a los empleados hablar más libremente sobre sus experiencias.

Las recientes partidas de figuras clave de OpenAI, como Yan Lecun, John Schulman y Peter Deng, han generado preocupaciones sobre el enfoque de la empresa en la seguridad y la seguridad.

La serie de tuits de Yan Lecun destacó sus desacuerdos con el liderazgo de OpenAI sobre las prioridades de la empresa, afirmando que "la seguridad, la cultura y los procesos han pasado a un segundo plano frente a los productos brillantes". Expresó su preocupación de que no se abordaran adecuadamente problemas críticos como la seguridad, el monitoreo, la preparación y la robustez adversaria.

De manera similar, la decisión de John Schulman de dejar OpenAI y unirse a un competidor, Anthropic, estuvo impulsada por su "deseo de profundizar en su enfoque en la alineación de la IA". Esto sugiere que sentía que OpenAI no priorizaba lo suficiente el importante tema de la alineación de la IA.

Las revelaciones de que OpenAI había requerido previamente que los empleados firmaran acuerdos de no divulgación, lo que les impedía hablar sobre las prácticas de la empresa, subrayan aún más los posibles problemas con el enfoque de la empresa hacia la seguridad y la transparencia.

Además, la creciente colaboración de OpenAI con el gobierno de los Estados Unidos, incluido el nombramiento de un ex líder de la NSA en su junta directiva, ha generado preocupaciones sobre la independencia de la empresa y su capacidad para mantener un enfoque en el bien público en lugar de los intereses comerciales.

Open AI se ha enfrentado a varios desafíos legales y a una mayor participación gubernamental, lo que está agregando turbulencia dentro de la empresa:

• Un YouTuber ha presentado una demanda colectiva contra Open AI, alegando que la empresa está recopilando transcripciones de los canales de YouTube para entrenar sus modelos, incluido Sora.
• Elon Musk, quien anteriormente vendió su participación en Open AI, ahora ha vuelto a demandar a la empresa, alegando que ha incumplido sus principios fundacionales al pasar de un modelo sin fines de lucro a uno con fines de lucro y priorizar los intereses comerciales sobre el bien público.
• Open AI está respaldando varios proyectos de ley del Senado, incluida la "Ley de Innovación en IA del Futuro", que formaría una nueva junta reguladora llamada el Instituto de Seguridad de IA de los Estados Unidos. Esto sugiere que la empresa está buscando vínculos más estrechos con el gobierno.
• Open AI ha nombrado a un general retirado del Ejército de los Estados Unidos, Paul M. Nakasone, quien anteriormente dirigió el Comando Cibernético de los Estados Unidos y la Agencia de Seguridad Nacional, a su junta directiva. Esto indica aún más la creciente colaboración de la empresa con entidades gubernamentales.
• Los informes sugieren que Open AI está quemando $5 mil millones por año, con $7 mil millones gastados en el entrenamiento de modelos y $1.5 mil millones en personal, lo que genera preocupaciones sobre la sostenibilidad financiera de la empresa.

OpenAI, la prominente empresa de investigación en inteligencia artificial, se ha enfrentado a una serie de desafíos que han generado preocupaciones sobre su futuro dirección y estabilidad. Algunos de los desafíos clave incluyen:

1. Fuga de cerebros: La empresa ha experimentado una salida significativa de personal clave, incluidos cofundadores, destacados investigadores y líderes. Figuras como Andre Karpathy, Logan Kilpatrick, Ilya Sutskever y Yan LeCun han abandonado la empresa, lo que plantea interrogantes sobre la estabilidad de su liderazgo y la dirección de su investigación.

2. Preocupaciones sobre seguridad y alineación: Varios ex empleados, como Yan LeCun, han expresado preocupaciones sobre la priorización de "productos brillantes" por parte de OpenAI sobre la seguridad, la seguridad y la alineación con los valores humanos. Esto ha generado dudas sobre el compromiso de la empresa con el desarrollo responsable de la IA.

3. Presiones financieras: Se informa que OpenAI está quemando cantidades significativas de efectivo, con proyecciones de $5 mil millones en pérdidas en los próximos 12 meses. Los altos costos de capacitación de modelos de lenguaje a gran escala y el mantenimiento de un personal numeroso han sometido a la empresa a tensiones financieras.

4. Desafíos legales: OpenAI se enfrenta a múltiples demandas, incluida una demanda colectiva por el presunto raspado de transcripciones de YouTube y una demanda de Elon Musk que alega un incumplimiento de los principios fundacionales de la empresa.

5. Mayor participación gubernamental: La empresa ha forjado vínculos más estrechos con el gobierno de los Estados Unidos, respaldando iniciativas legislativas y nombrando a un ex funcionario de la NSA en su junta directiva. Esto ha generado preocupaciones sobre la posibilidad de influencia gubernamental en la investigación y la toma de decisiones de OpenAI.

6. Retrasos en el envío y presiones competitivas: Si bien OpenAI ha presentado modelos de IA impresionantes como GPT-4 y Dolly, ha sido lenta para poner estas tecnologías a disposición del público en general. Mientras tanto, competidores como Anthropic, Stability AI y Google han estado avanzando rápidamente en sus propias capacidades de IA, lo que podría superar a OpenAI.

Los eventos recientes en OpenAI sugieren una empresa que enfrenta desafíos y turbulencias significativos. La partida de figuras clave como Sam Altman, Andre Karpathy y ahora Greg Brockman, junto con la supuesta fuga de cerebros y las presiones financieras, pintan un panorama de una organización que lucha por mantener su impulso y dirección.

Las preocupaciones planteadas por ex empleados sobre la seguridad, la seguridad y los problemas de alineación que se priorizan en favor de "productos brillantes" son particularmente preocupantes. Los crecientes vínculos de la empresa con el gobierno de los Estados Unidos y el nombramiento de un ex funcionario de la NSA en la junta también plantean interrogantes sobre la independencia y las prioridades de OpenAI.

Si bien no está claro si OpenAI se está "desmoronando" realmente, la acumulación de noticias negativas, demandas y la partida de figuras influyentes sugieren una empresa en crisis. Los próximos meses serán probablemente cruciales para determinar la trayectoria a largo plazo de OpenAI y si puede navegar con éxito estos desafíos.