Libera el poder de WizardLM-2: El LLM de código abierto que supera a GPT-4

Libera el poder de WizardLM-2: El LLM de código abierto que supera a GPT-4. Descubre los últimos avances en modelos de lenguaje a gran escala, ya que WizardLM-2 supera a los principales modelos propietarios en el punto de referencia de MT. Explora las técnicas de vanguardia utilizadas para desarrollar esta poderosa IA de código abierto.

24 de enero de 2025

party-gif

Descubre el revolucionario WizardLM-2, el primer modelo de lenguaje grande de código abierto que supera al reconocido GPT-4. Esta tecnología de IA de vanguardia ofrece un rendimiento excepcional en tareas complejas, razonamiento multilingüe y conversaciones atractivas, estableciendo un nuevo estándar en el mundo de los modelos de lenguaje.

Wizard LM-2: El primer LLM de código abierto que supera a GPT-4

El Wizard LM-2 es un hito significativo en el mundo de los modelos de lenguaje a gran escala (LLM). Este modelo de código abierto ha demostrado un rendimiento altamente competitivo en comparación con trabajos propietarios avanzados como GPT-4 y Claude en el MT Benchmark, que mide la capacidad de los LLM para participar en conversaciones coherentes, informativas y atractivas.

El modelo Wizard LM-2 es una versión afinada y entrenada con preferencias del modelo Megatron-Turing NLG 22B. Se ha mejorado en términos de su rendimiento en tareas complejas, incluidas el chat, la codificación, el razonamiento multilingüe y las aplicaciones basadas en agentes.

La familia Wizard LM ahora incluye tres nuevos modelos: el Wizard LM-2 22B, el modelo de 70B parámetros y el modelo de 7B parámetros. El modelo Wizard LM-2 22B se ha convertido en el más avanzado, destacando en el rendimiento de tareas complejas, mientras que el modelo de 70B muestra capacidades de razonamiento de primer nivel y el modelo de 7B se destaca por su velocidad y rendimiento competitivo.

Métodos avanzados utilizados para desarrollar Wizard LM-2

El equipo detrás de Wizard LM ha empleado varios métodos avanzados para desarrollar el modelo Wizard LM-2:

  1. Preprocesamiento de datos: Han analizado y distribuido diferentes atributos en las nuevas fuentes de datos para obtener una comprensión inicial de los datos. Han utilizado el muestreo ponderado para ajustar la importancia de varios atributos en los datos de entrenamiento en función de la experiencia experimental.

  2. Aprendizaje progresivo: El proceso de entrenamiento se ha dividido en diferentes etapas, con más rebanadas de datos que se alimentan en cada etapa. Esto permite la evolución de diversos pares de instrucciones-respuestas.

  3. Marco de IA alineada con IA (AAA): Se agrupan múltiples LLM para enseñarse y mejorarse mutuamente de una manera optimizada a través del aprendizaje supervisado y el aprendizaje por refuerzo.

  4. Evol-Instruct: Este componente genera de forma autónoma instrucciones de alta calidad y las formatea a través de múltiples iteraciones, mejorando la lógica general, la corrección y la coherencia de las respuestas del modelo.

Evaluación de las capacidades de Wizard LM-2

El modelo Wizard LM-2 ha demostrado un rendimiento altamente competitivo en comparación con los modelos de lenguaje propietarios avanzados como GPT-4 Turbo y CLA-3 en el MT Benchmark, que mide la capacidad de participar en conversaciones coherentes, informativas y atractivas.

El equipo detrás de Wizard LM ha realizado evaluaciones tanto humanas como automáticas para evaluar las capacidades del modelo. En la evaluación de preferencia humana, recopilaron un conjunto diverso de instrucciones del mundo real que cubren escritura, codificación, matemáticas, razonamiento, tareas de agentes y comprensión multilingüe. Los anotadores realizaron comparaciones a ciegas por pares entre Wizard LM-2 y los modelos de referencia, ocultando las fuentes de las respuestas.

Los resultados indican que Wizard LM-2 supera constantemente a los modelos existentes de vanguardia, incluidos otros modelos de código abierto. En el MT Benchmark, el modelo ha demostrado un rendimiento altamente competitivo, incluso en comparación con los principales trabajos propietarios.

Primeros pasos con Wizard LM-2

Para comenzar con el modelo Wizard LM-2, deberá utilizar la plataforma LM Studio. Primero, vaya a la tarjeta del modelo y copie la información para uno de los tres modelos disponibles: Wizard LM-2 AX 22B, Wizard LM 70B o Wizard LM 7B.

A continuación, abra LM Studio y vaya a la pestaña de búsqueda. Pegue la información de la tarjeta del modelo y presione enter. Verá las diferentes versiones del modelo Wizard LM-2 disponibles.

Para instalar el modelo, simplemente descargue la versión que desee utilizar. Una vez descargado, puede ir a la pestaña de conversación en LM Studio y seleccionar el modelo Wizard LM-2 para comenzar a chatear con él.

Conclusión

La introducción de Wizard LM2 representa un hito significativo en el desarrollo de modelos de lenguaje a gran escala. Este modelo avanzado ha demostrado un rendimiento altamente competitivo en comparación con los principales trabajos propietarios, destacando en el rendimiento de tareas complejas, las capacidades de razonamiento de primer nivel y la velocidad competitiva.

El equipo detrás de Wizard LM ha empleado técnicas innovadoras, como el muestreo ponderado, el aprendizaje progresivo y los marcos de IA alineados con IA, para mejorar las capacidades del modelo. La incorporación de Evol-instruct, que genera y distribuye de forma autónoma instrucciones de alta calidad, ha mejorado aún más la lógica, la corrección y la coherencia del modelo.

Preguntas más frecuentes