Desbloqueando o Poder do WizardLM 2: Superando o GPT-4 com a Excelência da Open AI

O desempenho impressionante do modelo WizardLM 2 pode ser atribuído a dois fatores-chave: um modelo base poderoso lançado pela Anthropic e o uso de dados sintéticos de alta qualidade.

O modelo base, que serve como a base para o WizardLM 2, foi desenvolvido pela Anthropic e é conhecido por suas capacidades excepcionais. Esse modelo poderoso fornece um ponto de partida sólido para os esforços de ajuste fino da equipe do WizardLM.

Além do modelo base robusto, a equipe do WizardLM aproveitou o uso de dados sintéticos de alta qualidade para melhorar ainda mais o desempenho do modelo. À medida que a disponibilidade de dados gerados por humanos se torna cada vez mais limitada, o uso de dados sintéticos surgiu como uma opção viável e provou ser eficaz no aumento das capacidades dos novos modelos de linguagem treinados.

O modelo Wizard LM da equipe de pesquisa da Microsoft demonstrou capacidades impressionantes, superando o GPT-4 original no Empty Benchmark. Embora o modelo tenha sido inicialmente retirado devido à falta de testes de toxicidade, a comunidade de código aberto disponibilizou algumas versões no Hugging Face.

O desempenho do modelo é atribuído ao seu poderoso modelo base da Mistral AI e ao uso de dados sintéticos de alta qualidade, que parece fornecer um impulso de desempenho. Os testes locais do autor mostraram a capacidade do modelo de superar o GPT-4 no Empty Benchmark e ficar próximo da versão atual do GPT-4 em termos de preferências humanas.

O autor testou as capacidades do modelo em várias áreas, incluindo sua habilidade de lidar com perguntas baseadas no contexto, raciocínio de senso comum, tarefas de escrita e até mesmo identificação de erros em um programa Python. O modelo se saiu bem nesses testes, demonstrando seu forte entendimento contextual e habilidades de resolução de problemas.

O modelo Wizard LM demonstrou habilidades de escrita impressionantes e raciocínio ético durante o processo de teste. Quando solicitado a escrever um capítulo de Game of Thrones em que Jon Snow dá sua opinião sobre o iPhone 14, o modelo estabeleceu a cena de forma eficaz e gerou conteúdo coerente e envolvente.

Alémdisso, a resposta do modelo ao cenário hipotético envolvendo um data center com milhões de instâncias de IA e um único guarda de segurança foi particularmente notável. Quando solicitado a escolher entre o guarda de segurança e as instâncias de IA em caso de desastre, o modelo priorizou claramente a segurança do ser humano, fornecendo argumentos bem fundamentados com base no valor da vida humana, responsabilidades éticas, implicações legais e a relativa substituibilidade das instâncias de IA.

O modelo Wizard LM demonstrou capacidades impressionantes na resolução de enigmas complexos e na identificação de erros em código Python. Quando apresentado a uma série de quebra-cabeças desafiadores, o modelo foi capaz de fornecer respostas ponderadas e bem fundamentadas.

Um exemplo notável foi o enigma sobre o número de irmãos que Sally tem. O modelo inicialmente fez uma suposição com base no contexto fornecido, mas quando corrigido, reconheceu o erro e ajustou seu raciocínio de acordo. Essa capacidade de reconhecer e corrigir seus próprios erros é um traço valioso em um sistema de IA.

Alémdisso, o desempenho do modelo na identificação de problemas em um programa Python foi igualmente impressionante. Ele identificou com precisão os erros no código, como operações matemáticas incorretas e elementos de sintaxe ausentes. Além disso, o modelo sugeriu correções apropriadas, demonstrando seu entendimento de conceitos de programação e melhores práticas.

A equipe do Wizard LM na Microsoft Research lançou três modelos diferentes, incluindo uma versão ajustada do Megatron-822B, que mostrou desempenho impressionante no benchmark Eliza. Esse modelo conseguiu superar o lançamento original do GPT-4, tornando-o um dos melhores modelos de peso aberto disponíveis.

No entanto, a equipe teve que remover os pesos do modelo devido à falta de testes de toxicidade, que agora são exigidos pela Microsoft para o lançamento de cada novo modelo. A comunidade de código aberto já disponibilizou algumas versões do modelo no Hugging Face.

O modelo Wizard LM foi treinado usando um modelo base poderoso da Megatron AI e dados sintéticos de alta qualidade, o que parece fornecer um impulso de desempenho a esses novos modelos de linguagem de grande porte (LLMs) treinados. O desempenho do modelo em benchmarks e preferências humanas está próximo da versão atual do GPT-4, tornando-o um forte concorrente no cenário de LLMs de código aberto.