Гонка вооружений в области ИИ: исследование последних достижений в области крупных языковых моделей и контента, созданного с помощью ИИ

Главная новость на этой неделе - это новости о появлении или скором выпуске новых крупных языковых моделей.

Google объявил, что Gemini 1.5 теперь доступен более чем в 180 странах, с окном контекста в 1 миллион токенов - эквивалент примерно 750 000 слов. Это расширенное окно контекста является значительным улучшением по сравнению с предыдущими моделями. Разработчики теперь могут получить доступ к Gemini 1.5 через API для создания приложений.

В ответ на это OpenAI объявил, что улучшенная модель GPT-4 Turbo теперь доступна через API и внедряется в ChatGPT. Хотя подробности ограничены, сообщается, что она лучше справляется с программированием и математикой по сравнению с предыдущими версиями.

Открытый мир также активизируется. Stability AI выпустила Stable LLM2, модель с 12 миллиардами параметров. Между тем, Anthropic тихо выпустила новую модель Mixture of Experts с 22 миллиардами параметров, Mixr 8X 22B, в виде торрент-загрузки.

Google также объявил о новых открытых моделях Gemma - одна доработана для программирования, а другая предназначена для эффективных исследований. Кроме того, ожидается, что Meta выпустит высоко ожидаемую модель LLaMA 3, которая, как сообщается, будет сопоставима по возможностям с GPT-4, но будет открытой.

Эта череда объявлений о крупных языковых моделях демонстрирует быстрый темп инноваций в этой области, при этом как закрытые, так и открытые модели постоянно расширяют границы того, что возможно.

Кажется, что все крупные технологические компании, создающие крупные языковые модели, пытаются снизить свою зависимость от графических процессоров Nvidia. Nvidia в настоящее время доминирует на рынке GPU, используемых в обучении ИИ, но Google, Intel и Meta все представляют свои собственные специализированные чипы ИИ.

Google представил свои процессоры Axion на мероприятии Google Cloud Next. Intel представил свой чип ИИ Gaudi 3, который, по их утверждениям, имеет на 40% лучшую энергоэффективность, чем GPU Nvidia H100. Meta объявила о своем чипе ускорителя второго поколения MTI (Meta Training and Inference), который, по их словам, имеет в 3 раза лучшую производительность по сравнению с первым поколением.

Между тем, на мероприятии Nvidia GTC в начале этого года они объявили о своих чипах следующего поколения Nvidia Blackwell, которые, как утверждается, в 4 раза мощнее текущих GPU H100. Это показывает, что Nvidia по-прежнему далеко впереди в плане вычислительной мощности для обучения ИИ.

Хотя эти новые специализированные чипы от Google, Intel и Meta направлены на снижение зависимости от Nvidia, остается посмотреть, смогут ли они действительно догнать последние достижения Nvidia. Идет гонка за разработку самого мощного и эффективного оборудования для ИИ.

Во время мероприятия Google Cloud Next компания-гигант представила несколько захватывающих инструментов для создания видео с использованием ИИ, которые, как ожидается, преобразят эту отрасль.

Image-In 2: ответ Google на инструменты, такие как Dolly и Firefly, Image-In 2 может генерировать не только статические изображения, но и короткие анимированные GIF-файлы и клипы. Эти возможности преобразования текста в живые изображения позволяют пользователям легко создавать захватывающие, зацикленные визуальные эффекты.

Google Vids: описываемый как "PowerPoint-стиль" генератор видео, Google Vids использует ИИ для создания видео на основе слайдов из сценариев или подсказок. Получаемые видео имитируют эстетику профессионального презентационного программного обеспечения, что делает их ценным инструментом для создания качественного видеоконтента, управляемого ИИ.

Magic Time: разработанный исследовательской группой, Magic Time - это специализированный генератор видео, ориентированный на создание высококачественных видео с эффектом таймлапса. Просто предоставив подсказку, пользователи могут генерировать визуально впечатляющие видео с эффектом таймлапса, таких как растущие растения или строительные проекты. Открытый исходный код и демо-версия Hugging Face делают Magic Time доступным для экспериментов и интеграции в различные видеоконвейеры.

Эти инструменты для создания видео с использованием ИИ демонстрируют быстрый прогресс в области генеративных возможностей, позволяя создателям упростить процесс производства видео и исследовать новые творческие направления. По мере развития этой технологии ее влияние на ландшафт создания контента, вероятно, будет значительным.

Согласно расшифровке, в Конгресс США был внесен новый законопроект, который направлен на то, чтобы заставить компании, занимающиеся искусственным интеллектом, раскрывать защищенные авторским правом материалы, которые они используют для обучения своих генеративных моделей ИИ. Ключевые моменты:

• Законопроект обяжет компании ИИ подавать отчет о защищенных авторским правом материалах, которые они использовали для обучения своих моделей, как минимум за 30 дней до выпуска модели ИИ.

• Это рассматривается как шаг к повышению прозрачности, поскольку некоторые из крупнейших технологических компаний, таких как Google, Microsoft и Meta, могут не захотеть раскрывать данные, которые они использовали для обучения.

• Существуют опасения, что эти мощные компании могут лоббировать против законопроекта, чтобы не допустить его принятия.

• Предлагаемое законодательство появляется на фоне растущего контроля за данными, используемыми для обучения крупных языковых моделей, при этом сообщается, что OpenAI, возможно, использовала более миллиона часов видео с YouTube для обучения GPT-4.

• Законопроект призван устранить отсутствие прозрачности в отношении данных для обучения, используемых компаниями ИИ, которые могут включать защищенные авторским правом материалы из различных источников.

Разработчик карточной игры недавно сделал значительные инвестиции в искусство, созданное с помощью ИИ, заплатив художнику ИИ 90 000 долларов за создание иллюстраций для карт. Хотя термин "художник ИИ" может быть предметом дискуссий, этот подход подчеркивает потенциал ИИ для помощи художникам в создании высококачественного контента в больших масштабах.

Разработчик обнаружил, что ни один человеческий художник не смог соответствовать качеству изображений, созданных с помощью ИИ. Однако процесс включал в себя больше, чем просто нажатие кнопки и предоставление работы ИИ. Разработчик затем доработал и усовершенствовал изображения, созданные с помощью ИИ, используя Photoshop и другие инструменты для редактирования изображений, чтобы обеспечить соответствие цветов, согласованность и общий стиль желаемой эстетике.

Этот подход демонстрирует силу искусства, созданного с помощью ИИ, когда ИИ генерирует первоначальную концепцию, а человеческий художник затем дорабатывает и совершенствует результат, чтобы достичь желаемого результата. Используя ИИ, разработчик смог эффективно создать большое количество изображений для карт, сохранив при этом художественный подход и контроль качества, необходимые для их проекта.

Успех этого начинания подчеркивает растущую роль ИИ в творческих отраслях, где он может использоваться как мощный инструмент для дополнения и улучшения работы человеческих художников, а не для их полной замены. По мере дальнейшего развития технологии ИИ мы можем ожидать увидеть больше примеров такого искусства, созданного с помощью ИИ, где сотрудничество между людьми и машинами приводит к инновационным и высококачественным творческим результатам.

Быстрый прогресс в области крупных языковых моделей и технологий ИИ действительно впечатляет. На этой неделе было сделано множество захватывающих объявлений, от доступности Gemini 1.5 с его впечатляющим окном контекста в 1 миллион токенов до выпуска GPT-4 Turbo и открытых моделей Stable LM2 и Mixr 8X 22B.

Конкуренция между технологическими гигантами по разработке собственных чипов ИИ и снижению зависимости от NVIDIA - еще одно захватывающее событие, при этом Google, Intel и Meta представили новые процессоры, ориентированные на ИИ. Возможность генерировать анимацию и видео с помощью ИИ, продемонстрированная в Image-in-2 Google и проекте Magic Time, также является значительным шагом вперед.

Потенциальные последствия этих достижений, как положительные, так и вызывающие опасения, огромны. Введение законопроектов, обязывающих компании ИИ раскрывать источники своих данных для обучения, является важным шагом в решении вопросов прозрачности и подотчетности. В то же время подход Adobe к прямой покупке видеоконтента у создателей для обучения своих моделей может стать моделью для будущего.

В целом, ландшафт ИИ продолжает развиваться стремительными темпами, с появлением новых возможностей и проблем на еженедельной основе. Как энтузиаст ИИ, это захватывающее время, чтобы следить за этими событиями и рассматривать этические и практические последствия для бизнеса, создателей и общества в целом.