Libérez les super-pouvoirs de l'IA : la plateforme tout-en-un d'OnDemand intègre les LLM, les plugins et les agents/applications IA

On Demand est une plateforme IA qui offre une large gamme de fonctionnalités pour permettre aux utilisateurs de créer et d'héberger des modèles IA. Plongeons dans les principales fonctionnalités de cette plateforme :

Apportez votre propre modèle (BYOM)

La fonctionnalité BYOM vous permet d'intégrer vos modèles IA personnalisés dans la plateforme On Demand. Vous pouvez vous connecter à votre compte Hugging Face et sélectionner dans une vaste bibliothèque de modèles pré-entraînés à déployer sur la plateforme. Ce niveau de personnalisation vous permet d'expérimenter avec des modèles adaptés à vos cas d'utilisation spécifiques.

Apportez votre propre inférence (BYOI)

La fonctionnalité BYOI vous permet d'apporter votre propre serveur d'inférence et de l'intégrer à la plateforme On Demand. Vous pouvez créer un point de terminaison, spécifier le type de point de terminaison et fournir l'URL pour connecter votre serveur d'inférence personnalisé. Cette flexibilité vous permet de tirer parti de votre infrastructure et de vos workflows existants.

Applications sans serveur

On Demand fournit une fonctionnalité d'application sans serveur, vous permettant de créer et de gérer vos propres référentiels sans serveur. Vous pouvez connecter ces référentiels à partir de plateformes comme GitHub ou Bitbucket, vous permettant d'intégrer en douceur des fonctionnalités alimentées par l'IA dans vos applications.

Services cloud

La plateforme propose une gamme de services cloud, notamment la reconnaissance vocale, la synthèse vocale et la traduction de langues. Ces services peuvent être facilement intégrés dans vos workflows en copiant les URL de point de terminaison fournies et en les incorporant dans vos applications.

Création d'agents

L'une des principales fonctionnalités d'On Demand est la possibilité de créer vos propres agents IA. Vous pouvez choisir parmi différents adaptateurs d'agents, tels que les agents API REST ou les agents basés sur les connaissances, et les personnaliser avec des actions, des flux et des démarreurs de conversation spécifiques. Cela vous permet de construire des assistants IA sur mesure pour automatiser diverses tâches.

Suivi de l'utilisation

L'onglet Utilisation dans On Demand fournit un suivi complet de l'utilisation de votre plateforme, y compris des métriques liées à vos documents, audio, vidéos et images. Cette fonctionnalité vous aide à surveiller et à optimiser l'utilisation de vos ressources.

En explorant ces fonctionnalités, vous pouvez exploiter tout le potentiel de la plateforme IA On Demand et créer des solutions sophistiquées alimentées par l'IA pour répondre à vos besoins professionnels ou personnels.

On Demand propose une fonctionnalité puissante appelée "Apportez votre propre modèle" (BYOM) qui vous permet de déployer et d'utiliser vos propres modèles IA personnalisés, au-delà de ceux proposés par la plateforme. Cela vous offre un niveau élevé de personnalisation et de flexibilité pour expérimenter avec des modèles qui ne sont pas natifs d'On Demand.

Pour commencer avec BYOM :

1. Cliquez sur le bouton "Déployer le modèle" dans la section de gestion BYOM.
2. Connectez-vous avec votre compte Hugging Face et sélectionnez le modèle que vous souhaitez déployer dans le référentiel de modèles Hugging Face.
3. Saisissez l'ID de votre modèle Hugging Face ou l'ID de votre référentiel, puis cliquez sur "Déployer" pour ajouter votre modèle personnalisé à On Demand.

Une fois votre modèle déployé, vous devrez créer un point de terminaison pour celui-ci. Pour ce faire :

1. Cliquez sur le menu déroulant sous la section BYOM et sélectionnez "Déployer le point de terminaison".
2. Recherchez le modèle que vous venez de déployer et saisissez un nom pour le point de terminaison.
3. Choisissez le type d'instance (CPU, GPU, etc.) et configurez les paramètres supplémentaires, comme la mise à l'échelle automatique.
4. Cliquez sur "Déployer" pour créer le point de terminaison de votre modèle personnalisé.

Avec votre modèle personnalisé déployé et un point de terminaison créé, vous pouvez maintenant l'utiliser dans les différentes fonctionnalités et services proposés par On Demand, tels que le Playground, les applications sans serveur et la création d'agents.

La fonctionnalité "Apportez votre propre inférence" (BYOI) dans On Demand vous permet d'intégrer vos propres serveurs d'inférence personnalisés à la plateforme. Cela offre un niveau élevé de personnalisation, vous permettant d'utiliser vos propres modèles et serveurs d'inférence spécialisés, plutôt que d'être limité aux modèles fournis par On Demand.

Pour configurer un serveur d'inférence personnalisé, suivez ces étapes :

1. Cliquez sur le bouton "Créer un point de terminaison" en haut à droite.
2. Spécifiez un nom pour votre point de terminaison.
3. Sélectionnez le "Type de point de terminaison" comme "Inférence personnalisée".
4. Saisissez l'URL de votre serveur d'inférence personnalisé.
5. Cliquez sur "Créer le point de terminaison" pour enregistrer la configuration.

Une fois votre point de terminaison d'inférence personnalisé configuré, vous pouvez maintenant l'utiliser dans diverses fonctionnalités d'On Demand, comme le déploiement de vos propres modèles, la création d'agents IA et l'intégration avec des applications sans serveur. Cela vous permet de tirer parti de vos capacités d'inférence uniques et de les intégrer de manière transparente à la plateforme On Demand.

La plateforme IA On Demand offre la possibilité d'utiliser des référentiels sans serveur et des services cloud pour améliorer vos capacités IA. Voici comment vous pouvez tirer parti de ces fonctionnalités :

1. Référentiels sans serveur :

   • Vous pouvez connecter vos référentiels GitHub ou Bitbucket à On Demand.
   • Une fois connectés, vous pouvez accéder et déployer des applications sans serveur à partir de ces référentiels.
   • Cela vous permet d'intégrer votre code personnalisé et de l'exploiter au sein de la plateforme On Demand.

2. Services cloud :

   • On Demand propose une gamme de services cloud que vous pouvez utiliser, comme la reconnaissance vocale, la synthèse vocale et la traduction de langues.
   • Vous pouvez explorer les services cloud disponibles et copier les URL de point de terminaison fournies pour les intégrer dans vos applications ou workflows.
   • Ces services cloud sont facturés en fonction de l'utilisation, vous permettant de faire évoluer vos capacités IA selon vos besoins.

En tirant parti des référentiels sans serveur et des services cloud, vous pouvez étendre les fonctionnalités de la plateforme On Demand et créer des solutions IA plus sophistiquées adaptées à vos besoins spécifiques. Cette flexibilité et ces capacités d'intégration font d'On Demand une plateforme puissante pour la construction et le déploiement d'applications IA personnalisées.

La fonctionnalité de création d'agents d'On Demand vous permet de construire des agents IA sophistiqués pour automatiser diverses tâches. Voici comment vous pouvez vous y mettre :

1. Choisir un adaptateur d'agent : Sélectionnez le type d'agent que vous souhaitez créer, comme un agent API REST ou un agent basé sur les connaissances. Cela détermine les capacités et les options d'intégration de votre agent.

2. Configurer les détails de l'agent : Fournissez un nom, une catégorie et une description pour votre agent. Ajoutez des démarreurs de conversation pour définir comment l'agent doit initier les interactions.

3. Définir les champs de l'agent : Configurez les noms, les types et les portées des données avec lesquelles votre agent travaillera. Cela vous permet de structurer les informations que votre agent utilisera.

4. Intégrer des API externes : Pour un agent API REST, vous pouvez vous connecter à des API externes et définir des actions ou des flux personnalisés pour intégrer leurs fonctionnalités dans votre agent.

5. Exploiter les bases de connaissances : Les agents basés sur les connaissances peuvent utiliser le stockage et les données disponibles dans On Demand, vous permettant de construire des agents qui peuvent accéder et traiter vos propres informations.

6. Tester et affiner : Utilisez la fonctionnalité Playground pour tester les capacités de votre agent, essayer différentes invites et apporter des ajustements pour optimiser ses performances.

Grâce à ces puissants outils de création d'agents, vous pouvez créer des assistants IA personnalisés pour automatiser une large gamme de tâches, du support client à l'analyse de données et au-delà. Explorez tout le potentiel des capacités de création d'agents d'On Demand pour rationaliser vos workflows et débloquer de nouveaux niveaux de productivité.

L'onglet Utilisation de la plateforme On Demand fournit des informations précieuses et des capacités de surveillance de vos activités. Cette section vous permet de suivre et d'analyser divers aspects de votre utilisation, notamment :

• Documents : Suivez le stockage et l'utilisation de vos documents téléchargés, tels que les fichiers texte, les PDF, etc.
• Audio : Suivez l'utilisation et le stockage de tous les fichiers audio que vous avez téléchargés ou traités via la plateforme.
• Vidéos : Gérez le stockage et l'utilisation de vos fichiers vidéo.
• Images : Suivez l'utilisation et le stockage de vos images téléchargées.

L'onglet Utilisation vous donne un aperçu complet de votre utilisation de la plateforme, vous permettant de prendre des décisions éclairées et d'optimiser vos workflows. Vous pouvez facilement accéder à des métriques d'utilisation détaillées, suivre les tendances et identifier les domaines à améliorer. Cette fonctionnalité vous permet de garder le contrôle de votre expérience On Demand et d'assurer une utilisation efficace des ressources.

On Demand est une plateforme IA impressionnante qui offre une large gamme de fonctionnalités et de capacités. Elle permet aux utilisateurs de créer et d'héberger leurs propres modèles IA, de construire des agents IA sophistiqués, de déployer des applications sans serveur et d'intégrer divers services cloud. L'interface conviviale et les outils graphiques de la plateforme la rendent accessible aux utilisateurs ayant des antécédents techniques variés.

Les principaux points forts d'On Demand sont :

1. Apportez votre propre modèle (BYOM) : Les utilisateurs peuvent déployer leurs propres modèles IA personnalisés, offrant un niveau élevé de personnalisation et de flexibilité.
2. Apportez votre propre inférence (BYOI) : Les utilisateurs peuvent intégrer leurs propres serveurs d'inférence à la plateforme, permettant l'utilisation de capacités d'inférence personnalisées.
3. Applications sans serveur : Les utilisateurs peuvent créer et déployer leurs propres applications sans serveur, en tirant parti des services cloud de la plateforme.
4. Agents IA : Les utilisateurs peuvent facilement créer et configurer leurs propres agents IA, adaptés à des cas d'utilisation et des workflows spécifiques.
5. Marché : La plateforme propose un marché d'agents, permettant aux utilisateurs de déployer rapidement des agents pré-construits pour diverses tâches.

Dans l'ensemble, On Demand est une plateforme IA puissante et polyvalente qui permet aux utilisateurs de tirer parti de la puissance de l'IA dans leurs applications et workflows. Son ensemble complet de fonctionnalités et sa capacité à intégrer des modèles et une infrastructure personnalisés en font un choix convaincant pour les entreprises et les particuliers qui cherchent à exploiter l'IA dans leurs projets.