釋放 AI 超能力:OnDemand 全方位平台整合 LLM、插件和 AI 代理/應用程式

使用 OnDemand 的全方位平台提升您的 AI 能力。整合 LLM、插件和自訂 AI 代理/應用程式。輕鬆簡化工作流程並自動化任務。

2025年1月24日

party-gif

發現一個全方位的 AI 平台,讓您能夠整合大型語言模型、利用插件,並輕鬆創建複雜的 AI 代理和應用程式。解鎖 AI 的全部潛力,自動化任務、提升業務運營,並推動創新。

探索按需 AI 平台功能

「隨選」是一個 AI 平台,提供各種功能來幫助使用者創建和託管 AI 模型。讓我們深入了解這個平台的主要功能:

自帶模型 (BYOM)

自帶模型功能允許您將自訂的 AI 模型整合到「隨選」平台。您可以連接您的 Hugging Face 帳戶,從大量的預訓練模型中選擇部署在平台上。這種定制化程度讓您可以嘗試針對特定用例的模型。

自帶推理 (BYOI)

自帶推理功能讓您可以引入自己的推理伺服器並與「隨選」平台整合。您可以創建一個端點,指定端點類型,並提供 URL 來連接您的自訂推理伺服器。這種靈活性讓您可以利用現有的基礎設施和工作流程。

無伺服器應用程式

「隨選」提供無伺服器應用程式功能,讓您可以創建和管理自己的無伺服器儲存庫。您可以從 GitHub 或 Bitbucket 等平台連接這些儲存庫,使您能夠無縫地將 AI 驅動的功能整合到您的應用程式中。

雲端服務

該平台提供一系列雲端服務,包括語音轉文字、文字轉語音和語言翻譯。您可以輕鬆地將這些服務整合到您的工作流程中,只需複製提供的端點 URL 並將其納入您的應用程式。

代理程式創建

「隨選」的一大亮點是能夠創建自己的 AI 代理程式。您可以選擇不同的代理程式配接器,如 REST API 代理程式或知識型代理程式,並使用特定的動作、流程和對話啟動器進行定制。這使您能夠構建量身定制的 AI 助手來自動化各種任務。

使用情況追蹤

「隨選」的使用情況頁面提供了對您的平台使用情況的全面追蹤,包括與您的文件、音頻、視頻和圖像相關的指標。這個功能可以幫助您監控和優化資源利用。

通過探索這些功能,您可以釋放「隨選」AI 平台的全部潛力,並創建複雜的 AI 驅動解決方案來滿足您的業務或個人需求。

帶來您自己的模型 (BYOM) 並部署自訂 AI 模型

「隨選」提供了一個強大的功能,稱為「自帶模型」(BYOM),允許您部署和使用自己的自訂 AI 模型,而不僅限於平台提供的模型。這為您提供了高度的定制和靈活性,讓您可以嘗試在「隨選」上原生不可用的模型。

開始使用 BYOM:

  1. 在 BYOM 管理部分點擊「部署模型」按鈕。
  2. 使用您的 Hugging Face 帳戶登錄,並從 Hugging Face 模型儲存庫中選擇要部署的模型。
  3. 輸入您的 Hugging Face 模型 ID 或儲存庫 ID,然後點擊「部署」將您的自訂模型添加到「隨選」。

部署您的模型後,您需要為其創建一個端點。操作如下:

  1. 在 BYOM 部分的下拉菜單中選擇「部署端點」。
  2. 搜索您剛剛部署的模型,並為端點輸入一個名稱。
  3. 選擇實例類型(CPU、GPU 等)並配置任何其他設置,如自動擴展。
  4. 點擊「部署」創建您自訂模型的端點。

部署您的自訂模型並創建端點後,您現在可以在「隨選」提供的各種功能和服務中使用它,如遊樂場、無伺服器應用程式和代理程式創建。

帶來您自己的推論 (BYOI) 並整合自訂推論伺服器

「隨選」的「自帶推理」(BYOI)功能允許您將自己的自訂推理伺服器與平台整合。這提供了高度的定制性,使您能夠利用自己的專門推理模型和伺服器,而不僅限於「隨選」提供的模型。

設置自訂推理伺服器的步驟如下:

  1. 點擊右上角的「創建端點」按鈕。
  2. 為您的端點指定一個名稱。
  3. 將「端點類型」選為「自訂推理」。
  4. 輸入您的自訂推理伺服器的 URL。
  5. 點擊「創建端點」保存配置。

設置好您的自訂推理端點後,您現在可以在「隨選」的各種功能中使用它,如部署自己的模型、創建 AI 代理程式和與無伺服器應用程式整合。這使您能夠利用您獨特的推理功能,並將其無縫地納入「隨選」平台。

利用無伺服器儲存庫和雲端服務

「隨選」AI 平台提供了利用無伺服器儲存庫和雲端服務來增強 AI 功能的能力。以下是您如何利用這些功能:

  1. 無伺服器儲存庫:

    • 您可以將您的 GitHub 或 Bitbucket 儲存庫連接到「隨選」。
    • 連接後,您可以訪問並部署來自這些儲存庫的無伺服器應用程式。
    • 這使您能夠整合自訂代碼並在「隨選」平台內加以利用。
  2. 雲端服務:

    • 「隨選」提供了一系列您可以利用的雲端服務,如語音轉文字、文字轉語音和語言翻譯。
    • 您可以探索可用的雲端服務並複製提供的端點 URL,將其整合到您的應用程式或工作流程中。
    • 這些雲端服務根據使用情況計費,讓您可以根據需要擴展 AI 功能。

通過利用無伺服器儲存庫和雲端服務,您可以擴展「隨選」平台的功能,並創建更複雜的 AI 驅動解決方案,以滿足您的特定需求。這種靈活性和整合能力使「隨選」成為構建和部署自訂 AI 應用程式的強大平台。

創建高級 AI 代理以自動化任務

「隨選」的代理程式創建功能允許您構建複雜的 AI 代理程式來自動化各種任務。以下是您如何開始使用:

  1. 選擇代理程式配接器: 選擇要創建的代理程式類型,如 REST API 代理程式或知識型代理程式。這決定了您的代理程式的功能和整合選項。

  2. 配置代理程式詳細資訊: 為您的代理程式提供名稱、類別和描述。添加對話啟動器來定義代理程式應如何開始互動。

  3. 定義代理程式欄位: 配置代理程式將使用的資料的關鍵名稱、類型和範圍。這允許您構建代理程式將使用的資訊結構。

  4. 整合外部 API: 對於 REST API 代理程式,您可以連接到外部 API,並定義自訂動作或流程來將其功能整合到您的代理程式中。

  5. 利用知識庫: 知識型代理程式可以利用「隨選」內部的儲存和資料,讓您構建能夠訪問和處理您自己資訊的代理程式。

  6. 測試和完善: 使用遊樂場功能測試您代理程式的功能,嘗試不同的提示,並進行調整以優化其性能。

利用這些強大的代理程式構建工具,您可以創建自訂的 AI 助手來自動化各種任務,從客戶支援到資料分析等。探索「隨選」代理程式創建功能的全部潛力,以簡化您的工作流程並提升生產力。

使用使用情況標籤監控使用情況和見解

「隨選」平台上的使用情況頁面提供了寶貴的洞察力和監控功能。此部分允許您跟蹤和分析您的各種使用情況,包括:

  • 文件: 監控您上傳的文本文件、PDF 等文件的儲存和使用情況。
  • 音頻: 跟蹤您上傳或通過平台處理的任何音頻文件的使用和儲存情況。
  • 視頻: 管理您上傳的視頻文件的儲存和使用情況。
  • 圖像: 監控您上傳圖像的使用和儲存情況。

使用情況頁面為您提供了對平台使用情況的全面概覽,使您能夠做出明智的決策並優化您的工作流程。您可以輕鬆訪問詳細的使用指標,跟蹤趨勢,並識別需要改進的領域。這個功能使您能夠掌控您的「隨選」體驗,並確保有效利用資源。

結論

「隨選」是一個令人印象深刻的 AI 平台,提供了廣泛的功能和能力。它允許使用者創建和託管自己的 AI 模型、構建複雜的 AI 代理程式、部署無伺服器應用程式,並與各種雲端服務整合。該平台友好的使用者界面和圖形工具使其能夠為具有不同技術背景的使用者所用。

「隨選」的主要亮點包括:

  1. 自帶模型 (BYOM): 使用者可以部署自己的自訂 AI 模型,提供高度的定制和靈活性。
  2. 自帶推理 (BYOI): 使用者可以將自己的推理伺服器與平台整合,使用自訂的推理功能。
  3. 無伺服器應用程式: 使用者可以創建和部署自己的無伺服器應用程式,利用平台的雲端服務。
  4. AI 代理程式: 使用者可以輕鬆創建和配置自己的 AI 代理程式,針對特定用例和工作流程進行定制。
  5. 市場: 該平台提供代理程式市場,讓使用者可以快速部署預建的代理程式來執行各種任務。

總的來說,「隨選」是一個強大而多功能的 AI 平台,賦予使用者利用 AI 技術來構建應用程式和工作流程的能力。其全面的功能集以及整合自訂模型和基礎設施的能力,使其成為企業和個人尋求利用 AI 的理想選擇。

常問問題