logo
開發者文件
搜尋
配置

配置

image-20240408183132690

在這裡,您可以設定各種基本參數來調整 Agent(代理人)的行為與效能。所有設定都會直接影響 Agent 的實際表現。

LLM

image-20240408183235093

在此,您可以設定 Agent 所使用的語言模型(LLM)相關參數。

  • LLM:Agent 所使用的語言模型(LLM)。
  • 溫度(Temperature):可理解為「創造力」。數值越高,模型生成內容的發散性越強,能產生更具創意的回應,但也可能較難控制;數值越低,模型回應會更嚴謹、穩定。
  • 身份提示(Identity prompt):決定 Agent 的角色定位及其將成為的實體類型。您可以在此設定 Agent 的角色、目標、任務、流程、限制、技能等,讓 Agent 更清楚自身定位,並依您的期望執行任務。您也可以點選右上角的「AI」按鈕,根據目前的身份提示優化內容。AI 會依據科學的提示工程(Prompt Engineering,設計提示以優化 AI 回應的技術)框架,為您生成更高效、科學的身份提示。
  • Token 配置:用於分配不同類型內容在 LLM 上下文視窗中所佔的比例。

知識庫

Agent 會根據用戶輸入在知識庫中進行向量檢索,回調多個知識片段作為上下文,並提交給 LLM 執行任務。

image-20240408183627699

在此,您可以設定 Agent 如何使用知識庫。

  • 檢索範圍:可檢索的知識文件數量。
  • 回調機制:
    • 關聯性:用戶問題與知識片段之間的語意相關性,只有大於等於此值的知識片段才會被用作 Agent 回答的參考。
    • 最大回調數量:檢索後最多回調的知識片段數量。
    • 檢索權重:設定向量檢索與關鍵字檢索策略的權重分配。
  • 回退回應模式:當知識庫無法回調內容時,Agent 的回應策略。
  • 知識參考資訊顯示:是否在對話介面中顯示每次 LLM 回應結果的來源知識資訊。

工具

image-20240408183907967

您可以在此設定 Agent 所需的工具。

您可於身份提示中定義 Agent 使用工具的時機。結構如下:

將此翻譯為英文:使用 {Tool} 插件/工具來 {目的/任務},當 {時機}。
                      
                      將此翻譯為英文:使用 {Tool} 插件/工具來 {目的/任務},當 {時機}

                    
此代碼塊在浮窗中顯示

例如,若您希望 Agent 在生成故事主要內容後,調用 DALL-E-3 產生繪圖,可這樣撰寫:

使用 `DALL-E-3` 插件為故事的關鍵場景生成卡通風格的繪畫,當整個故事生成完成時。
                      
                      使用 `DALL-E-3` 插件為故事的關鍵場景生成卡通風格的繪畫,當整個故事生成完成時。

                    
此代碼塊在浮窗中顯示

記憶

image-20240702192734856

在此,您可以設定 Agent 在對話中所使用的記憶功能。

  • 短期記憶:您可以設定記住最近幾輪對話的內容,每次問答算作一輪。
  • 長期記憶:可記住更長時間的對話內容。
  • 用戶屬性:可預設用戶屬性於記憶中,讓 Agent 擁有用戶個人化資訊作為知識,提供更貼心的個人化服務。

若關閉記憶功能,與 Agent 的對話將不具備上下文理解,每輪對話皆為獨立。

歡迎與指引

image-20240408183949217

在此,您可以設定 Agent 的歡迎訊息與用戶指引資訊。

  • 問候語:當用戶造訪 Agent 時,Agent 會自動以此訊息向用戶問好。
  • 建議問題:Agent 回覆後,會自動提供 3 個可延續對話的建議問題,引導用戶持續互動。

輸入

image-20240408184055800

  • 圖片最大數量:與 Agent 對話時可上傳的圖片最大數量。
  • 上傳圖片品質:輸入到 Agent 的圖片品質。品質越高,MLLM 的回應品質越好。
  • 語音輸入:是否允許用戶以語音輸入與 Agent 對話。此功能可將語音轉為文字並提交給 Agent。

輸出

image-20240408184141129

  • 語音輸出:是否允許將 Agent 的回應內容轉為語音。
  • 聲音:Agent 輸出內容的語音類型。
  • 聲音品質:Agent 輸出內容的語音品質。
  • 文字輸出語言:設定 Agent 的回應語言。

調試

image-20240220152937467

在此,您可以直接與 Agent 對話,並即時體驗各項參數調整的效果。

同時,您也可以利用這裡的對話內容來訓練 Agent。