设置
最新更新:2024-02-20

设置

image-20240408183123838

在这里,您可以对 Bot 进行各种类型的基本参数配置,配置的结果将直接影响 Bot 的表现。

LLM

image-20240408183212395

在这里,您可以对 Bot 的 LLM 参数进行设置。

  • LLM:Bot 所使用的 LLM。
  • 温度:也可被理解为「创造力」。数值越高,则 LLM 的发散性越强,即 LLM 能回复非常具有创造性的结果,但同时也意味着存在不可控的可能性;数值越低,则收敛性越强,即 LLM 的回复会更加严谨而稳定。
  • 身份提示:决定了 Bot 「将会成为一个什么样的实体」。您可以在身份提示内,为 Bot 设定其角色、目标、任务、流程、限制、技能等,以让 Bot 对自己的角色定位有更加清晰的认知,并最终能按您的期望去执行任务。您也可以点击右上角「AI」,让 AI 基于您当前的身份提示内容进行优化。AI 将基于科学的「提示词工程」框架,为您撰写一个更加高效、科学的身份提示。
  • Token 分配:用于分配不同类型的内容占用 LLM 上下文窗口的比例。

知识库

使用"用户问题"在知识库内执行检索,并召回若干知识块,作为上下文的一部分,提交给 LLM 执行任务。 alt text 在知识库模块,可以对 Bot 如何使用知识库进行设置。

知识数量

当前该 Bot 可用于检索的知识文档梳理

知识召回机制

alt text 相关性:用户提问与知识块之间的语义相关性,仅大于等于该值的知识块会被用作 Bot 回答的参考资料。

召回数量:可自定义检索后召回的最大知识块数量,数量的多少将影响 Bot 回复质量和 Tokens 的消耗。

检索比重:检索时,语义检索和关键词检索影响最终检索结果的权重占比。

  • 关键词检索:使用用户问题去检索知识库中的词汇最匹配的知识块,适合于文档结构相似且文档梳理众多的业务场景,如:上市财报数据,商品信息数据等。
  • 语义检索:使用用户问题去检索知识库中的语义最匹配的知识块,几乎适用于所有业务场景。

知识重排:将全部符合「相关性」得分条件所召回的知识块,再次提交给选定的重排模型进行相似性排序,返回 top K(指定召回数量)的知识块并向 LLM 提交。重排机制可以让 LLM 拥有更加精准的知识上下文,有效提升 LLM 的响应质量。

知识检索为空

当检索知识库的召回数量为 0 时,Bot 的应答策略。

知识引用展示

在对话界面,是否展示每一条 LLM 响应结果的来源知识信息。

Tool

image-20240408183902855

在这里,您可以配置 Bot 所需要使用到的 Tool。

您可以在身份提示内,为 Bot 定义使用 Tool 的时机。结构:

use the {Tool} plugin/tool to {目的/任务} when {时机}.
          use the {Tool} plugin/tool to {目的/任务} when {时机}.

        
此代码块在浮窗中显示

例如,若您想让 Bot 基于生成的故事的主要内容,调用DALL-E-3来绘制插画,则可以这么写:

use the `DALL-E-3` plugin to generate cartoons style paintings for the pivotal scenes of the story when the whole story generation is done.
          use the `DALL-E-3` plugin to generate cartoons style paintings for the pivotal scenes of the story when the whole story generation is done.

        
此代码块在浮窗中显示

记忆

image-20240408183921572

在这里,您可以配置 Bot 对话过程中需要使用的记忆能力。

  • 短期记忆:可设置将最近几轮对话内容作为记忆,「一问一答」视为一轮对话。
  • 长期记忆:将更长的对话内容作为记忆。

若关闭记忆能力,则与 Bot 的对话将不具备上下文能力,每一轮对话都将是独立的。

欢迎与引导

image-20240408183945797

在这里,您可以为 Bot 配置欢迎语及用户引导信息。

  • 欢迎语:当用户访问 Bot 时,Bot 将自动以该欢迎语向用户打招呼。
  • 建议问题:当 Bot 回复结束后,Bot 将自动为用户提供 3 个可用于继续对话的问题,以引导用户继续与 Bot 对话。

输入

image-20240408184053392

  • 最大图片数:在与 Bot 对话时,可输入的最大图片数。
  • 上传图片质量:向 Bot 输入的图片的质量。质量越高,MLLM 的响应质量越好。
  • 语音输入:是否允许向 Bot 输入语音。该能力可以将用户的语音输入转为文本并提交给 Bot。

输出

image-20240408184143575

  • 语音输出:是否允许将 Bot 的输出内容转为语音。
  • 声音:Bot 输出内容的语音的声音。
  • 声音质量:Bot 输出内容的语音的声音质量。
  • 文本输出语言:定义 Bot 的输出语言。

调试

image-20240220152937467

在这里,您可以与 Bot 的对话,实时感受参数设置调整后的效果。

同时,您也可以利用这里的对话内容,对 Bot 进行训练。