简介

GPTBots 将 LLM 与企业数据、服务能力无缝连接，高效构建 AI Bot 服务。可轻松将 AI Bot 能力深度融合到企业实际业务中，让 AI 驱动业务增长和效率提升。

GPTBots 产品特点

GPTBots 产品具有以下优势和特点：

LLMs

• 支持开箱即用主流商业大模型、开源大模型、专业领域模型和微调定制模型；
• 无需再购入巨大精力在 LLM 部署、微调等工作，让开发者更专注企业核心业务；
• 无论商业或开源模型，都可以基于知识库数据、用户对话数据快速生成模型微调所需数据用于模型微调。

知识库

• 支持 doc/docx、pdf、txt、markdown、csv、xls/xlsx、网页爬取、Q&A 等各类型知识数据；
• 针对不同类型数据，使用不同的数据解析与切分方案，提升数据质量和完整性；
• 支持稀疏向量+ 稠密向量混合搜索方案，以提升知识召回准确率。
• 支持知识文档进行切片维度的管理、编辑和更新

Plugins

• 面对特定领域的需求，开发者可以通过 Plugin 得到非常好解决方案（如：投资分析、输出文件、商品推荐、服务预定等）；
• 开发者通过插件可以实现与企业数据、服务能力无缝连接，同时保障企业数据安全；
• GPTBots 不仅提供了官方插件，也支持三方开发者基于自身服务能力公开发布插件。

Flow Bot

• 面对复杂需求和问题时，开发者可以通过 Flow 实现多个 LLM 的可视化编排工作流程；
• 定义职能单一、输出明确的「专职 LLM」以提升质量和稳定性；
• 多个「专职 LLM」 和「功能组件」通过 Flow 串行或并行的工作以解决复杂问题。

训练 Bot

• 聊天记录支持质量评分、关键词、主题总结等，让开发者更容易洞察用户关注所在；
• 支持对用户问题进行总结、归纳和分类，帮助开发者了解用户的高频问题，以针对性的优化和补充相关知识；
• Bot 训练模式支持对「对话内容」进行实时修正，可持续训练 Bot 以实现更佳响应。

GPTBots 产品是如何解决 LLM 在企业落地难题？

LLM幻觉问题

LLM 产生幻觉主要跟模型底层架构和训练数据有关。幻觉会让企业的LLM应用变得不可靠、不可信，甚至可能有害。

• 准确的知识补充上下文；
• Bot训练和LLM微调来修正模型；
• 为LLM设计反思机制和验证工具；
• 优化Prompt限定回答范围。

通用 LLM 缺少垂域知识

通用LLM由于缺乏垂域知识，无法给出正确响应。导致企业无法将 LLM 用于解决企业业务问题。另外单独针对各垂直场景训练模型成本过高。

• 知识库支持精准知识召回；
• 轻松导入非结构化知识数据；
• 支持连接和识别结构化数据；
• 插件打通企业内部垂域知识。

单个LLM无法解决企业业务场景的复杂任务

LLM 的复杂推理能力仍然薄弱，无法有效解决企业的复杂任务。而单点单线程的任务，无法满足企业实际业务场景所需。

• 把复杂问题拆解为多个分支；
• Flow支持多个多版本LLM协同；
• LLM具备长短记忆/插件/知识库等能力；
• 将外部反馈和信息融入LLM响应流程。

AI 应用在企业落地难

LLM 落地涉及合规、数据、算力、工程和算法。任一环节出现质量问题，LLM在应用场景上都大打折扣。尤其是涉及开源模型上的使用，硬件和人力均会导致成本急剧上升。

• 提供简单、高效的LLMOps平台；
• 解决知识数据载入和召回难题；
• 提供开箱即用的AI Bot构建能力；
• 丰富完善的API和SDK。

企业在 AI 领域人才储备不足

需要企业在 AI 领域的人才具备数据、算法、工程和业务等方面的能力。对于企业而言，AI 人才储备不足、培养慢和成本高。

• 近乎零门槛的使用GPTBots；
• 为产品运营人员Bot训练和微调LLM能力；
• 无需过多的 AI 专业领域知识，企业业务人员也可以训练和优化Bot；
• 开发人员通过API接口完成接入。