平台内置大语言模型、Text Eembedding和Rerank,用户可以快速进行智能体应用的搭建和发布。如果需要使用指定模型,可以点击左侧功能栏的模型管理页面内添加并配置所需要的模型。
平台目前已支持主流的模型供应商。不同模型的表现能力、参数类型会不一样,可以根据不同情境的应用需求选择模型供应商。在应用模型能力前,需要前往不同的模型厂商官网获取平台专属的APIkey。
在平台中,可根据模型使用场景将模型分为以下几类:
基础模型
Embedding模型
Rerank模型模型添加与管理
1. 模型添加与管理
- 内置模型:平台已为用户内置大模型、Text Embedding和Rerank模型,方便用户快速进行应用开发。
- 支持用户自定义添加第三方模型,支持以下两种自定义模型类型。

- 添加和编辑本地模型,以下为三类模型添加所需信息
- 基础模型:需填入模型名称、服务器URL、上下文大小,选择Completion type。
- Text Embedding:需填入模型名称、服务器URL。
- Rerank:需填入模型名称、服务器URL。

- 添加和编辑公有云模型
- 目前支持公有云模型包括:Baichuan、文心一言、智谱AI、通义千问、月之暗面、Deepseek、Volcengine(火山引擎)、天翼云。
- 添加公有云模型需前往模型提供方官网申请API Key,后填写至平台后使用。
- 已导入的公有云模型详情中展示此模型提供方全部支持的模型,点击右侧开关可以对模型设置是否生效。仅设置为生效的模型可以在应用和工具中使用。
