Dify
简体中文
简体中文
  • 入门
    • 欢迎使用 Dify
      • 特性与技术规格
      • 模型供应商列表
    • 云服务
    • 社区版
      • Docker Compose 部署
      • 本地源码启动
      • 宝塔面板部署
      • 单独启动前端 Docker 容器
      • 环境变量说明
      • 常见问题
    • Dify Premium
    • Dify 教育版
  • 手册
    • 接入大模型
      • 增加新供应商
      • 预定义模型接入
      • 自定义模型接入
      • 接口方法
      • 配置规则
      • 负载均衡
    • 构建应用
      • 创建应用
      • 聊天助手
        • 多模型调试
      • Agent
      • 应用工具箱
        • 敏感内容审查
    • 工作流
      • 关键概念
      • 变量
      • 节点说明
        • 开始
        • LLM
        • 知识检索
        • 问题分类
        • 条件分支
        • 代码执行
        • 模板转换
        • 文档提取器
        • 列表操作
        • 变量聚合
        • 变量赋值
        • 迭代
        • 参数提取
        • HTTP 请求
        • Agent
        • 工具
        • 结束
        • 直接回复
        • 循环
      • 快捷键
      • 编排节点
      • 文件上传
      • 异常处理
        • 预定义异常处理逻辑
        • 错误类型
      • 附加功能
      • 预览与调试
        • 预览与运行
        • 单步调试
        • 对话/运行日志
        • 检查清单
        • 运行历史
      • 应用发布
      • 结构化输出
      • 变更公告:图片上传被替换为文件上传
    • 知识库
      • 创建知识库
        • 1. 导入文本数据
          • 1.1 从 Notion 导入数据
          • 1.2 从网页导入数据
        • 2. 指定分段模式
        • 3. 设定索引方法与检索设置
      • 管理知识库
        • 维护知识库内文档
        • 通过 API 维护知识库
      • 元数据
      • 在应用内集成知识库
      • 召回测试/引用归属
      • 知识库请求频率限制
      • 连接外部知识库
      • 外部知识库 API
    • 工具
      • 快速接入工具
      • 高级接入工具
      • 工具配置
        • Google
        • Bing
        • SearchApi
        • StableDiffusion
        • Dall-e
        • Perplexity Search
        • AlphaVantage 股票分析
        • Youtube
        • SearXNG
        • Serper
        • SiliconFlow (支持 Flux 绘图)
        • ComfyUI
    • 发布
      • 发布为公开 Web 站点
        • Web 应用的设置
        • 文本生成型应用
        • 对话型应用
      • 嵌入网站
      • 基于 APIs 开发
      • 基于前端组件再开发
    • 标注
      • 日志与标注
      • 标注回复
    • 监测
      • 集成外部 Ops 工具
        • 集成 LangSmith
        • 集成 Langfuse
        • 集成 Opik
      • 数据分析
    • 扩展
      • API 扩展
        • 使用 Cloudflare Workers 部署 API Tools
        • 敏感内容审查
      • 代码扩展
        • 外部数据工具
        • 敏感内容审查
    • 协同
      • 发现
      • 邀请与管理成员
    • 管理
      • 应用管理
      • 团队成员管理
      • 个人账号管理
      • 订阅管理
      • 版本管理
  • 动手实验室
    • 初级
      • 如何搭建 AI 图片生成应用
      • AI Agent 实战:搭建个人在线旅游助手
    • 中级
      • 使用文件上传搭建文章理解助手
      • 使用知识库搭建智能客服机器人
      • ChatFlow 实战:搭建 Twitter 账号分析助手
  • 社区
    • 寻求支持
    • 成为贡献者
    • 为 Dify 文档做出贡献
  • 插件
    • 功能简介
    • 快速开始
      • 安装与使用插件
      • 插件开发
        • 初始化开发工具
        • Tool 插件
        • Model 插件
          • 创建模型供应商
          • 接入预定义模型
          • 接入自定义模型
        • Agent 策略插件
        • Extension 插件
        • Bundle 插件包
      • 插件调试
    • 插件管理
    • 接口定义
      • Manifest
      • Endpoint
      • Tool
      • Agent
      • Model
        • 模型设计规则
        • 模型接口
      • 通用规范定义
      • 持久化存储
      • 反向调用 Dify 服务
        • App
        • Model
        • Tool
        • Node
    • 最佳实践
      • 开发 Slack Bot 插件
      • Dify MCP 插件指南:一键连接 Zapier 并自动发送邮件
    • 发布插件
      • 自动发布插件
      • 发布至 Dify Marketplace
        • 插件开发者准则
        • 插件隐私政策准则
      • 发布至个人 GitHub 仓库
      • 本地发布与分享
      • 第三方签名验证
    • 常见问题
  • 研发
    • 后端
      • DifySandbox
        • 贡献指南
    • 模型接入
      • 接入 Hugging Face 上的开源模型
      • 接入 Replicate 上的开源模型
      • 接入 Xinference 部署的本地模型
      • 接入 OpenLLM 部署的本地模型
      • 接入 LocalAI 部署的本地模型
      • 接入 Ollama 部署的本地模型
      • 接入 LiteLLM 代理的模型
      • 接入 GPUStack 进行本地模型部署
      • 接入 AWS Bedrock 上的模型(DeepSeek)
    • 迁移
      • 将社区版迁移至 v1.0.0
  • 阅读更多
    • 应用案例
      • DeepSeek 与 Dify 集成指南:打造具备多轮思考的 AI 应用
      • 本地私有化部署 DeepSeek + Dify,构建你的专属私人 AI 助手
      • 如何训练出专属于“你”的问答机器人?
      • 教你十几分钟不用代码创建 Midjourney 提示词机器人
      • 构建一个 Notion AI 助手
      • 如何在几分钟内创建一个带有业务数据的官网 AI 智能客服
      • 使用全套开源工具构建 LLM 应用实战:在 Dify 调用 Baichuan 开源模型能力
      • 手把手教你把 Dify 接入微信生态
      • 使用 Dify 和 Twilio 构建 WhatsApp 机器人
      • 将 Dify 应用与钉钉机器人集成
      • 使用 Dify 和 Azure Bot Framework 构建 Microsoft Teams 机器人
      • 如何让 LLM 应用提供循序渐进的聊天体验?
      • 如何将 Dify Chatbot 集成至 Wix 网站?
      • 如何连接 AWS Bedrock 知识库?
      • 构建 Dify 应用定时任务助手
      • 如何在 Dify 内体验大模型“竞技场”?以 DeepSeek R1 VS o1 为例
      • 在 Dify 云端构建 AI Thesis Slack Bot
      • 将 Dify 快速接入 QQ、微信、飞书、钉钉、Telegram、Discord 等平台
    • 扩展阅读
      • 什么是 LLMOps?
      • 什么是数组变量?
      • 检索增强生成(RAG)
        • 混合检索
        • 重排序
        • 召回模式
      • 提示词编排
      • 如何使用 JSON Schema 让 LLM 输出遵循结构化格式的内容?
    • 常见问题
      • 本地部署
      • LLM 配置与使用
      • 插件
  • 政策
    • 开源许可证
    • 用户协议
      • 服务条款
      • 隐私政策
      • 获取合规报告
Powered by GitBook
On this page
  • Provider
  • AIModelEntity
  • ModelType
  • ConfigurateMethod
  • ModelFeature
  • FetchFrom
  • LLMMode
  • ParameterRule
  • PriceConfig
  • ProviderCredentialSchema
  • ModelCredentialSchema
  • CredentialFormSchema
  1. 插件
  2. 接口定义
  3. Model

模型设计规则

PreviousModelNext模型接口

Last updated 4 months ago

  • 模型供应商规则基于 实体。

  • 模型规则基于 实体。

以下所有实体均基于 Pydantic BaseModel,可在 entities 模块中找到对应实体。

Provider

  • provider (string) 供应商标识,如:openai

  • label (object) 供应商展示名称,i18n,可设置 en_US 英文、zh_Hans 中文两种语言

    • zh_Hans (string) [optional] 中文标签名,zh_Hans 不设置将默认使用 en_US。

    • en_US (string) 英文标签名

  • description (object) [optional] 供应商描述,i18n

    • zh_Hans (string) [optional] 中文描述

    • en_US (string) 英文描述

  • icon_small (string) [optional] 供应商小 ICON,存储在对应供应商实现目录下的 _assets 目录,中英文策略同 label

    • zh_Hans (string) [optional] 中文 ICON

    • en_US (string) 英文 ICON

  • icon_large (string) [optional] 供应商大 ICON,存储在对应供应商实现目录下的 _assets 目录,中英文策略同 label

    • zh_Hans (string) [optional] 中文 ICON

    • en_US (string) 英文 ICON

  • background (string) [optional] 背景颜色色值,例:#FFFFFF,为空则展示前端默认色值。

  • help (object) [optional] 帮助信息

    • title (object) 帮助标题,i18n

      • zh_Hans (string) [optional] 中文标题

      • en_US (string) 英文标题

    • url (object) 帮助链接,i18n

      • zh_Hans (string) [optional] 中文链接

      • en_US (string) 英文链接

  • supported_model_types (array[]) 支持的模型类型

  • configurate_methods (array[]) 配置方式

  • provider_credential_schema ([]) 供应商凭据规格

  • model_credential_schema ([]) 模型凭据规格

AIModelEntity

  • model (string) 模型标识,如:gpt-3.5-turbo

  • label (object) [optional] 模型展示名称,i18n,可设置 en_US 英文、zh_Hans 中文两种语言

    • zh_Hans (string) [optional] 中文标签名

    • en_US (string) 英文标签名

  • model_type ([ModelType](#ModelType)) 模型类型

  • features (array[[ModelFeature](#ModelFeature)]) [optional] 支持功能列表

  • model_properties (object) 模型属性

    • mode ([LLMMode](#LLMMode)) 模式 (模型类型 llm 可用)

    • context_size (int) 上下文大小 (模型类型 llm text-embedding 可用)

    • max_chunks (int) 最大分块数量 (模型类型 text-embedding moderation 可用)

    • file_upload_limit (int) 文件最大上传限制,单位:MB。(模型类型 speech2text 可用)

    • supported_file_extensions (string) 支持文件扩展格式,如:mp3,mp4(模型类型 speech2text 可用)

    • default_voice (string) 缺省音色,必选:alloy,echo,fable,onyx,nova,shimmer(模型类型 tts 可用)

    • voices (list) 可选音色列表。

      • mode (string) 音色模型。(模型类型 tts 可用)

      • name (string) 音色模型显示名称。(模型类型 tts 可用)

      • language (string) 音色模型支持语言。(模型类型 tts 可用)

    • word_limit (int) 单次转换字数限制,默认按段落分段(模型类型 tts 可用)

    • audio_type (string) 支持音频文件扩展格式,如:mp3,wav(模型类型 tts 可用)

    • max_workers (int) 支持文字音频转换并发任务数(模型类型 tts 可用)

    • max_characters_per_chunk (int) 每块最大字符数 (模型类型 moderation 可用)

  • deprecated (bool) 是否废弃。若废弃,模型列表将不再展示,但已经配置的可以继续使用,默认 False。

ModelType

  • llm 文本生成模型

  • text-embedding 文本 Embedding 模型

  • rerank Rerank 模型

  • speech2text 语音转文字

  • tts 文字转语音

  • moderation 审查

ConfigurateMethod

  • predefined-model 预定义模型

表示用户只需要配置统一的供应商凭据即可使用供应商下的预定义模型。

  • customizable-model 自定义模型

用户需要新增每个模型的凭据配置。

  • fetch-from-remote 从远程获取

与 predefined-model 配置方式一致,只需要配置统一的供应商凭据即可,模型通过凭据信息从供应商获取。

ModelFeature

  • agent-thought Agent 推理,一般超过 70B 有思维链能力。

  • vision 视觉,即:图像理解。

  • tool-call 工具调用

  • multi-tool-call 多工具调用

  • stream-tool-call 流式工具调用

FetchFrom

  • predefined-model 预定义模型

  • fetch-from-remote 远程模型

LLMMode

  • completion 文本补全

  • chat 对话

ParameterRule

  • name (string) 调用模型实际参数名

  • use_template (string) [optional] 使用模板

默认预置了 5 种变量内容配置模板:

  • temperature

  • top_p

  • frequency_penalty

  • presence_penalty

  • max_tokens

可在 use_template 中直接设置模板变量名,将会使用 entities.defaults.PARAMETER_RULE_TEMPLATE 中的默认配置不用设置除 name 和 use_template 之外的所有参数,若设置了额外的配置参数,将覆盖默认配置。可参考 openai/llm/gpt-3.5-turbo.yaml。

  • label (object) [optional] 标签,i18n

  • zh_Hans(string) [optional] 中文标签名

  • en_US (string) 英文标签名

  • type(string) [optional] 参数类型

    • int 整数

    • float 浮点数

    • string 字符串

    • boolean 布尔型

  • help (string) [optional] 帮助信息

  • zh_Hans (string) [optional] 中文帮助信息

  • en_US (string) 英文帮助信息

  • required (bool) 是否必填,默认 False。

  • default(int/float/string/bool) [optional] 默认值

  • min(int/float) [optional] 最小值,仅数字类型适用

  • max(int/float) [optional] 最大值,仅数字类型适用

  • precision(int) [optional] 精度,保留小数位数,仅数字类型适用

  • options (array[string]) [optional] 下拉选项值,仅当 type 为 string 时适用,若不设置或为 null 则不限制选项值

PriceConfig

  • input (float) 输入单价,即 Prompt 单价

  • output (float) 输出单价,即返回内容单价

  • unit (float) 价格单位,如以 1M tokens 计价,则单价对应的单位 token 数为 0.000001

  • currency (string) 货币单位

ProviderCredentialSchema

ModelCredentialSchema

  • model (object) 模型标识,变量名默认 model

    • label (object) 模型表单项展示名称

      • en_US (string) 英文

      • zh_Hans(string) [optional] 中文

    • placeholder (object) 模型提示内容

      • en_US(string) 英文

      • zh_Hans(string) [optional] 中文

CredentialFormSchema

  • variable (string) 表单项变量名

  • label (object) 表单项标签名

    • en_US(string) 英文

    • zh_Hans (string) [optional] 中文

  • type ([FormType](#FormType)) 表单项类型

  • required (bool) 是否必填

  • default(string) 默认值

  • placeholder(object) 表单项为 text-input 专有属性,表单项 PlaceHolder

    • en_US(string) 英文

    • zh_Hans (string) [optional] 中文

  • max_length (int) 表单项为text-input专有属性,定义输入最大长度,0 为不限制。

FormType

  • text-input 文本输入组件

  • secret-input 密码输入组件

  • select 单选下拉

  • radio Radio 组件

  • switch 开关组件,仅支持 true 和 false

FormOption

  • label (object) 标签

    • en_US(string) 英文

    • zh_Hans(string) [optional] 中文

  • value (string) 下拉选项值

FormShowOnObject

  • variable (string) 其他表单项变量名

  • value (string) 其他表单项变量值

parameter_rules (array[]) [optional] 模型调用参数规则

pricing ([]) [optional] 价格信息

credential_form_schemas (array[]) 凭据表单规范

credential_form_schemas (array[]) 凭据表单规范

options (array[]) 表单项为 select 或 radio 专有属性,定义下拉内容

show_on (array[]) 当其他表单项值符合条件时显示,为空则始终显示。

show_on (array[]) 当其他表单项值符合条件时显示,为空则始终显示。

Provider
AIModelEntity
ModelType
ConfigurateMethod
ProviderCredentialSchema
ModelCredentialSchema
ParameterRule
PriceConfig
CredentialFormSchema
CredentialFormSchema
FormOption
FormShowOnObject
FormShowOnObject