自定义模型供应商
当我们想使用的模型在dify官方平台上没有对应的供应商时,我们只能自己集成。 比如公司内部的delphai部署了一些开源模型,我们想集成到dify上,这时需要以插件的形式安装到dify上。(旧版本开发自定义模型供应商不是以插件的方式)
安装dify插件开发包
从dify官方的github仓库下载并安装,具体步骤可查阅文档

下载后可以将其改名为dify.exe,并将其添加到环境变量中。
通过dify version命令验证是否可用。

搭建工程目录
使用dify init命令搭建工程目录

因为要集成模型,选择llm

选择工具权限

工程目录创建完成

可在目录下,或其他地方创建python虚拟环境

编辑模型yaml参数配置文件

修改供应商yaml文件

修改模型供应商类中的验证代码

在llm.py模板的基础上实现里面的接口函数
模板中已经引入了常用对象

开发模型调用功能

修改插件版本

连接调试
获取dify服务器连接信息

修改env文件

确认插件中可以看到供应商

在工作流中测试插件

插件打包

上传本地插件并安装

自定义插件开发
无论是模型还是工具,在dify中都以插件的形式存在,所以前述步骤都类似。只是使用工具包搭建脚手架时,选择tools,而不是llm。
同样需要修改下图中所示这些文件

以相同的步骤完成调试,打包后,上传到dify中。

内容补充
一些相关接口规范在本文档中没有详尽列出,比如模型参数yaml, 供应商配置yaml,模型接口,以llm.py为例,需要实现内部几个接口函数。这些具体内容请参考最新的官方文档。