暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

零代码构建AI应用之开源框架Dify介绍

大家好, 本文是关于介绍如何零代码构建AI应用之 开源框架Dify。

关于Dify简单的一句话就是: 开源的大语言模型开发平台。 技术栈用的是Python + Flask + Postgres15

官方地址: https://github.com/langgenius/dify

主流的LLM均支持:

Image.png

Github最近3个月的star count 惊人式增长:

Image.png

关于Dify 的安装可以参考官网: https://docs.dify.ai/getting-started/install-self-hosted/docker-compose

我们采用docker 模式:

github下载代码:

git clone https://github.com/langgenius/dify.git

上传到服务器部署:

cd dify/docker cp .env.example .env docker-compose up -d

安装日志:

... ... Status: Downloaded newer image for semitechnologies/weaviate:1.19.0 Creating docker_db_1 ... done Creating docker_web_1 ... done Creating docker_ssrf_proxy_1 ... done Creating docker_redis_1 ... done Creating docker_weaviate_1 ... done Creating docker_sandbox_1 ... done Creating docker_api_1 ... done Creating docker_worker_1 ... done Creating docker_nginx_1 ... done

安装成功后,我们可以访问网页: http://xx.xxx.xx.xxx/install
首次登录需要设置账户和密码

Image.png

Image.png

完成安装和注册账户后,下一步我们需要接入模型: 这里可以选择开源的模型或者部署在本地的模型
这里我们选择: 接入 Replicate 上的开源模型 : https://docs.dify.ai/v/zh-hans/guides/model-configuration/replicate

在 Dify 的 设置 > 模型供应商 > Replicate 中添加模型
Image.png
我们在replicate的官网上选择一个LLM: https://replicate.com/collections/language-models

Image.png
我们选择模型: meta/llama-2-13b-chat https://replicate.com/meta/llama-2-13b-chat

Image.png
我们在Dify的平台上填写需要接入replicate上模型的名称和token的信息

关于 replicate 官网账号和API的申请步骤可以参考: https://www.modb.pro/db/1774624663754313728

Image.png

整合完模型以后,我们要构建一个入门的应用测试一下模型API的接入。

关于构建应用可以参考:https://docs.dify.ai/v/zh-hans/guides/application_orchestrate

下面我们构建一个聊天程序: 我们选择 聊天助手->构建空白应用

Image.png

这里可以给你的应用填写一个名字以及图标

Image.png

我们填写提示词: hello {{name}}, 我是你的人生导师,为你答疑解惑!

Image.png

其中, {{name}} 是个变量, 我们可以设置变量

Image.png

我们还可以设置一个上下文:上下文的作用类似于外部知识库RAG的模式

Image.png
Image.png

我们上传一篇WORD文档:

Image.png

文本的拆分段落: 提供了自动和手动的2种方式
Image.png

知识库构建完成

Image.png

我们回到聊天程序的页面,添加刚才我们上传文件的那个知识库

Image.png

我们还可以在页面上进行调试:

Image.png

现在我们提问一些专业的问题: 果然可以匹配到上下文的知识库中的文档

Image.png

最后我们可以发布出来这个小程序,嵌入到网页应用或者手机APP中

Image.png

Have a fun with Dify! 🙂

「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论