37.4k 用户的选择:Dify——大模型开发平台小白入门指南(一):快速部署与基础操作
之前三金有介绍过一款搭建私人 AI 知识库的开源产品——FastGPT,使用过一段时间之后发现在上传本地文件时偶尔会失败,而且只有付费版才可以使用 Web 站点同步功能,所以也就萌生了再找找平替产品的念头。
在花费了大量时间在 Github 畅游之后,Dify 出现了~
那么 Dify 是什么呢?
它是一个开源的 LLM 应用开发平台。包含 AI Workflow、RAG、模型管理以及可观测性功能等,即使是小白也能快速使用 Dify 搭建一款 AI 产品。
它拥有以下 7 个核心功能:
- 工作流:我们可以在 Dify 提供的画布上快速构建出一个可以执行自动化任务的 AI 应用;
- 支持大多数市面上流行的 AI 模型:包括 ChatGPT、Mistral、Llama3 以及通义千问等;
- 直观简洁的界面,可以用于制作提示、比较模型性能以及向基于聊天的应用程序添加文本转语音等附加功能;
- RAG 功能:涵盖从文档中摄取到的需要检索的所有内容,支持上传 PDF、PPT 和其他常见文档格式;
- Dify 内置了 50 多个工具,例如 Google Search、DELL·E、Stable Diffusion 和 WolframAlpha。也可以自定义工具;
- LLMOps:监控和分析应用程序日志和性能;
- Dify 的所有产品都附带相应的 API,因此我们也可以很轻松地将 Dify 集成到自己的业务中去。
接下来我们一起来看看如何在本地快速部署 Dify 吧~
部署
我们选择使用 Docker Compose 来部署。但是在部署之前,需要注意部署应用的前提条件:

满足前提条件之后,克隆 Dify 代码到本地:
git clone https://github.com/langgenius/dify.git
然后进入到源代码中的 docker 目录下,一键启动!
cd dify/docker
cp .env.example .env
docker compose up -d
启动后直接在浏览器中输入 http://localhost 即可进行访问。
使用
初次访问 Dify 时需要先设置一个管理员账号:

设置好之后正常进行登录即可:


到目前为止我们清楚了它长啥样子,但要正常使用还得设置一下 AI 大模型才可以,点击右上角的头像,选择设置唤出设置对话框:

点击左侧菜单栏中的模型供应商开始设置你的 Dify AI 模型。我们以 OpenAI 为例,输入 API Key 和代理 Url(参考[如何免费获取 ChatGPT API Key?]:


然后创建一个空白应用,在应用里面就可以选择模型了:

测试一下看看是否能正常进行对话:

哦吼~完美😍
知识库
Dify 也支持创建知识库,点击页面顶部的知识库 Tab,在对应的页面按照以下步骤创建一个新的知识库:



创建好之后,我们就可以在这个知识库详情页面看到刚刚上传的文档以及是否可用:

我们还可以将知识库接入到刚刚创建好的应用中去:

测试一下:

也访问正常,AI 回答的结果来源正是我们刚刚上传的 PDF 文档!非常 Nice~
发布
应用创建并编排好之后,点击右上角的发布按钮进行发布,除此之外 Dify 还额外提供了三个功能给我们,分别是:

- 运行:打开一个新的页面,页面 url 地址是 dify 为这个应用生成的一个唯一的 url 链接;

- 嵌入网站:这个功能其实 FastGPT 也有(不得不说,其实二者的功能很相似),就是提供三种嵌入方式:以 iframe 的形式将 AI 应用集成到自己的网站中去、通过 script 脚本的方式将一段代码 copy 到网站代码中以及通过浏览器插件的形式来集成

- 访问 API:提供接口的形式,将 AI 应用接入到其他的产品中

以上就是 Dify 的部署及基础使用。因篇幅过长,如何接入 Ollama 以及进阶用法会在后续文章中介绍,尽情期待~

如何学习AI大模型?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
