【告别手动搭建】3分钟实现企业级检索AI,轻松部署大模型
在快速迭代的数字化时代,许多企业还在为如何高效搭建并应用AI大模型而苦恼。 繁琐的技术流程、高昂的成本投入以及复杂的人员配置,常常让企业望而却步。
今天就和大家分享一款企业级开源知识库检索AI
先看下效果图:

搭建教程:
先拉取代码,然后 docker-comopse 启动,此处需要 科学上网
源码地址:
进入docker部署目录:
cd onyx/deployment/docker_compose
docker-compose -f docker-compose.dev.yml -p onyx-stack up -d --pull always --force-recreate

启动后访问:
首次使用需要配置
1.配置LLM,这里使用ollama本地模型,也可以使用其他在线模型厂商,比如OpenAI。
API Base 如果在同一台机器上就填:
不是本机则替换下面IP:

模型我使用的 glm4,大家可以是自行替换LLama3,qwen2.5,前提是ollama服务已经拉取模型
配置好后点击启用按钮,等待完成。\

进入聊天页面
选择普通生成式聊天助手(红框里)就可以和AI聊天了。

当然我们看重的是它根据知识库聊天的功能
点击右上角,进入控制台

首先,来添加连接器,上传需要使用的知识库文档,它支持很多方式:
我这里使用文件File类型,随便上传一个,支持.txt .doc .pdf 等格式

然后我们在这里创建一个文档集,在里面选中需要关联的文档

接着来创建一个聊天助手:



创建完我们回到聊天页面:
选择刚刚创建的助手

已经可以愉快的问答了,如果检索到知识库文档的内容会引用出来,点击还可以查看文档内容。

当然如果还想定制更高的AI技术模型,这里推荐一款AI大模型定制系统,可以在短短3分钟内即可实现企业级AI的搭建与应用,轻松迈入智能化时代。
项目官网
这是一个面向高级用户的创新平台——大模型定制系统,赋予用户自主创建与部署AI模型的能力。

用户可通过该系统进行模型参数的自由调节、个性化的文档上传与管理,从而生成专属于自己的大语言模型。 项目不仅仅提供了高度灵活的模型定制服务,还简化了部署流程,让用户的模型可以快速上线应用。
产品核心优势
我们的解决方案通过创新性地整合资源推荐与模型定制两大技术,为用户提供了全方位的AI应用体验:
技术领先:采用业界最新的深度学习技术,确保推荐效果和模型性能始终保持领先。
易于使用:简化了复杂的技术操作流程,让用户能够快速上手并实现价值。
高度个性化:无论是内容推荐还是模型定制,都能完美契合用户的个性化需求。
场景丰富:支持多样化的应用场景,满足不同行业、不同规模用户的多元化需求。

如何学习AI大模型?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
