详细教程：轻松部署AnythingLLM + Ollama + Qwen，构建本地大模型环境！
利用周末的时间，在自己的笔记本电脑上部署一个本地大模型，过程也记录下来分享给对此有兴趣的朋友们。
【步骤】
模型相关的基础概念这里不多赘述了，直接进入实战。
整个部署过程分为三个步骤：
步骤一：下载ollama大模型工具
步骤二：在ollama工具中，下载通义千问大模型
步骤三：下载AnythingLLM并配置选择ollama的通义千问模型，直接在窗口对话
※文末打包了本次部署的所有安装文件
【逐步骤讲解】
官网下载ollama
https://ollama.com/download
安装后启动ollama
命令行窗口，敲入命令ollama list，此时显示没有任何大模型，开始去下载
下载大模型，阿里千问 0.5b （5亿参数）
ollama run qwen:0.5b
特意一早爬起来
，网速快得飞起。小400M不到一分钟下载完成。
下载完成后，简单问一个小问题，看看反应如何？
0.5b是通义千问最小的一个模型，安装在普通笔记本上，反应速度还可以。返回的内容也还行，自己做练习搞点小研究足够了。
命令扩展：命令行窗口可以查看模型相关的信息
lollama list：显示模型列表。
lollama show：显示模型的信息
lollama pull：拉取模型
lollama push：推送模型
lollama cp：拷贝一个模型
lollama rm：删除一个模型
lollama run：运行一个模型
有条件的话，机器配置也能跟得上，可以下载更大的模型，如下表：
模型 | 参数 | 大小 | 下载 |
Llama 2 | 7B | 3.8GB | ollama run llama2 |
Mistral | 7B | 4.1GB | ollama run mistral |
Dolphin Phi | 2.7B | 1.6GB | ollama run dolphin-phi |
Phi-2 | 2.7B | 1.7GB | ollama run phi |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
Llama 2 13B | 13B | 7.3GB | ollama run llama2:13b |
Llama 2 70B | 70B | 39GB | ollama run llama2:70b |
Orca Mini | 3B | 1.9GB | ollama run orca-mini |
Vicuna | 7B | 3.8GB | ollama run vicuna |
LLaVA | 7B | 4.5GB | ollama run llava |
Gemma | 2B | 1.4GB | ollama run gemma:2b |
Gemma | 7B | 4.8GB | ollama run gemma:7b |
Ollama服务默认地址和端口是http://127.0.0.1:11434/
服务开启时，访问该地址会返回 Ollama is running
不过只能在命令行中玩耍还是不太方便，想个办法弄个网页版的，像chatgpt页面一样。
下载Anythingllm结合ollama使用。（这个文件有点大，干掉6个多G）
Anything下载地址https://anythingllm.com/desktop
安装后直接打开，创建新工作区
下面小扳手是设置，打开之后，LLM提供商选择上面步骤安装的ollama，模型选择上面安装的qwen0.5b大模型。其他的默认不需修改
保存后，返回到我的工作区，聊天窗口可以愉快地体验自己部署的本地大模型啦。
到此为止，一个AnythingLLM+Ollama+qwen0.5b的本地大模型就部署好了。
如何学习AI大模型？
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；
第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
