AI机器人本地免费部署（部署Llama 3.1详细教程）
昨日，Meta公司发布了人工智能模型——Llama 3.1。
那么Llama 3.1 405B的效果怎么样？我们来对比一张图，横向对比一下GPT-4。
可以看出，Llama 3.1 405B在各类任务中的表现可以与GPT-4等顶级的模型相差无几。
那么，我们怎样才能用到这款强大的Llama 3.1 405B模型呢？最直接的方式是通过Meta.ai平台，但目前这一途径仅对美丽国的用户开放。
那有无适合平民用的大模型嘞。
接下来我们将在本地部署Llama 3.1 8B（环境所迫）
1.环境准备
（1）Windows10系统及以上的计算机
（2）内存要求：8GB内存可运行7B模型，16GB可运行13B模型，32GB运行可33B模型
（3）网络环境:不需要科学上网（翻墙）
（4）小谢此次搭建的电脑环境如图，又无GPU，这配置只能搭个入门级别的大模型。若有GPU，响应速度则更快。
2.部署安装过程：
（1）从官网进行下载：https://ollama.com/download 选择windows系统版本，也可以看到它也同时支持mac系统和Linux系统。
但似乎它的下载速度对我来说太不友好了。于是进行科学上网下载了安装包，如有需要后台私信回复Ollama即可获取百度网盘下载地址。
安装包下载完成点击安装
在此界面直接运行命令ollama run llama3.1，此时国内网络速度就非常快
耐心等待进度条跑完即可。
当然你想要其他的大模型可以回到官网，点击Models
部署完成后可直接发送消息提问
所以它能做什么呢？
我们来看看它的自述：
I’m a large language model, my capabilities include:
\1. Answering questions: I can provide information on a wide range of topics, from science and history to
entertainment and culture.
\2. Translation: I can translate text from one language to another (currently supporting 100+ languages).
\3. Text summarization: I can summarize long pieces of text into concise and easily digestible content.
\4. Conversation: I can engage in natural-sounding conversations, using context and understanding to respond to
questions and statements.
\5. Content generation: I can generate text based on a prompt or topic, such as articles, stories, or even
entire scripts.
\6. Language analysis: I can analyze and understand the structure and meaning of language, including syntax,
semantics, and pragmatics.
\7. Text classification: I can classify text into categories, such as spam vs. non-spam emails or
positive/negative reviews.
\8. Sentiment analysis: I can determine the emotional tone behind a piece of text, such as happy, sad, or
neutral.
那咱们来看它的效果！我向它抛出了一个问题：
为防止长期摸鱼导致变笨，特此准备了几道题考考你！
1.至今思项羽，不（）过江东。
2.阳春布（）泽，万物生光辉。
3.书籍是人类进步的阶梯。——高尔（ ）
4.世人笑我太（）癫，我笑他人看不穿。
5.老夫聊发少年（），左牵黄，右擎苍。
6.危楼高百尺，手可摘（）辰。
7.君问归期未有（ ），巴山夜雨涨秋池。
8.（ ）面边声连角起，千嶂里，长烟落日孤城闭。
9.料峭春风吹酒醒,（ ）冷,山头斜照却相迎。
10.（ ）闻琵琶已叹息，又闻此语重唧唧。
11.锦瑟无端（）（）弦，一弦一柱思华年。
我们先来看一下部署在本地的大模型Llama 3.1 8B，看来效果不错。
对比一下“小谢取证”的回答：
“小谢取证”直接出答案，部署在本地的大模型Llama 3.1 8B提供了更为详细的翻译。但是两者给出的答案都有些许错误。当然，这也取决于他们的模型是否强大。
我们可以看到，我们部署到本地的界面是cmd界面下运行的，如果我们想可视化呢？先上效果图。
具体是用到Ollama Web UI，这边咱们直接使用大佬已集成好的环境直接使用。需要软件可后台私信。
在我们使用完后，关闭该模型。那么我们下次如何重新打开呢
直接点击“开始”菜单，选择字母“O”，启动Ollama
其次，直接打开该软件，点击聊天界面即可。
此时它就会自动调用命令。可以看到访问端口是3000
再使用http://localhost:3000/在浏览器访问即可。
如何学习大模型
现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。
作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。
我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。
一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。
再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。
因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。
