【LLM大模型】本地玩转多模态Llama3

一般开源的LLM，例如Llama3和Qwen2等，只支持文本的输入，只能理解文本的内容，实现基于文本的逻辑推理和意图识别。

但是一些Chatbot，例如GPT-4V，就是拥有视觉能力，能够理解图片内容，能够更好的解决现实中的实际问题。

如何给开源大模型添加上视觉Vision？本篇文章助力大家在本地玩转多模态的Llama3。

理解LLaVA方案

给LLM装上电子眼：

添加上一个Image Projector，让大模型具有处理图片输入的能力，再经过向量对齐，输入LLM中，就可以使大模型增加对输入图片的理解。

所使用的文本单模型LLM和训练出来的Image Projector，统称为LLaVA模型。

LLaVA（Large Language-and-Vision Assistant），是一个在LLM基础上来实现对视觉问题问答的解决方案。

Image Projector的训练和测试，有点类似之前我们讲过的LoRA**微调方案，。

二者都是在已有LLM的基础上，用新的数据训练一个新的小文件。

只不过，LLM套上LoRA之后，有了新的灵魂（角色）；而LLM套上Image Projector之后，才有了眼睛。

简述Image Projector的训练过程

训练过程分为为2个阶段：Pretrain和Finetune。

在Pretrain阶段，我们会使用大量的图片+简单文本（即图片标题）数据对，使LLM理解图像中的普遍特征。即对大量的图片进行粗看。

Pretrain阶段训练完成后，此时的模型已经有视觉能力了！但是由于训练数据中都是图片+图片标题，所以此时的图片虽然有视觉能力，但无论用户问它什么，它都只会回答输入图片的标题，即此时的模型只会给输入图像“写标题”。

在Finetune阶段，我们会使用图片+复杂文本数据对（多轮对话数据），来对Pretrain得到的Image Projector进行进一步的训练。

选择和下载模型

Xtuner是一个大模型微调工具箱。https://github.com/InternLM/xtuner。

Xtuner是一个高效、灵活、全能的轻量化大模型微调工具库。

• 支持多种开源的大语言模型
• 支持多种微调方法，QLoRA、LoRA、全量参数微调
• 支持多种微调算法

本次我们选择Xtuner团队 https://huggingface.co/xtuner。其团队微调的系列模型有：

• phi-3-mini
• Llama3
• InternLM2
• Qwen
• Llama2

其中的，Vision大模型LLaVA-Llama-3-8B。

huggingface仓库中提供了量化好的GGUF格式，直接可以在Ollama的F16半精度模型和INT4精度模型：

• llava-llama-3-8b-v1_1-f16.gguf 模型大小是16.1GB
• llava-llama-3-8b-v1_1-int4.gguf 模型大小是4.92GB

创建本地模型

本地部署LLM，采取的方案是Ollama部署，推荐大家先阅读，我之前的的文章：

可以选择Makefile创建

Xtuner团队的huggingface仓库，提供了文件：

FROM ./llava-llama-3-8b-v1_1-f16.gguf
FROM ./llava-llama-3-8b-v1_1-mmproj-f16.gguf
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>

{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>

{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>

{{ .Response }}<|eot_id|>"""
PARAMETER stop "<|start_header_id|>"
PARAMETER stop "<|end_header_id|>"
PARAMETER stop "<|eot_id|>"
PARAMETER num_keep 4
PARAMETER num_ctx 4096

执行相关命令，可以参考文章。

从Ollama官方仓库下载

Ollama官方仓库，已经有了llava-llama3的模型。大小16GB。

ollama pull llava-llama3:8b-v1.1-fp16

安装open-webui

因为目前chatbox主推自己ChatBox** AI，不支持本地部署的开源大模型，上传图片对话。

所以我们需要安装open-webui，它支持Ollama部署的模型，进行图片对话理解。

open-webui，原名叫做Ollama WebUI。

https://github.com/open-webui/open-webui

支持多模态，支持文档、本地RAG集成、网页浏览功能、语言输入支持、AI绘画**、多个模型对话。

官方推荐的是用docker进行安装。需要提前在本地安装好Docker软件。

If Ollama is on your computer, use this command:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

访问页面地址

http://localhost:3000/

这样你就拥有一个完全属于自己的，本地部署的ChatGPT**。

测试Vision大模型能力

ImageNet，图片识别

图片中的动物是水豚。它四肢着地站在一块岩石上，毛色是灰色的。水豚面对镜头时，它的头微微向左倾斜。

可以说，回答是十分准确的。

图片数量识别

回答并不完全正确，但是也可以识别。

OCR识别**和指令跟随

识别的不是很准确，但是指令跟随的效果还是可以。

表格和图表解读

回答得非常不好，不能识别图表中的信息。

复杂信息提取

大促销海报信息提取

回答依旧不是很出色。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

三、LLM大模型系列视频教程

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。

内容：

• L1.1 人工智能简述与大模型起源
• L1.2 大模型与通用人工智能
• L1.3 GPT模型的发展历程
• L1.4 模型工程
• L1.4.1 知识大模型
• L1.4.2 生产大模型
• L1.4.3 模型工程方法论
• L1.4.4 模型工程实践
• L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

内容：

• L2.1 API接口
• L2.1.1 OpenAI API接口
• L2.1.2 Python接口接入
• L2.1.3 BOT工具类框架
• L2.1.4 代码示例
• L2.2 Prompt框架
• L2.3 流水线工程
• L2.4 总结与展望

阶段3：AI大模型应用架构实践

目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

内容：

• L3.1 Agent模型框架
• L3.2 MetaGPT
• L3.3 ChatGLM
• L3.4 LLAMA
• L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

内容：

• L4.1 模型私有化部署概述
• L4.2 模型私有化部署的关键技术
• L4.3 模型私有化部署的实施步骤
• L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉👈

​