LLama Factory+ModelScope实战——使用 Web UI 进行监督微调

添加书签

专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!

00

引言



大语言模型微调一直都是一个棘手的问题,不仅因为需要大量的计算资源,而且微调的方法也很多。在尝试每一种方法的过程中配置环境和第三方库也很麻烦。


而 LLaMA Factory 是一个高效的大语言模型训练和推理的框架,不仅集成多种高效训练方法,而且能持续适配国内外各种开源大模型。


该框架还提供了能够一站式实现大模型预训练、监督微调、评估、推理的 Web UI 界面,使用户能够直观地看到训练选项、模型数据集选项、训练进度等重要信息。


为方便国内用户使用,该框架支持了魔搭社区(ModelScope)的模型和数据集资源,训练前可自动下载并缓存资源。


 Yi 系列大模型是李开复博士创办的“零一万物”公司研发的首款开源大模型。参数规模有 6B 和 34B。其中的 Yi-34B 不仅支持 200K tokens 的超长窗口,更是在众多性能评测榜单上取得领先成绩。


本次我们基于 LLaMA Factory 框架,在一张 V100 显卡上使用 ModelScope 上支持的在线数据集对 Yi-6B 模型进行监督微调,使其获得对话能力。


01

环境准备


环境配置与安装 

本文主要演示的模型推理代码可在魔搭社区免费实例PAI-DSW的配置下运行(显存24G) :


点击模型右侧Notebook快速开发按钮,选择GPU环境

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图

打开Terminal环境

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图1


LLaMA Factory框架目前托管在 github 上,所以,我们要先使用 git 来

安装 LLaMA Factory 开源框架:

git clone https://github.com/hiyouga/LLaMA-Factory.git


等待仓库下载完毕,进入仓库并安装所需依赖:

cd LLaMA-Factorypip install -r requirements.txt


注意:截至文章编辑时(2024 年 1 月 22 日),该框架在使用最新版本的 torch 库时,会出现无法正常推理的情况。请根据您的硬件环境选择合适的 torch>=1.13.1,<=2.0.1 版本进行安装。



02

Web UI 的使用



服务的启动

首先我们要在命令行里先设置一个环境变量 USE_MODELSCOPE_HUB=1,框架程序在运行时会读取这个环境变量,当 USE_MODELSCOPE_HUB 的值为 1 时框架才会使用 ModelScope 在线资源。在 Windows 和 Linux 操作系统上,设置环境变量的命令是不同的,请二选其一:

export USE_MODELSCOPE_HUB=1  # Linux 上使用的命令set USE_MODELSCOPE_HUB=1     # Windows 上使用的命令


接着使用以下命令启动 Web UI:

CUDA_VISIBLE_DEVICES=0 python src/train_web.py  # 指定一块 GPU 启动网页服务


LLaMA Factory 的 Web UI 目前只支持单卡训练/推理,当你的机器有多张显卡时请使用 CUDA_VISIBLE_DEVICES 指定一张显卡启动程序。


我们在浏览器地址栏中输入 http://localhost:7860 进入 Web 界面,接着可以在“语言/Language”选项中,将界面的语言修改为“中文/zh”,然后在模型名称中选择“Yi-6B”,在模型路径中选择“01ai/Yi-6B”。

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图2


监督微调

第二行中的微调方法,我们保持 “lora” 不变,适配器路径使用默认的空值。

“微调方法”有三个可选项:

  • full:全参数微调,对模型的所有参数进行训练,这种方法需要大量的计算资源和时间;

  • freeze:参数冻结,对模型大部分参数进行冻结操作,仅训练小部分参数,能够使用有限的资源对大模型进行微调;

  • LoRA:Low-Rank Adaptation,是一种参数高效性微调方法,不仅让微调的成本显著下降,还能获得和全参数微调类似的效果。

适配器指的是 lora 微调的输出结果,可以理解为将预训练模型的输出转换为目标形式的组件,需要搭配预训练模型一起使用。在模型的推理和合并阶段中,才需要指定“适配器路径”作为输入,而在微调过程中则不需要指定这个参数。


打开“高级设置”,本次演示中量化等级保持 none,提示模板使用 xverse,RoPE 插值方法和加速方式均为 none。

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图3


QLoRA是一种能够减少显存占用的大模型高效微调方法,当模型过大导致显存不够时可以考虑使用 4bit / 8bit QLoRA。


提示模板在微调时为大模型指示人类输入和机器输出的模板,除了 default 以外也可以根据仓库中Supported Models的说明选择合适的模板进行实验。


RoPE插值可以扩展 LLaMA 模型的上下文长度,如果使用了 linear 参数微调模型推理时也要设置为 linear,如果微调时使用 none,推理时可以选择 none 或 dynamic。


框架支持 FlashAttention-2(RTX4090、A100 或 H100 GPU)和 unsloth(LLaMA、Mistral 和 Yi 模型)的加速方式,均需要额外安装。


接下来我们来到训练参数设置面板:

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图4


训练阶段选择 Supervised Fine-Tuning(监督微调),数据路径保持 data 不变,数据集我们使用 ModelScope 社区提供的 belle_2m 数据集。其他参数的介绍如下:

  • 截断长度:一条数据分词后会成为一个 token 序列,当 token 序列的长度超过截断长度时会被分割成若干段输入进模型,这里保持1024不变;

  • 学习率:设置为 2e-4(因为之后我们会使用到数据打包技术,相应地学习率应该适当增大);

  • 训练轮数设置为 3.0,最大样本数为 50000;

  • 计算类型使用 fp16(V100 并不支持 bf16);

  • 批处理大小(Batch Size)设为 4(单卡3090);

  • 梯度累计(Gradient Accumulation):增大该参数可以减少显存的占用,本次实验设置为 1;

  • 学习率调节器:使用默认的 cosine,详见SchedulerType — transformers documentation (huggingface.co)

  • 最大梯度范数:用于梯度裁剪的范数,默认为 1.0

  • 验证集比例使用:0


打开其它参数设置面板,我们对其中的参数进行一些修改:

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图5


  • 本次实验日志间隔使用默认的 5,保存间隔使用 100;

注意,在模型的微调过程中,使用较小的保存间隔可能会在训练的过程中保存大量的检查点(checkpoint),占用大量的磁盘空间。在实际微调时可以根据训练的总步数适当调大保存间隔。

  • 预热步数:指的是学习率预热过程中加到正常学习率的步数,可选参数,本次实验设为 50;

  • NEFTune噪声参数:在训练过程中适量添加噪声,可选参数,本次实验设为 5;

  • 序列打包:将多组数据打包到一起进行训练,能够提高模型的上下文能力和训练速度。因为本次实验使用的数据集长度较小,所以可以使用序列打包技术提高模型在较长上下文的表现。这也决定了我们的学习率参数应该稍大些;

  • 缩放归一化层:可以提高训练过程中的稳定性,本次实验中不勾选。


下面打开 LoRA 参数设置面板:


LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图6



  • LoRA 秩使用默认值 8;

  • LoRA 随机丢弃使用默认值 0.1;

  • LoRA 作用模块设为 all,表示指定全部模块;

  • 附加模块和新建适配器均不指定。


最后设置输出目录(输出结果为 LoRA 适配器),点击“预览命令”,可以看到实际的所有的命令行参数,点击“开始”,在下面可以看到打印出来的日志。等待模型和数据集加载完毕,就会显示训练过程的进度条,以及已用时间和剩余时间。等训练结束,面板会显示“训练完成”,没训练完也可以点击“中断”,程序会根据最后一个检查点(checkpoint)生成训练结果文件夹。


推理对话

当模型结束以后,同样可以使用 LLaMA Factory 的 Web UI 跟训练好的模型进行对话。

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图7

首先刷新适配器路径列表,在下拉列表中选择刚刚训练好的结果。然后在提示模板中选择刚刚微调时采用的 xverse,RoPE 插值使用 none。

  • 推理过程中使用的模板需要和微调时使用的一致;

  • 在微调过程中,RoPE 插值若使用的是 linear,则推理时只能使用 linear。若微调时使用 none,推理时可以选择 none 或 dynamic。


最后点击“加载模型”:

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图8

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图9

对话过程中在输入中写下内容,也可以添加系统提示词,点击“提交”表示调用一次大模型的回答。“清空历史”可以清除对话积累的上下文。右侧的最大生成长度、Top-p 和温度系数都是可以自己调整的。


对话结束后,如果想更换模型或适配器,需要点击“卸载模型”,卸载后才能重新加载模型。


模型合并

当我们使用 LoRA 训练结束以后,获得的实际上是一个适配器。单独的适配器需要和模型一起使用,我们也可以使用 LLaMA Factory 的模型合并功能将适配器和模型基座组装成一个完整的模型。

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图10

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图11

适配器路径、提示模板、RoPE 插值方法的选择和上述的模型推理和对话过程中选择的是一样的。


然后在下面点击 Export 面板,最大分块大小、导出量化等级、导出量化数据集均不需要修改,只需要指定导出目录。点击开始导出,等待导出完毕即可。

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图12

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图13


当我们使用导出后的模型进行推理时,需要将模型名称改为 Custom、模型路径设为导出后的模型的相对/绝对路径即可。


本文来源魔搭ModelScope社区,如有侵权请联系删除

END

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图14

LLama Factory+ModelScope实战——使用 Web UI 进行监督微调插图15

本篇文章来源于微信公众号: AIGC开放社区