开源工具

为什么微调需要一个集成框架 很多人以为微调大模型是博士实验室的专利，其实开源工具已经把门槛压到了「会用网页」的程度。LLaMA-Factory 是国内开发者贡献的微调框架，最大的卖点是把 LoRA、QLoRA、全参微调、RLHF、DPO 这些方法统一进同一个 Web UI 和命令行接口，并且对几十种主流模型（Llama、Qwen、GLM、DeepSeek、Baichuan）做了适配。你不用自己写 Trainer、不用管 deepspeed 配置，选模型、传数据集、点开始，一条指令微调流水线就跑起来了。它在 GitHub 上星数已破五万，是中文社区用得最广的微调入口之一。 数据集格式是第一道门槛 LLaMA-Factory 支持几种内置数据格式，最常用的是 sharegpt 与 alpaca。alpaca 格式最朴素：每样本一条 JSON，含 instruction、input、output 三字段。sharegpt 则是多轮对话，用 messages 数组，每条带 role（user/assistant/system）与 content。把业务数据喂进去之前，必须在 dataset_info.json 里登记一句，告诉框架这个文件对应哪种格式、用什么 prompt 模板。 新手最常踩的坑是模板不匹配：你用了 Qwen 的 base 模型，却套了 Llama 的 chat 模板，训练出来的模型说话格式混乱，甚至不响应指令。所以数据集注册时一定要选对对应的对话模板，这比调学习率更影响最终效果。 LoRA 与 QLoRA 的参数账 显存有限时，QLoRA 是默认选择：基座模型用 4bit 量化（NF4）加载，只训练注入的低秩适配矩阵，一份 7B 模型的 QLoRA 微调在 24GB 单卡上就能跑。核心参数就几个：lora_rank 通常取 8 到 64，rank 越大表达能力越强但越容易过拟合；lora_alpha 一般设成 rank 的两倍；学习率 1e-4 到 5e-4；epoch 两三遍即可，多了容易把通用能力练没。全参微调则要数十 GB 显存加 deepspeed，个人设备不现实。 ...