[Maeumjigi 心语伴侣毕业设计开发日志 #14] 全模型微调圆满收官与多卡并行推理评估 (Eval) 管线构建
· 阅读需 2 分钟
5 月 6 日，历经数个不眠之夜与超参数反复调试，我们终于从漫长的微调泥潭中成功破局！ 以 HCX-Omni-8B 与 Qwen35-9B 为代表的中轻量级垂直大模型全量微调顺利收敛完工。
2 篇博文 含有标签「HCX-Omni-8B」
查看所有标签[Maeumjigi 心语伴侣毕业设计开发日志 #13] 70B 算力瓶颈与中轻量级模型 (HCX, Qwen) 战略迂回
· 阅读需 3 分钟
在领教了 70B 庞大参数量在微调过程中的显存地狱后，5 月 4 日，我们果断决定实施战略转向。
尽管我们曾通过将 Batch Size 压榨至极限，勉强将 70B 模型（Llama 3.3, DeepSeek-R1）推到了 checkpoint-1200 与 1300，但极其漫长迟缓的训练周期使得整体科研迭代效率极度低下。