跳到主要内容

16 篇博文 含有标签「开发日志」

查看所有标签

[Maeumjigi 心语伴侣毕业设计开发日志 #16] 致命参数失误排查、第二轮全量微调与 React Native 移动端首发

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

5 月 8 日,原本是我们基于此前的全量微调成果紧锣密鼓赶制毕业设计中期答辩幻灯片 (PPT) 的关键日子。 然而,正在满怀欣喜填充评测表格时,我们却突然揪出了一个令人毛骨悚然、颠覆前期结论的技术暗伤!

[Maeumjigi 心语伴侣毕业设计开发日志 #15] 5 大模型微调成果全景可视化与本地评测环境搭建

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

5 月 7 日,我们对倾注心血完成微调的 5 大代表性大模型(Llama 3.3-70B、DSR1-70B、HCX-Omni-8B、Qwen35-9B、HCX-Text-1.5B)的实验数据进行了全景汇总, 并全面展开了深度可视化与轻量化本地评测环境的搭建。

[Maeumjigi 心语伴侣毕业设计开发日志 #14] 全模型微调圆满收官与多卡并行推理评估 (Eval) 管线构建

· 阅读需 2 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

5 月 6 日,历经数个不眠之夜与超参数反复调试,我们终于从漫长的微调泥潭中成功破局! 以 HCX-Omni-8B 与 Qwen35-9B 为代表的中轻量级垂直大模型全量微调顺利收敛完工。

[Maeumjigi 心语伴侣毕业设计开发日志 #13] 70B 算力瓶颈与中轻量级模型 (HCX, Qwen) 战略迂回

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

在领教了 70B 庞大参数量在微调过程中的显存地狱后,5 月 4 日,我们果断决定实施战略转向。 尽管我们曾通过将 Batch Size 压榨至极限,勉强将 70B 模型(Llama 3.3, DeepSeek-R1)推到了 checkpoint-1200 与 1300,但极其漫长迟缓的训练周期使得整体科研迭代效率极度低下。

[Maeumjigi 心语伴侣毕业设计开发日志 #12] 70B 超大模型领域微调与 GPU 显存 (OOM) 极限拉锯战

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

5 月 3 日,在彻底摸透 8B 小参数模型的技术脉络后,我们团队终于向大语言模型的性能天花板发起冲锋——挑战 70B (700 亿超大参数量) 模型的领域微调。 我们同时锁定了 Llama 3.3 70B 与 DeepSeek-R1 70B 两大旗舰底座,但不出所料,瞬间迎面撞上了严苛的物理显存高墙。

[Maeumjigi 心语伴侣毕业设计开发日志 #11] 深度评估合成数据 (v5) 训练的 M6 模型与引入 FAISS 向量知识库

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

4 月 19 日,我们对历经心血生成的虚拟合成数据集 (v5) 训练出的全量微调大模型 (M6) 展开了多维度定性与定量评测, 并据此系统梳理并生成了第 7 周研发周报。那笔顶着扣费压力换来的合成语料,究竟能否在真实对话中交出令人惊艳的答卷?

[Maeumjigi 心语伴侣毕业设计开发日志 #9] Llama 3.1 领域微调实战排错与第 6 周中期答辩汇报

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

4 月 9 日,依托昨天完成的自动化 Notebook,我们终于迎来了人工智能大模型 (Llama 3.1) 的首轮正式微调训练。 然而现实充满荆棘,无数报错接踵而至。与此并行的,还有必须在深夜同步赶制第 6 周毕业设计中期答辩材料的极限挑战。

[Maeumjigi 心语伴侣毕业设计开发日志 #7] 合成数据 (v5) 生成成本优化与前端全栈联调

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

4 月 7 日,我们既在本地成功跑通了团队成员开发的前端服务, 又启动了通过前沿 AI 自主“合成 (Synthesis)” 6 万条高质量多轮共情对话数据的重磅流水线,以填补长尾心理咨询场景的语料空白。

[Maeumjigi 心语伴侣毕业设计开发日志 #5] 10 万条情绪数据清洗与大模型 API 账单的现实重压

· 阅读需 3 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

这是记录 4 月 3 日的开发实录。在这一天,我们正式启动了为深度学习大模型 (Llama 3.1) 喂养高品质心理对话语料的数据深度精炼工程。 这也是我们首次构建起由高级大语言模型 (Claude) 自主阅读上下文并高精度标注复杂情绪标签的庞大流水线。

[Maeumjigi 心语伴侣毕业设计开发日志 #3] 提醒 App 构建测试与微调数据预处理全面启动

· 阅读需 2 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

这是记录 3 月 31 日的开发实录。在这一天,我们既对国防会议中心预约提醒 App 进行了 Android 端构建测试, 又正式启动了暗示项目将彻底转型为前沿 AI 项目的 Llama 3.1 领域微调数据预处理流水线。

[Maeumjigi 心语伴侣毕业设计开发日志 #2] 初期提醒 App 规划具象化与测试环境搭建

· 阅读需 2 分钟
Jihwan Park (jaybee)
AI & Robotics Engineer

封面图

这是记录 3 月 30 日、正式启动 Maeumjigi 项目雏形“国防会议中心预约提醒”应用程序研发的开发实录。 依托上次确立的团队编码规范,我们制定了详尽的项目推进计划,并为测试驱动开发 (TDD) 筑牢了基底。