2 篇博文 含有标签「疑难排查」

5 月 3 日，在彻底摸透 8B 小参数模型的技术脉络后，我们团队终于向大语言模型的性能天花板发起冲锋——挑战 70B (700 亿超大参数量) 模型的领域微调。 我们同时锁定了 Llama 3.3 70B 与 DeepSeek-R1 70B 两大旗舰底座，但不出所料，瞬间迎面撞上了严苛的物理显存高墙。

4 月 9 日，依托昨天完成的自动化 Notebook，我们终于迎来了人工智能大模型 (Llama 3.1) 的首轮正式微调训练。 然而现实充满荆棘，无数报错接踵而至。与此并行的，还有必须在深夜同步赶制第 6 周毕业设计中期答辩材料的极限挑战。