调参调到怀疑人生，Loss 曲线却像心电图一样毫无起色？
很多算法工程师遇到模型效果不达标时，第一反应往往是去改学习率、换优化器，或者尝试不同的预训练底座。这种“参数焦虑”很常见，但往往治标不治本。如果底层的燃料质量不行，再精密的引擎也跑不出好成绩。在垂直领域的 模型训练 中，数据才是那个被严重低估的决定性变量。
我们常听到“Garbage In, Garbage Out”，但在实际项目中，大家更容易容忍“差不多”的数据。
比如做一个医疗问答助手，标注团队为了赶进度，把“建议就医”和“立即急诊”混为一谈。对通用大模型来说，这可能只是语义上的细微差别；但对于需要严谨决策的垂直模型，这就是致命错误。当这些带有噪声的数据进入 微调 阶段，模型学到的不是专业知识，而是标注人员的随意性。
你会发现，模型在测试集上表现尚可，一旦上线面对真实用户那些模糊、复杂的提问，立刻开始胡言乱语。这时候再去调整 Temperature 或 Top-P 参数，纯属徒劳。
很多人迷信数据规模，觉得只要喂给模型足够多的语料，它总能自己学会规律。这是一个危险的误区。
在小样本或少量数据的 微调 场景下，数据的一致性远比数量关键。想象一下，如果同一类意图的问题，有的标注为“查询天气”，有的标注为“日常闲聊”，模型就会陷入认知分裂。它无法收敛到一个清晰的决策边界，最终表现出来的就是“智障”般的随机回答。
在启动大规模训练前，务必先抽取 5%-10% 的数据进行人工复核，计算标注者之间的一致性系数（Kappa 值）。如果低于 0.8，请暂停训练，回头清洗数据。
别等到训练结束才看结果。在数据预处理阶段，就可以通过几个简单动作来排雷：
数据标注 不是外包出去就万事大吉的流水线工作，它是模型能力的天花板。
下次当你的模型效果停滞不前时，先别急着打开配置文件改参数。去看看你的数据集，问问自己：如果我是模型，面对这些杂乱无章的指令，我能学明白吗？
答案通常就在那里。
