K 折交叉验证
K 折交叉验证（K-fold Cross-Validation）是一种被广泛运用于机器学习与医学图像分析领域的模型评估策略，其核心思想是把整个数据集“物尽其用”：在数据量有限的情况下，既能训练出足够复杂的模型，又能获得对泛化性能相对可信的估计。
具体而言，算法会先把全部样本随机但均衡地划分成 K 份互斥子集（通常 K 取 5 或 10，称为“折”）。随后进行 K 轮迭代——每一轮都挑选其中一份作为临时验证集，其余K−1 份合并成当前轮的训练集；模型在该轮训练完毕后再在预留的那份验证集上计算性能指标（如 Dice、Accuracy、AUC 等）。
当 K 轮全部结束后，将每次得到的验证指标取平均，即可得到对模型泛化能力的无偏点估计；同时计算标准差，还能量化模型在不同数据子集上的稳定性。由于每一份数据都恰好有一次“被当作验证集”的机会，因此整个过程中没有任何样本被浪费，也不必额外留出固定的验证集，从而在“样本珍贵”的医学影像任务里显得尤为适用。更重要的是，K 折交叉验证能有效降低因单次随机划分带来的评估方差：若仅用单次训练/验证拆分，极端情况下验证集可能恰好全是“简单”或“困难”样本，导致评估结果过于乐观或悲观；而多次轮换后，这种随机波动被平均掉，评估曲线更平滑、结论更可信。
最后，该方法还附带一个实用副产品——K 个独立训练的模型，可用于后续集成（majority voting 或概率平均），在测试阶段进一步提升鲁棒性。正因如此，从传统机器学习竞赛到前沿的深度学习分割框架（如 nnU-Net），K 折交叉验证都被视为“标准动作”，成为论文写作、模型打榜以及医疗 AI 注册申报时不可或缺的一环。
5 折交叉验证与医学影像分割模型的联系
医学图像分析领域普遍采用 5 折交叉验证，根本原因在于“数据稀缺”与“可靠性要求”之间的尖锐矛盾：
（1）单中心采集的3D CT或MR往往只有几十到上百例，远少于ImageNet那样的百万级自然图像。
（2）任何过拟合或评估偏差都可能直接影响临床决策，甚至危及患者安全。
5折交叉验证恰好在这道缝隙里提供了“既要又要”的解决方案——通过五次轮换，每一份数据都能轮流扮演一次“从未见过的验证集”，既最大化地利用了有限的病例，又给出了带标准差的Dice或HD95，让研究者、审稿人和监管机构一眼看出模型是否“靠运气”拿高分。
nnU-Net把这一流程写进骨架代码：首先，医学图像存在显著的站点效应与扫描参数差异，随机单次拆分极易把某类分布全部挤进训练或验证集，导致指标虚高，5折轮换能平均掉这类协变量偏移；其次，nnU-Net默认输出五组独立权重，可直接用于测试时集成，既提升边缘案例的鲁棒性，又为后续模型选择留出余地——若某一折因图像质量异常而Dice骤降，可单独剔除或降权，而不必重训整个模型；最后，论文投稿与医疗AI注册都要求“可重复、可量化”的泛化证据，5折交叉验证的均值±标准差已成为同行默认的“通行证”，缺少这一步，实验部分往往会被直接打回补充。因此，在nnU-Net的管线里，循环跑完fold 0–4不仅是“最佳实践”，更是把深度学习模型从“实验室玩具”推向“临床可用”的必经之路。
nnunet 模型训练注意事项
在 nnU-Net 里，若用 fold=all 训练，模型会把全部数据一次性喂给网络，中途随机抽几块 patch 充当“伪验证集”来计算 validation loss 和 Dice，这些数字仅供早停和画曲线，不能当作泛化性能，最终只能拿它在真正保留的独立测试集上跑一次，得到的 Dice/HD95 即为唯一可信指标。 (使用 all 模式训练模型时，唯一能提供可信、无偏性能评估的，就是独立 test set)
注:用all训出来的模型更容易“看不见自己的盲区”，因而客观上过拟合风险更高!在样本稀缺、分布复杂、临床后果大的医学场景里，足够把它归为高风险方案。
采用 fold = 0–4 五折交叉验证时，每一折都会产出一份在对应验证集上计算的 Dice，五组结果应报均值±标准差，这套统计量才是论文或注册材料里认可的泛化指标，若还需进一步提升鲁棒性，可把五折模型做集成后再投向同一测试集，此时报告的测试分数即代表“交叉验证+集成”的最终性能。
