企业官网建设流程全解析

AI安全评估新范式：uncertain_ground_truth如何应对医疗AI中的标注分歧

【免费下载链接】uncertain_ground_truthDermatology ddx dataset, Jax implementations of Monte Carlo conformal prediction, plausibility regions and statistical annotation aggregation from our recent work on uncertain ground truth (TMLR'23 and ArXiv pre-print).项目地址: https://gitcode.com/gh_mirrors/un/uncertain_ground_truth

在医疗AI领域，准确的诊断依赖于可靠的标注数据，但专家之间的意见分歧常常导致标注不确定性，这成为AI系统安全评估的重大挑战。uncertain_ground_truth项目通过创新的统计聚合模型和蒙特卡洛 conformal prediction 方法，为解决医疗AI中的标注分歧提供了完整解决方案，确保AI系统在模糊标注环境下仍能保持可靠的性能和校准效果。

医疗AI的隐藏风险：当专家标注不再一致

传统AI评估假设标注数据是确定的"黄金标准"，但在皮肤病诊断等复杂领域，多位专家对同一病例的判断可能存在显著差异。这种标注分歧会导致模型评估失真——使用简单多数投票的标注结果可能掩盖关键不确定性，使AI系统看似性能优异，实则在真实临床环境中面临高风险。

图：uncertain_ground_truth项目的皮肤病鉴别诊断数据集（dermatology ddx dataset）展示了专家标注的复杂结构，包含1947个病例的部分排序标注

核心创新：从确定性标注到概率化评估

统计聚合模型：捕捉标注者不确定性

项目提出的Plackett-Luce Gibbs采样器（pl_samplers.py）和概率化逆秩归一化（IRN）（irn.py）解决了传统方法的局限性：

• 将专家标注视为部分排序而非确定标签
• 通过贝叶斯推理生成类别 plausibility分布
• 自动学习标注者可靠性超参数

这种统计聚合方法将原始标注转化为概率化的"似然分数"，既保留了专家意见的多样性，又为AI评估提供了量化的不确定性基础。

蒙特卡洛Conformal Prediction：实现鲁棒校准

面对不确定标注，传统Conformal Prediction（CP）方法会失效。项目创新的蒙特卡洛CP（monte_carlo.py）通过以下步骤实现可靠校准：

1. 从plausibility分布中采样多个伪标签
2. 在校准集上构建覆盖保证
3. 生成包含真实标签概率的预测集合

实验表明，与基于多数投票标签的标准CP相比，蒙特卡洛CP在皮肤病数据集上的覆盖率提升了23%，同时保持了相似的预测集大小。

实战应用：三步上手医疗AI不确定性评估

1. 准备专业数据集

项目开源的dermatology ddx dataset包含完整的专家标注和模型预测：

• data/dermatology_selectors.json：专家部分排序标注
• data/dermatology_conditions.txt：419种皮肤病名称映射
• data/dermatology_predictions0.txt：预训练模型输出

2. 快速安装环境

git clone https://gitcode.com/gh_mirrors/un/uncertain_ground_truth cd uncertain_ground_truth conda env create -f environment.yml conda activate uncertain_ground_truth

3. 运行关键实验

• 标注聚合：使用colab_pl_sampler.ipynb生成plausibility分布
• 模型校准：通过colab_mccp.ipynb对比传统CP与蒙特卡洛CP
• 性能评估：运行colab_ua_accuracy.ipynb获取不确定性调整后的准确率

图：蒙特卡洛CP（右）相比传统CP（左）在不确定标注下提供更可靠的覆盖保证

为什么选择uncertain_ground_truth？

✅医疗级可靠性：在1947例真实皮肤病病例上验证，覆盖419种临床情况
✅即插即用工具：提供conformal_prediction.py、p_value_combination.py等模块化实现
✅完整评估框架：包含classification_metrics.py和ranking_metrics.py等不确定性调整指标

未来展望：让AI在模糊世界中更安全

随着医疗AI向临床部署加速，标注不确定性将成为不可回避的关键问题。uncertain_ground_truth项目不仅提供了当前最先进的解决方案，更为行业树立了新的评估标准——在追求高性能的同时，必须优先考虑AI系统在真实世界模糊性面前的可靠性与安全性。

通过将统计聚合与蒙特卡洛方法相结合，我们正逐步实现医疗AI的"安全范式转移"：从依赖确定性标注的脆弱评估，走向拥抱不确定性的鲁棒校准。这一转变，或许正是AI真正值得临床信任的开始。

【免费下载链接】uncertain_ground_truthDermatology ddx dataset, Jax implementations of Monte Carlo conformal prediction, plausibility regions and statistical annotation aggregation from our recent work on uncertain ground truth (TMLR'23 and ArXiv pre-print).项目地址: https://gitcode.com/gh_mirrors/un/uncertain_ground_truth