MIT商议东谈主员发现，当机器学习模子行使于纯属数据以外的新数据时，会出现紧要失效问题，这标明在新环境中部署模子时需要进行充分测试。

"咱们确认了即使在多数数据上纯属模子并聘用最好平均模子，在新环境中这个'最好模子'可能对6%-75%的新数据发达最差，"MIT电气工程与料想打算机科学系副西宾Marzyeh Ghassemi说谈。她同期亦然医学工程与科学商议所成员和信息方案系统实践室首席商议员。

在2025年12月神经信息处理系统会议上发表的论文中，商议东谈主员指出，在一家病院纯属的胸部X光疾病会诊模子，平均而言可能在另一家病院被合计是有用的。但是，商议东谈主员的性能评估泄漏，在第一家病院发达最好的一些模子，在第二家病院多达75%的患者中发达最差，尽管当汇总第二家病院统统患者数据时，高平均性能遮蔽了这种失效。

商议发现揭示了作假关联问题。作假关联的一个简便例子是，机器学习系统由于莫得"见过"很多在海滩拍摄的奶牛相片，只是因为配景就将海滩奶牛的相片分类为鲸鱼。天然东谈主们合计通过晋升模子在不雅察数据上的性能不错缓解作假关联，但骨子上这些问题仍然存在，并对模子在新环境中的信得过度组成风险。在许厚情况下，包括商议东谈主员搜检的胸部X光、癌症组织病理学图像和仇恨言论检测等规模，这种作假关联更难检测。

以在胸部X光上纯属的医疗会诊模子为例，该模子可能学会将一家病院X光片上特定的无关记号与某种病理关连联。在不使用该记号的另一家病院，可能会漏诊该病理。

Ghassemi团队之前的商议标明，模子可能作假关联年齿、性别和种族等要素与医学发现。举例，若是模子在更多患有肺炎的老年东谈主胸部X光上纯属，而莫得"看到"破坏多年青东谈主的X光片，它可能权衡唯有老年患者会患肺炎。

"咱们但愿模子学会不雅察患者的剖解特征，然后基于此作念出决定，"MIT博士后、论文第一作家Olawale Salaudeen说，"但骨子上数据中任何与方案关连的要素王人可能被模子使用。这些关联在环境变化时可能不够肃肃，使模子权衡成为不成靠的方案起首。"

作假关联加重了偏见方案的风险。在NeurIPS会论说文中，商议东谈主员泄漏，举例晋升举座会诊性能的胸部X光模子，在患有胸膜疾病或腹黑纵隔增大（即腹黑或胸腔中央扩大）的患者中骨子发达更差。

论文其他作家包括博士生Haoran Zhang和Kumail Alhamoud、电气工程与料想打算机科学系助理西宾Sara Beery以及Ghassemi。

天然之前的责任浩荡继承按性能从最好到最差排序的模子在新环境中行使时会保合手该顺次（称为准确性在线），但商议东谈主员好像确认在一个环境中发达最好的模子在另一个环境中发达最差的例子。

Salaudeen联想了一个名为OODSelect的算法来发现准确性在线被冲突的例子。基本上，他使用散播内数据（即来自第一个环境的数据）纯属了数千个模子并料想打算其准确性。然后将模子行使于来自第二个环境的数据。当那些在第一环境数据上准确性最高的模子行使于第二环境大部分样本时出错，这就识别出了问题子集或子群体。Salaudeen还强调了团聚统计评估的危机性，这可能遮蔽对于模子性能更细粒度和更伏击的信息。

在商议历程中，商议东谈主员差异出"最误算的例子"，以免将数据集内的作假关联与简便难以分类的情况羞辱。

NeurIPS论文发布了商议东谈主员的代码和一些识别的子集供异日责任使用。

一朝病院或任何使用机器学习的组织识别出模子发达欠安的子集，该信息可用于纠正模子在特定任务和环境中的发达。商议东谈主员提议异日责任继承OODSelect以杰出评估场所并联想更一致地纠正性能的尺度。

"咱们但愿发布的代码和OODSelect子集成为一个踏脚石，"商议东谈主员写谈，"朝着濒临作假关联不良影响的基准和模子迈进。"

Q&A

Q1：什么是作假关联？为什么会影响机器学习模子？

A：作假关联是指机器学习模子乖张地将无关要素与场所后果关联起来。举例，模子可能将病院X光片上的特定记号与某种疾病关联，但该记号骨子上与疾病无关。这会导致模子在新环境中失效，因为这些关联在不同环境中可能不存在。

Q2：OODSelect算法是何如责任的？

A：OODSelect算法通过纯属数千个模子并测试它们在不同环境中的发达来识别问题。领先在原始数据上纯属模子并料想打算准确性，然后将这些模子行使到新环境的数据上。当正本发达最好的模子在新环境中大部分数据上发达最差时，就能识别出存在作假关联的问题子集。

Q3：何如责罚机器学习模子的作假关联问题？

A：商议东谈主员提议使用OODSelect等器用识别模子发达欠安的特定子群体，然后针对这些问题区域纠正模子。此外欧洲杯体育，不应仅依赖团聚观念评估模子，而要进行更细粒度的性能分析。在部署到新环境前，必须对模子进行充分测试以发现潜在的作假关联问题。