Nature长文:打破AI黑盒的“持久战”

2020年2月,随着 COVID-19在全球迅速传播且抗原检测难以获得,一些医生转向人工智能(AI)来尝试诊断病例。一些研究人员采用深度神经网络通过查看X射线和胸部计算机断层扫描(CT)扫描来快速区分患有COVID-19肺炎的人和未患肺炎的人。
“在COVID-19大流行的早期,人们竞相构建工具,尤其是AI工具来提供帮助”,西雅图华盛顿大学的计算机工程师Alex DeGrave说,“但研究人员并没有注意到许多人工智能模型已经决定走一些捷径” 。
AI通过分析被标记为COVID-19阳性和阴性的X射线图片来训练模型,然后利用它们在图像之间发现的差异性来进行推断,但是在当时面临着一个问题,“可用的训练数据并不多。”DeGrave说。
多家医院公开了COVID-19患者的X射线照片(被标记为COVID-19阳性),美国国立卫生研究院在大流行之前收集的肺部图像库提供了未感染COVID-19的X射线数据(被标记为COVID-19阴性),这些数据在被用作训练时存在无法忽视的误作用,例如,许多X射线会使用字母R来标记一个人身体右侧,从而方便放射科医生正确定位图像与人体的关系,但是不同医院采用的字母R的外观不同,同时,大多数COVID-19阴性图片来源单一,这使得最终使用这些数据训练的模型不仅会根据照片上显示的生物特征进行推断,还会根据图片上字母R的风格与位置进行推断(如图1所示)。

神经元
可解释性的好处

AI准确性和可信度
IEEE Spectrum
《科技纵览》
官方微信公众平台

