|
柳叶刀AI诊断系统可能输出带有种族偏见的结果文章AI也会种族歧视柳叶刀医学的最新相关信息
FaceAge登上「柳叶刀」!AI一张照片看穿你的真实年龄
当然，AI并不会取代医生判断，但有了它，医生诊断患者时就多了一双「看透真实年龄的X光」眼。但别高兴太早 AI「看脸」也有风险...
新智元4天前
查看更多
2022年6月1日研究人员更关心的，并非是AI系统能够检测人类种族这件事情本身，而是AI系统的临床表现将因为这些种族偏见受到影响。而医生可能会忽略AI系统诊断结果中的误差。文章的作者表示，“AI预测种族身份的能力本身并不重要，但是这种能力很可能存在于许多医学影像分析模型中，这将会使临床中已经存在的种族差异问题恶化。”人类目前...
2022年5月31日研究人员更关心的,并非是AI系统能够检测人类种族这件事情本身,而是AI系统的临床表现将因为这些种族偏见受到影响。而医生可能会忽略AI系统诊断结果中的误差。 文章的作者表示,“AI预测种族身份的能力本身并不重要,但是这种能力很可能存在于许多医学影像分析模型中,这将会使临床中已经存在的种族差异问题恶化。” 人类目前还...
2022年5月18日Celi认为，医生应该会不愿意使用可能会自动产生偏见结果的AI诊断工具。他说道，“我们需要暂停一下。在我们确定其没有做出种族主义决定或性别歧视决定之前，我们不能急于将算法带到医院和诊所。”
2022年6月9日郭柏志表示，团队本来猜想AI可能是从骨质密度来判断人种，因黑人的骨质密度高于白人，但后来发现并非如此，以某张手掌的X光片，显示AI判读人种的重点聚焦在中指与食指的第三指节，团队里也有二、三十年经验的放射科医师，但实在想不出来AI是怎么判读取人种。令研究团队忧心的是人工智能的种族歧视，甚至可能影响医学图片...
2022年5月23日这一研究结果目前发布在《柳叶刀数字健康(Lancet Digit Health)》上。 AI能通过胸片识别患者种族?“我以为我的学生疯了” AI模型在医学影像识别领域的能力早已有目共睹,但是麻省理工这一研究之所以引发了极大的关注,一方面是由于其高精度识别率背后的原因仍是个“黑盒”,另一方面,研究者们也不得不担忧,人工智能是否...
2025年3月15日然而，AI医疗的“不可解释性”成为痛点。一位患者因AI误诊延误治疗，家属质问：“连医生都说不清算法逻辑，谁来为错误负责？” 更令人担忧的是，部分AI系统的训练数据存在种族偏差。例如，非洲裔患者的皮肤病诊断准确率比白人低12%。--- 隐忧浮现——数据安全的“达摩克利斯之剑 1. 隐私泄露：医疗数据成黑市“...
2025年1月12日如何应对AI 的偏见? 是的,AI 跟人一样也会有很深的偏见,因为AI的数据是我们喂给它的。计算机科学、数据分析有个常见的术语-Garbage in, garbage out, 输入的垃圾,输出的自然也是垃圾。 那么在应对AI 所产...
2025年5月9日财联社5月9日讯 周四(5月8日)发布在国际医学期刊《柳叶刀-数字医疗》的文章显示,研究人员正在使用深度学习系统“FaceAge”来估算人体的生物年龄。 来源:《柳叶刀-数字医疗》网站 结果发现,癌症患者的面部特征平均外表年龄比实际年龄大了4.79岁。另外,FaceAge还可以改善医生对癌症患者的姑息治疗预测,反映了该算法在临床...
