人工智能走向应用亟须提高可信度
最近看到新闻，商业巨子亚马逊2016年推出图画辨认AI体系“Rekognition”，还活跃向美国警方推销以协助其办案。不过近来，“Rekognition”却闹了一个大乌龙：28名美国国会议员被它辨认成了罪犯。
这一过错也让建议这项测验、对立警方运用“Rekognition”的美国公民自由联盟（ACLU）抓到把柄，他们表明，测验成果引起了民众对警方运用该体系的严峻忧虑。
尽管人工智能运用近几年被吹得热热闹闹，场景也令人振奋，但真要付诸运用，人们仍然对这些体系信赖度存在疑问。那么，怎么才能让这些体系具有高可信性呢？这就要深化到每一个详细体系，进行科学剖析。本月IEEE Spectrum宣布一篇文章Making Medical AITrustworthy具有必定参考价值。
医药工业领域是人工智能体系运用的理想之地。临床检验成果、医患之间的交流都被处理成为电子病历。AI体系能够摘要这些数据，然后给出性价比较高的医治计划。现在许多企业都在研制这种体系，但真实进入医院运用的却不多。
为什么会这样？匹兹堡大学的医学研讨专家和物理学家Shinjini Kunda说：问题在于信赖，尽管你有可行的技能，但怎么能获取人们的信赖并运用呢？
许多医用AI体系是个黑盒子，输入数据后得出答案。医师们搞不懂它为什么要这么处理。所以，Kunda研讨AI对医学图画的剖析与解说。她最近用AI剖析膝盖核磁共振图画（MRI），剖析3年内会发展为骨关节炎的可能性，运用“成长模型化”技能，用AI发生一个未来断定会发病的新图画，并显示支持其确诊的形式。
而人眼无法依据MRI图画判断患者3年内是否会得关节炎，但 AI程序则能够根据MRI扫描软骨图片的微妙改变，得出患者3年内得关节炎的概率。这些改变可能是医师们没有注意到或许无法观察到的。
别的，微软研讨人员Rich Caruana十年来一向致力于一项研讨，就是让机器学习模型不仅是智能的，并且是能够了解的。他用AI经过医院电子病历去估计患者的成果。他发现，即使是高度准确的模型也隐藏严峻的缺点。
他从前对肺癌患者进行数据计算，练习机器学习模型区别入院的高危患者和可在家康复的低危患者。该模型发现，心脏病患者较少死于肺炎，可作为低危人群。但实际上是，被确诊有肺炎的心脏病患者并不是低危人群，往往他们有呼吸困难时，就被及时送进急诊进行医治。
所以，如果单单从成果看，机器学习模型发现的这种关联性是正确的。但假设咱们用这种关联性去进行卫生保健，就可能让某些患者丧身。鉴于此，因为这些费事的发现，Rich Caruana正在研讨清楚显示变量相关的机器学习模型，让它判断模型不但在计算意义上准确，并且能在医学上可用。
