深度学习是AI的重要元素，可帮助推进诊断和治疗，但它仍然是一个相对未知的领域。
该技术的第一作者Fei Wang博士和纽约Weill Cornell Medicine的同事在《JAMA Internal Medicine》上写道，迄今为止，该技术最成功的应用是医学成像。人工智能技术的其他应用领域非常广泛，但是科学家仍然面临着巨大的障碍。
Wang和合著者说：“深度学习有可能解开图像中复杂的，微妙的区分模式，这表明这些技术可能在医学的其他领域有用。” “但是，在深度学习可以更广泛地应用之前，必须解决重大挑战。”
Wang和他的团队认为，这些是其中五个挑战：
1.我们可能没有足够的数据
Wang等人在深度学习模型中分别使用128,175张视网膜图像和129,450张皮肤图像来对糖尿病性视网膜病变和皮肤癌进行分类。写道。“模型的复杂性由问题的复杂性决定”，这意味着更复杂或异构的疾病可能需要大量我们尚未掌握的可靠数据。深度学习模型可能需要数以千万计的样本才能为慢性心脏病或肾衰竭创建合适的诊断模型。
作者写道：“模型很复杂，设计其最佳架构可能很困难。”
从电子健康记录中确保数据的质量也很困难，其中包含“高度异类，有时不一致”的患者信息，这可能会妨碍AI算法的准确性。
2. AI模型产生结果，但没有解释
Wang和合著者说，典型的皮肤科医生对黑色素瘤的检测将评估一系列主要和次要标准的图像，从而为诊断提供依据。接受过培训的深度学习模型可以做到这一点，例如“该患者患有黑色素瘤的可能性为0.8”，但仍然难以为他们的结论提供清晰的解释。
这组作者说，正在影像领域做出一些努力来改善这个问题，但是他们承认“一种仅表示诊断的深度学习模型可能会受到怀疑。”
3.创建通用模型很困难
该团队说，模型的偏见和互操作性使得很难设计可扩展到其他人群，国家或系统的深度学习模型。如果主要对白人患者的数据进行训练，那么该模型将难以为少数群体提供准确的预测。同样，在亚洲接受培训的模型在欧洲可能做得不好。
EHR的可变性也带来了一个问题，因为使用不同EHR的两个卫生系统可能无法使用相同的AI算法。
4.我们需要更好的人工智能来开发更好的数据
Wang等人说：“由于深度学习模型适合数据，但对它们的处理过程却知之甚少，因此可靠，高质量的输入很重要。” 写道。“创建提高数据收集过程质量的工具也很重要，例如纠错，有关数据丢失的警告和差异的调和。”
作者提到了《 IBM Watson Imaging临床评论》，该评论分析了临床成像报告中的结构化和非结构化数据，并将其与EHR中记录的诊断进行比较，以识别任何报告差异。
5.深度学习需要更多规范
Wang和同事写道，随着AI，机器学习和深度学习在医学领域的普及，这些技术越来越受到计算机黑客的欢迎。尽管一些社会正在联合起来提供有关AI伦理学的指导，但作者说科学家可能需要更严格的法规以确保模型安全。
他们写道：“现有法规侧重于医疗数据的隐私，而新法规也应保护分析模型。”