Babylon Health的首席用户研究员Anna Zawilska最近在布拉格的Webexpo 2019上展示了通过结合技术和人工智能(AI)提供远程医疗服务的经验教训。巴比伦健康来调整支撑产品开发的三个关键假设。
Zawilska在演讲中提到了世界卫生组织的一项研究，根据该研究，世界上至少50%的人口无法获得基本的医疗服务。在这种情况下，将移动设备的普及性与人工智能的诊断能力相结合，有可能扩大医疗保健服务的访问范围。巴比伦的工程师，医生和科学家开发了一个AI系统，该系统可以接收有关某人所患症状的数据，将该信息与已知状况和疾病的数据库进行比较，以找到可能的匹配项，然后确定行动方案和相关的风险因素。
在巴比伦移动应用程序中，典型的用户流程将从该应用程序开始，要求用户(患者)描述他或她正在经历的症状。在第二阶段，根据所宣布的症状，将询问其他问题以进一步完善影响患者的可能状况。在第三阶段，将提出建议。
巴比伦团队做出的第一个假设是，患者对聊天机器人(患者输入症状的信任程度)与对医生的信任程度一样高。但是，从实际经验中得出的主要观察结果表明，人类医生与基于机器的技术在用户行为方面存在重大差异。
患者通常相信医生是知识渊博且合格的医生。这种信任没有转化为聊天机器人。此外，尽管患者很少会起床并在结束之前不去咨询医生，但Chatbot用户更有可能尽早结束咨询。最后，虽然患者通常认为应该遵循医生的建议，但Chatbot用户倾向于信任Chatbot的建议并遵循给定的处方。
Babylon Health得出结论，不能假定用户信任，因此，他们需要进行设计以提高信任度。Zawilska提供了一个对用户界面进行更改的示例：当询问一个假设的用户：“您的脖子动起来有问题吗?”，该应用程序还将提供一个为什么会提出问题的解释。例如，在这种情况下，应用程序将显示如下消息：“我之所以问这个，是因为我试图消除紧张的头痛。对于您个人而言，颈部问题和头痛是紧张性头痛的有力预测指标。”
信任问题在医疗保健行业中特别盛行。Zawilska引用了最近的争议(涉及Theranos或DNA测序)，这削弱了人们对医疗技术最新创新的信任。
第二个假设是，临床安全性是评估巴比伦预测性AI成功与否的唯一标准。通常会使用大量数据来训练AI，并使用一些评估标准针对测试集对生成的AI模型进行测试。Zawilska解释说，使用临床安全性作为验证AI模型的唯一标准会带来更高的风险，从而给用户体验带来不利影响。