备受争议的医疗应用制造商巴比伦健康公司(Babylon Health)批评了这位医生，该医生首先对其AI聊天机器人的安全性提出了担忧。
巴比伦健康公司的聊天机器人可在公司的GP at Hand应用程序中使用，这是由卫生部长Matt Hancock倡导的数字医疗解决方案，该解决方案自去年以来也已集成到Samsung Health中。
聊天机器人的目的是通过自动进行分诊过程来确定某人是否可以在家中进行治疗，应在线预约或亲自预约GP或直接去医院，从而减轻GP和A&E部门的负担。
Twitter用户以Murphy博士的化名在2018年首次与我们联系，声称巴比伦健康的聊天机器人正在提供不安全的建议。Murphy博士最近以David Watkins博士的身份揭晓，并在英国皇家医学会的“ 2020年AI和数字健康的最新发展”活动中公开发表了他的发现，此外还出现在BBC新闻之夜的报道中。
墨菲医生露出了面具。现在是他的立场声明。他的驱动力–患者安全。不能与那争论!@ DrMurphy11 #RSMDigiHealth @RoySocMed pic.twitter.com/hOC7kzlNz3
-clive flashman(@cflashman)2020年2月24日
在过去的几年中，Watkins博士提供了许多聊天机器人提供危险建议的示例。在一个示例中，建议一名肥胖的48岁重度吸烟者患者出现胸痛，他建议“在接下来的几个小时内”进行咨询。任何有常识的人都会告诉您立即拨打紧急电话。
这又是一个疏忽#Triage从@babylonhealth #GPatHand #AI #Chatbot应用程序?
48岁的肥胖男性/每天吸烟30天，男性突然出现中枢性胸痛和出汗…。
我说打999，巴比伦应用程序说看到您的GP… pic.twitter.com/VcOqs9JOhP
-Murphy博士(又名David Watkins)(@ DrMurphy11)，2018年3月22日
此特定问题已得到纠正，但是Watkins博士多年来强调了许多其他示例，这些示例非常清楚地表明存在严重的安全问题。
在周一的新闻稿(PDF)中，巴比伦健康中心将沃特金斯博士称为“巨魔”，他“瞄准了我们员工，合作伙伴，客户，监管者和新闻工作者的成员，并在推特上发布了关于我们的诽谤性内容”。
根据该新闻稿，沃特金斯博士对聊天机器人进行了2400次测试，以抹黑该服务，同时提高“他认为涉及的测试结果少于100个”。
据巴比伦自己的“高级临床医师小组”称，巴比伦健康声称，只有20例沃特金斯医生发现了真正的错误，而其他人则是“错误陈述”或“错误”。
沃特金斯博士在接受TechCrunch采访时称，巴比伦的说法“完全是胡说八道”，并质疑该创业公司从何处获得其数据，因为“肯定没有2,400项完成的分流评估”。
沃特金斯博士估计他已经进行了800到900次全面分类，其中一些是重复测试，以查看巴比伦卫生局是否已解决他先前强调的问题。
医生承认，Babylon Health的聊天机器人已得到改善，并且出现问题的几率约为三分之一。在2018年，沃特金斯博士首次与我们和其他机构联系时，他说这个比率是“一对一”的。
尽管这是一个帐户，但另一个证据却表明，Babylon Health的聊天机器人已多次发出危险建议。Watkins博士花了许多时间向巴比伦健康局强调这些问题，以提高患者的安全性。
巴比伦卫生保健公司不但不欢迎他与沃特金斯医生共同努力改善服务质量，而是决定继续发动进攻，“试图抹黑引起患者安全担忧的人”。
巴比伦在新闻稿中指责沃特金斯发布了“超过6,000次”误导性攻击，但没有提供具体位置。沃特金斯博士主要使用Twitter发布他的发现。截至撰写本文时，他的帐户共发布了3925次推文，而不仅仅是关于巴比伦的服务。
这并不是巴比伦卫生组织的数据第一次受到质疑。早在2018年6月，Babylon Health举行了一项活动，在MRCGP考试中吹嘘其AI击败见习GP来测试他们诊断医疗问题的能力。平均及格率为72%。“巴比伦健康是怎么做的?” 巴比伦卫生局局长Mobasher Butt博士在活动中说。“它占了82%。”
考虑到聊天机器人已经给出了一些微不足道的危险建议，尤其是在当时，很难想象它击败学员GP的说法是正确的。有趣的是，此后该活动的视频已从Babylon Health的YouTube帐户中删除，并且该公司从其网站的“新闻中的巴比伦”部分中删除了所有涉及该新闻的链接。
当被问到为什么删除内容时，巴比伦健康在一份声明中说：“作为一家快节奏，充满活力的健康科技公司，巴比伦正在不断用有关我们产品和服务的新信息刷新网站。因此，通常会删除较旧的内容，以便为新内容让路。”
像巴比伦健康公司(Babylon Health)提供的AI解决方案将有助于减少对医疗服务的需求，并确保人们随时随地获得正确的信息和护理。但是，患者安全必须首先考虑。
由于存在潜在的致命或改变生命的后果的风险，医疗保健中的错误很少被原谅。科技界通常的“快速行动并打破事物”的思想在这里不能适用。
人们普遍认为，新技术很少会出现问题，但是人们希望看到正在尽最大的努力来限制和解决这些问题。巴比伦卫生保健公司不欢迎那些指出严重问题之前指出其服务问题的人，而宁愿将其错误归咎于其他所有人。