人工智能

试图让它不那么松鼠

由Kim Bellard.

你可能错过了它,但是人工智能进步协会(AAAI)刚刚宣布了第一次年度 松鼠AI奖 优胜者: Regina Barzilay.是MIT计算机科学和人工智能实验室(CSAIL)的教授。  事实上,如果你像我一样,你可能错过了一个松鼠艾西奖。 但是,它有一种重要的事情,特别是对于医疗保健 - 作为Barzilay教授的工作说明。 

松鼠AI奖人工智能为人类的利益(松鼠AI. 是一个基于中文的AI-Powered“自适应教育提供者”)“认识到人工智能的积极影响,以有意义的方式以有意义的方式保护,增强和改善人类生活。” 该奖项奖项为1,000,000美元,这是 与诺贝尔奖相同

Aaai的过去的总统Yolanda Gil, 解释 新奖的理由:“我们想做的奖项是为了向公众推出,如果我们用恐惧对待AI,那么我们可能无法追求AI为人民的利益。”

Barzilay博士有令人印象深刻的凭据,包括一个 麦克阿瑟奖学金.  她的专业知识是自然语言处理(NLP)和机器学习,她将她的兴趣集中在乳腺癌诊断后的医疗保健。 “这是2014年1月底,2015年1月,我刚刚回到了完全新的愿景,了解我的研究和技术发展的目标,”她 告诉 华尔街日报。 “从那里,我试图做一些有形的东西,改变乳腺癌的诊断和治疗。”

从那时起,巴西亚博士一直很忙。  She’s helped 在药物开发中应用机器学习,并与马萨诸塞州综合医院合作使用 A.I.在早期阶段鉴定乳腺癌. 他们的新模式识别出风险比广泛使用的泰尔-Cuzick风险评估模型更好,特别是对于非洲裔美国女性。 

像她 told Will Douglas Heaven in an 面试 为了 麻省理工学院技术评论: “这不是某种奇迹 - 癌症不会从昨天到今天生长。这是一个很长的过程。组织中存在迹象,但人眼能够有限地检测可能是非常小的图案。“

这提出了AI的一个重要问题;我们可能并不总是明白为什么AI做出了决定。 巴西亚博士观察:

但是如果你问一台机器,因为我们越来越多的,要做一个人类不能的事情,那么机器就会展示什么?它就像一只狗,这可能比我们更好地闻到,解释它是如何闻到什么东西。我们只是没有这种能力。

然而,她坚定地相信,我们不能等待“完美的AI”,我们完全理解,这将永远是正确的;我们只需要弄清楚“如何使用它的优势,避免其弱点。”   As she 告诉 统计新闻,我们还有很长的路要走:“我们在健康中的AI中有一个有时的工作,并且很少的是它实际上转化为诊所和益处患者。”

巴尔齐莱博士 指出:“现在,AI在失败的成本非常低的地方蓬勃发展......但这不是为了医生工作......我们需要给医生理由信任AI。 FDA正在寻找这个问题,但我认为它远非在美国解决,或者世界上的任何地方。 

担心A.I.I.是错的。 它可能预测错误的事情,未能识别正确的事情,或忽略它应该注意的问题。 换句话说,已经在医疗保健中每天发生的事情。 与人们一起,我们可以开火,起诉他们,甚至带走他们的许可证。 用A.I.,我们为谁做了什么/什么并不明显。

“这是一个大烂摊子,”加州理工学院大学的道德和新兴科学集团总监Patrick Lin, 告诉 石英。 “这不是清楚的是谁将是负责任的,因为有错误或事故发生的详细信息很重要。” 

Yale大学的Wendall Wallace的生物伦理学中心,补充说:“如果系统未能按照设计或做出特殊的事物,那可能返回到销售设备的公司。 如果它没有失败,如果它在医院背景下被滥用,责任将落在授权使用的人。“

“如果不清楚谁是谁负责,那就产生了一个差距,它可能没有人负责,”林博士 。 “如果是这样的话,没有动力解决问题。” 哦,很棒,只是医疗保健需求:更不负责任的实体。

为了真正让AI成功地在医疗保健中取得成功,我们将不得不在我们查看数据的过程中进行根本性的变化,以及我们如何违反错误。

AI. 需要尽可能多的数据。 它需要各种来源和各种人口。 我们的淤泥,专有的一步从手写数据系统中的所有这些都存在问题。  Dr. Barzilay 搞定了:“我无法想象任何其他人自愿扔掉可用的数据。但这就是医学中发生的事情。“ 

尽管我们对医学的赋予了致力于的科学方法,但事实上我们真的不知道大多数人大多数人会发生什么,并使甚至基本医疗保健系统互动的差别差,比如程序数量,不良结果,甚至花费多少钱。 与我们追踪焦虑护理一样糟糕,我们在跟踪护理时更糟糕— much less health —随着时间的推移和不同的医疗保健遭遇。 

一旦AI拥有数据,它将开始识别模式,其中一些我们知道,其中一些我们应该知道,其中一些我们不会猜到。 我们会发现我们一直在做错事,我们可以做得更好。 这将导致一些第二种猜测和指向,两者都是不生产的。

我们的医疗保健系统往往将其头在沙子上识别错误/错误,因为担心弊端诉讼(合理的或没有)。  对于公众而言,这种跟踪的任何跟踪都很少披露。  That’s a 20TH. 世纪态度需要在AI AGE中更新;我们应该越来越少了解一个弊端模型,更多关于连续的质量改进模型。

“第一件事’重要的是实现是AI ISN’T魔术,“大卫锦标赛 珍惜健康 最近说过. 这不是,但也不是我们在医疗保健中做的。 我们需要弄清楚如何恶化它们。 

Kim是一名前的Blues计划,迟到的编辑&感叹酊.IO,现在是常规的THCB贡献者。

传播爱心

发表评论

您的电子邮件地址不会被公开。 必需的地方已做标记 *