道德,计算和AI |来自麻省理工学院的观点

罗宾·沃尔夫舍夫勒
从生物医学的历史线索和谨慎的AI
 


罗宾·沃尔夫舍夫勒;照片由乔恩·萨克斯,麻省理工学院shass通信 

“生物学和医学计算的非常难解,使他们历史上的一个重要的对位,以在社会中的挑战和机遇的AI更加乐观当代讨论自己的过去强调以下两点:“量化是判断和评估的过程,而不是简单测量”和“预测是不命运。”

- 罗宾沃尔夫舍夫勒,狮子座在科学和技术的历史和文化马克思职业发展教授


系列: 道德,计算和AI |来自麻省理工学院的观点
 

在历史和科学技术文化的莱奥·马克思的职业发展教授罗宾·沃尔夫舍夫勒是现代生物和生物医学科学的历史学家。他的第一本书, 传染性的原因:癌症病毒的美国亨特和分子医学的兴起 (芝加哥大学出版社的,可2019),详细说明癌症病毒研究及其对现代生物科学影响的历史。他目前在研究是否成功的公式可以从生物技术产业在马萨诸塞州剑桥市的增长可以看出端倪。舍夫勒拥有麻省理工学院的科学,技术和社会计划预约。 

•••

 

问:如何才能科学技术的历史告诉我们的思维的好处,风险和社会/人工智能的伦理问题?
 

 

回答,让我从最近讲故事开始。在2014年,IBM推出了远大程序来自动癌症诊断和治疗的过程中充满。华生肿瘤,基于相同的AI系统上击败了“危险”的冠军和国际象棋大师,将消化信息,从患者的扫描,医生的笔记和医学文献准确地产生癌症治疗的建议都更快,更不是在肿瘤专家团队世界上最好的医院。然而,经过几年的使用,世界各地的医生开始检测与系统推荐的治疗一直存在的问题。

一机多学习过程的怪癖,这些决定都是生死接受治疗的患者的问题。在2017年,记者发现,大肆宣传的系统实际上依赖于一队医生的持续监管的只有一个医院 - Sloan Kettering纪念在纽约,谁搞“培训”的AI上的每一个艰苦的过程癌症中心类型的癌症,经常取代它们对沃森的判断。而不是创造一个有效的决策过程中,IBM的系统还进一步掩盖癌症治疗的重要人为因素。

生物学和机器学习的医药目前的建筑师和AI与他们最大的挑战系统。前所未有它可能会出现在乍看之下,禽流感对生物医学应用程序遵循在更古老的一系列有缺陷的努力,使生物学和医学量化和可计算的。生物学和医学计算的非常难解,使他们的历史的重要的对位当代社会所面临的挑战和机遇的AI更加乐观的讨论。这个经验强调谨慎的两点,如何对待当代人工智能项目。
 



“更多的数据并不总是产生更好的效果。优生学记录办公室是最密集的二十世纪初努力促进人类遗传学的研究之一。它的记录,如上图,加深而不是纠正了性状,如智力有缺陷的假设“(照片:在优生学档案局档案馆,纪念馆皮克勒图书馆的礼貌,杜鲁门州立大学)。

“生物学和医学提供了充足的理由去记住,量化的过程始终是bt365手机哪些类型的信息是值得了解的判断和评价的过程。”

- 罗宾沃尔夫舍夫勒,狮子座在科学和技术的历史和文化马克思职业发展教授



量化是的判断和评估,而不是简单的测量的处理

为计算生物学和医学应用的先决条件是一套生命过程的量化措施。但人的生命和健康的许多功能是困难的,如果不是不可能的,量化。在我们的方便度量的车程,我们经常允许测量的过程掩盖bt365手机我们如何珍惜和表征他们的目标是代表生活现象的重要问题。

“智能”的测量显示试图量化复杂和多方面的人类特性的挑战和危险。在早期的20 世纪初,美国心理学家借鉴了失学儿童的“心理年龄”的欧洲测试,开发智力的量化措施。第一次世界大战期间,智力测试的数字结果提供武装美国军队排序百万新兵的有效手段。事实上,这些试验中使用的是很容易的措辞,但评估的心理能力,比如不同车型适用的性能值得质疑的问题,并没有减慢这一过程。

战争结束后不久,优生学运动的倡导者提出了不同的人群作为不可改变的种族特性,证据的得分支持,从移民限制政策杀菌。而智力的遗传培育自己的激烈辩论中,许多很快接受了智商实际上是同义词的情报 - 尽管对于什么样的知识和背景的测试过程中实际测量的许多保留。

即使在今天,使用全基因组关联分析,构建智力分数当代努力犯同样的错误概念。而有可能确定智商和基因组合之间的相关性,这些计算忽略了有关什么是智能的,而什么样的能力,社会应该重视的更深层次的问题。


测量可以掩盖信息

即使结果是不太清楚有害的,量化的过程中可以创建,我们如何看待公共卫生和医疗问题的限制。在20世纪50年代为例,国家心脏研究所转向生物统计学的新领域,以帮助其分析数据从市弗雷明汉,马萨诸塞州心脏疾病的一个大的前瞻性研究不断涌现。同时进行的体检最初询问饮食,压力,和其他生活习惯问题,统计学家敦促医生专注于性能,如血压或胆固醇水平,这是量化的,并适合于新的强大的多因素Logistic回归分析技术,可以帮助预测未来的心脏疾病。

通过专注于一些容易测量的变量计算器建立个人的“风险因素”的想法成为公众健康的有力工具。然而,这种方式风险因素的建设也掩盖了围绕个体疾病的复杂的社会地形。心脏健康的情况下,香烟个人吸烟数量可能很容易吸收到风险因素的计算,但他们的环境等因素可能影响社会的健康,如暴露于香烟广告或国会补贴对烟草价格的影响, 不能。


什么类型的信息值得了解的?

生物学和医学提供了充足的理由去记住,量化的过程中会始终意味着bt365手机哪些类型的信息是值得了解的判断和评价。计算的能力总是取决于他们之下量化的过程。了解内置到这个过程中,假设给定计算的跨学科性质是特别重要的。其他领域的学者们到达不知不觉可以接受,如果他们有机会开始新系统的设计之前检查他们,他们会不认可的测量过程。
 



社会科学家和人权活动家,如w.e.b. Dubois的(上图)指出在大约非裔美国人死亡保险数据误认引起的效果的缺陷。 (w.e.b.杜波依斯,ca.1907,公共领域的照片)。

“在我们的数字测量的车程,我们经常让测量仪器来掩盖对他们的目标是衡量生活现象的重要问题。‘智能’的测量显示试图量化复杂的挑战和危险,并multifaced人的特征“。 

- 罗宾沃尔夫舍夫勒,狮子座在科学和技术的历史和文化马克思职业发展教授


预测是不是命运

多因素的回归模型像那些Framingham研究开发以通过AI在医药等领域所使用的预测方法的概念的核心。这些模型的数值精度借给他们的预测实际上的力量。然而,医生和生物学家长久以来一直抱怨,这些模型的基础根植于概率,而不是生物或生理机制的知识。这些模型中,几个变量与一个结果的相关性并不意味着这些变量产生的结果。当统计模型的有关健康状况,反映社会不亚于生物预测的情况下,被误认为是个人和社会群体的命运,这种区别就变得很重要。

计算个人的“保险性” - 他们的疾病或死亡的风险的预测 - 早已引起先进的数据分析方法。 1892年,弗雷德里克·霍夫曼,寿险精算师,在波士顿的公布 竞技场 杂志认为非裔美国人是“过度的死亡率在劫难逃。”非洲裔种族低劣的理论是不是新的,但霍夫曼证实这些猜测与人口普查报告,公共健康调查,军事记录,以及其他来源的数据的投注。

社会科学家和民权活动家,如w.e.b.杜波依斯和凯利·米勒,很快就指出,霍夫曼的分析,误以为原因的影响。这些差异的贫困和歧视非洲裔美国健康持续的伤害,而不是种族无力证明的证据。尽管如此,霍夫曼很快转移到一个位置,在英国保诚保险,最大的保险公司在该国之一。从那里,他是非裔美国人的高死亡率使他们无法承保的统计参数导致的审慎和其他寿险公司之后,或收取非裔美国人更高的保费几十年完全否认报道。通过架设在获得保险所提供的卫生安全进一步障碍,霍夫曼的预测,加深了健康不平等。


社会和政治价值观的了解应该引导技术innnovation。

今天,有针对某些形式的医疗保险歧视的法律保护,但读的预测作为个体的命运不断的危险。 AI已经成为通过分析大数据集涵盖了我们生活的功能,如社交媒体活动,购买历史,遗传信息,以及运动模式预测一切从怀孕到自杀风险的一个组成部分。这些新系统的建立,以防止健康歧视的监管框架之外运作,使公司在如何使用这些预测没有审查其更深层次的假设广泛的酌情权。

虽然我们可以认为霍夫曼的结论和优生学运动的种族主义和不正确的建议,但这并不意味着他们不能再发生了。对算法的公正性或统计客观性的假设作出的决定可以很容易地通过重新包装的社会差距的个人特质更新现有的不平等。

在AI和健康的新发展只是加深了量化和计算的社会和伦理困境。讨论人工智能和计算如何能解决问题之前,生物学和医学的历史提供了强大的警告,我们首先应该更好地理解我们要解决之前,我们寻求解决这些问题的性质。这提出了一套无法通过技术创新来解决问题,我们在我们自己的危险忽视的问题。


 

建议链接

系列:

道德,计算和AI |麻省理工学院persectives

罗宾·沃尔夫舍夫勒:

麻省理工学院网站

在科学,技术与社会MIT的计划

故事:

Kendall的关键因素
在20世纪70年代肯德尔广场荒凉 而似乎是一个不可能的地方发动的生物技术革命。但邻里有一件事去为它:人。更具体地说,接近正确的人说,麻省理工学院的历史学家罗宾·沃尔夫舍夫勒。

舍夫勒接收2018列维坦奖
在人文声望的奖项包括支持舍夫勒的研究了影响波士顿蓬勃发展的生物技术产业发展的因素的资助。


 


通过伦理,计算和AI系列制备 麻省理工学院shass通信
院长梅利莎贵族的办公室
的人文,bt365手机平台麻省理工学派
丛书主编和设计师:埃米莉·希斯坦德,通信主任
系列共同主编:凯瑟琳奥尼尔,assoc命令消息经理,shass通信
公布2019年2月18日