道德,计算和AI |来自麻省理工学院的观点

道德行动环境 | T.L.泰勒
流程,政策和结构是基本的伦理方面的考虑。
 

“我们可以培养我们的学生有道德的思想家,但如果他们没有在工作(或学习中的)结构的支持宣传,干预,推动上提出的方法回来,他们将被打乱。伦理方面的考虑必须包括社会学模型,专注在流程,策略和结构,而不是简单的个体行为“。

- T.L.泰勒,比较媒体研究的麻省理工学院教授


系列: 道德,计算和AI |来自麻省理工学院的观点


在麻省理工学院比较媒体研究/写程序,T.L.教授泰勒是一个质的社会学家在互联网和游戏研究的领域工作。她的研究在在线休闲环境文化,社会实践和技术之间的相互关系焦点。她是作者 看我玩:抽搐和游戏现场直播(普林斯顿大学出版社,2018)的兴起,提高赌注:电子竞技和电脑游戏的专业化 (麻省理工学院出版社,2012),和 世界之间玩:探索网络游戏的文化性E(麻省理工学院出版社,2006年)。
 

•••

 

问:做什么机会,你看到的社会学告诉我们思考的好处,风险和社会/人工智能的伦理问题?

 


每个弹簧我教当然名为cms.614 /网络培养。在这,我们读到解决什么可能被广泛地认为是互联网和社会问题的各个方面四五本书。我们读过,探索在我们的日常生活(vaidhyanathan,2012),谷歌的作用越来越大作品,青少年和社会媒体(博伊德,2015年),对平台的内容审核(吉莱斯皮,2018),算法在延续成见和种族主义的作用(高贵,2018),甚至在加纳(考虑网络生活的伯勒尔,2012)。

学者们专注于互联网和数字平台一直在做的重要工作记录在这些系统中的社会和技术的纠缠关键研究。这种方法,而不是简单的途径技术影响社会,而且创新是如何这样通过与复杂的人类行为,包括各种嵌入公司(西弗,2018)的人的工作总是编织以及零碎的工人往往隐藏劳动力谁扩充算法和平台的数据(灰色和苏瑞,即将发表)。

我们的学生理解的利害关系

大多数学生在我的课的主修工程和科学领域,但所有麻省理工学院的本科生,无论其专业,上课在人文,艺术,社会科学,以及暴露于学者们喜欢的那些工作上面常常被证明是大开眼界他们。我们的学生看到的利害关系,并在实际的方式,系统确实可以产生伤害明白。而他们往往通过承诺新技术使兴奋,他们也了解如何非常开放 社会技术系统 可以影响社会和日常生活 - 往往深刻。

他们也经常说,但是,他们还没有办法想象解决这些问题或思考这些问题之际,他们做技术工作。因此,有他们对自己的未来职业生涯和他们认识,批判,甚至只是有点从社会科学的学术提示的训练之间的差距。这些学生往往是究竟是谁将于上班,在生产的发展,人工智能,算法系统,平台搭建,以及大数据项目的下一个迭代是毁灭性的公司的人。

通过思想的影响:在编码的重要一步

这并不是简单的教学伦理的问题。 2款不足往往推动我们的教学活动,面对面的人的关键接合技术。一方面是,往往在社会科学和人文学科被视为辅助域,仅仅提供一个额外的层;要求学生在道德读一些经典或反映案件屈指可数。另外,独立的“域道德X”类获得提供给试图填补缺口。而这样的动作是善意的,每个植根于一个有缺陷的模型:一个假定道德破折号可以快速培养反思者,并且通过伸展希望,伦理技术实践者。

博士。凯西fiesler,谁研究技术和研究伦理,写上来自于这些方面“提升摇臂式”的危害,并认为这样的模型通常假定伦理是一个专门区域或核心技术能力外域甚至一些。她问相反,“如果我们教过的学生,当他们第一次学会编写代码或构建技术,一个基本组成部分是通过影响思维 - 而如果你不这样做,你已经错过了重要的一步,一个错误正如损坏不学习测试或调试代码“。
 


“在其最诚实的,这个工作需要一组不同的技术人员之外的利益相关者,以保持足够的结构性权力,甚至提出,必要时,一个特定的技术 开发“。

- T.L.泰勒,比较媒体研究的麻省理工学院教授



个人道德和良好的愿望是不够的 

我想这宝贵的一分与另一事实作为社会学家连接起来,一个深深明显给我。有极限的关键参与的个性车型。我们可以培养我们的学生有道德的思想家,但如果他们不能在工作(或学习中的)结构的支持宣传,干预措施,并提出了处理推回,他们将被打乱。

伦理方面的考虑必须包括侧重于流程,策略和结构,而不是简单的个体行为社会学模型。我们必须,既是一所大学和技术发展的总体生态高调的利益相关者,此举对社会学思考的关键伦理问题。这不仅意味着在我们的课程,但在我们自己的内部结构,我们大胆提出了到提起计算的麻省理工学院施瓦茨曼。

在纽约大学2018年报告的详细信息,现在人工智能研究所令人信服多少技术的发展 - 从面部和影响识别算法来决策系统 - 是造成真正的伤害,好心这一规定。这些都不是小事;它们影响一切从刑事司法系统的医疗保健。而重要的进展已经取得 - 显著推动通过的公平性,问责制,并在机透明度学习型社区 - 更要做。行业驱动的尝试证明是不够的。

报告呼吁显著政府的监督和管理,举报人和拒服兵役的保护,“商业秘密和站在公共部门问责的方式与其他合法要求”,以及社区和人工智能问责公民参与的豁免,仅举几个建议。在的心脏的人工智能现在报告调用中心社会正义,问责制和透明度的技术开发。
 



拼贴,MIT shass通信

“什么可能我们计算的样子,如果在它的心脏的新的大学,是社会正义的承诺?”

- T.L.泰勒,比较媒体研究的麻省理工学院教授



从学者的见解争取谁研究人类的制度,流程,生活环境

这是一个关键的干预,因为它移动的谈话超出了简单的教学个人道德。而一个关键组成部分是什么,我们应该做的,这是不够的。我们怎么可能包括在我们与学生交谈注意结构和政策?什么可能看起来像到涉及个人问责制和透明度教模式 组织层面?让不只是“参与”的社区谁都会受到他们的工作受到影响,学生和研究人员,而是让外部利益相关者真正的权力?

我们怎么可能包括在计算学院的非常结构这些取向?什么可能我们的新的大学的样子,如果在它的心脏,是社会正义的承诺?

博士。玛丽灰色,微软研究院新英格兰的人类学家和研究人员一直在努力试图建立这些桥梁的谈话,她的努力是有启发这里。计算机科学家紧密合作,她和其他人正在创建保持基本的真理可见整个链流程:系统,实验和模型越来越建成并颁布为平台,从根本上依赖于人类。从像人类学和社会学领域的同意,问责制和透明度的过程中提供许多好处,我们沿着这些新的道路跋涉。

社会技术系统和多样化的利益相关者

这是对齐的,我相信,有什么在整个讨论问责的AI现在研究所电话“全堆栈供应链。”这包括“训练数据,测试数据,模型,应用程序接口(API),以及其他的结构组件在产品生命周期”。它也同步以及与整个课程呼吁更全面的关键道德的参与。

这项工作不能开发或仅由技术人员来实现。它需要从院的各个角落技能,专业知识和洞察力。在最基本的层面上,它需要领域专家和有实际社会科学的训练 - 以提供深入了解的过程,变量或汇流实际产生偏差或伤害 - 谁也与人们日常生活情境工作投入了多年的学者。

这也意味着培训 更多 社会科学家和超越了严格的技术专长建立激励机制。它要求那些谁从根本上想所有的这些发展的技能 社会技术系统 - 那些受到更广泛的集体反思和监督。并在其最诚实的,这个工作需要一组不同的技术人员之外的利益相关者,以保持足够的结构性权力,甚至提出,必要时,一个特定的技术 开发。
 

 

建议链接

系列:

道德,计算和AI |麻省理工学院persectives

T.L.泰勒:

网站


比较媒体研究/写程序

故事:

即时串流娱乐的世界里
泰勒看着电脑游戏和其他形式的在线广播的是如何成为大时间观赏性运动。

3Q:T.L.泰勒在电子竞技多样性
麻省理工学院的社会学家的“任意键”倡议旨在级在线体育的公平竞争。

简介:大型游戏猎人
麻省理工学院的社会学家T.L.泰勒研究在线游戏和在线电子竞技的新生世界的亚文化。

 

引用


人工智能现在提起。 2018。 AI现在报告。可在//ainowinstitute.org/ai_now_2018_report.pdf。

博伊德,danah。 2015年。 这是复杂的:网络青少年的社会生活。纽黑文:耶鲁大学出版社。

伯勒尔,珍娜。 2012。 Invisible用户:青年在城市加纳网吧。马萨诸塞州剑桥:麻省理工学院出版社。

fiesler,凯西。 2018年“我们的科技伦理危机说,有关计算机科学教育的状态。” 下一个,12月5日可在//howwegettonext.com/what-our-tech-ethics-crisis-says-about-the-state-of-computer-science-education-a6a5544e1da6。

吉莱斯皮,塔尔顿。 2018。 互联网的管理者:平台,内容审核,并塑造社交媒体隐藏的决定。纽黑文:耶鲁大学出版社。

灰色,玛丽和亚洲时报Siddharth苏瑞。即将出台。 鬼的工作:如何从建立一个新的全球下层阶级停止硅谷。纽约:埃蒙·杜兰/霍顿·米夫林·哈考特。

灰色,玛丽。 2017年“大数据,道德期货。” 人类学新闻,1月13日可在//anthrosource.onlinelibrary.wiley.com/doi/epdf/10.1111/an.287。

微软研究院。 2014年 教师职业道德峰会回顾面板。可在//marylgray.org/2014/08/msr-faculty-summit-2014-ethics-panel-recap/

高贵,SAFIYA巫魔。 2018。 压迫的算法:搜索引擎如何加强种族主义。 纽约:纽约大学出版社。

西维尔,尼克。 2018年“算法为文化:一些战术算法系统的民族志”。 Big Data & Society 七月至十二月:1-12。

vaidhyanathan,湿婆。 2012。 所有的谷歌化(以及为什么我们要担心)。伯克利,加州:加州大学出版社。

 


伦理,计算和AI通过制备系列 麻省理工学院shass通信
院长梅利莎贵族的办公室
的人文,bt365手机平台麻省理工学派
丛书主编和设计师:埃米莉·希斯坦德,通信主任
系列共同主编:凯瑟琳奥尼尔,assoc命令消息经理,shass通信
公布2019年2月18日