道德,计算和AI |来自麻省理工学院的观点

有两条评论 | 苏珊秒。 silbey,美国麻省理工学院教授的椅子
   


苏珊秒。 silbey;相片由Jon萨克斯,MIT光谱

“学院计划要连接那些谁推动计算机科学的关系,那些谁在特定学科领域使用的计算工具,和那些谁分析和写数字世界。” 

- 查看翻译。 silbey,人文戈德堡教授,社会学和人类学的教授,行为和政策科学教授


系列: 道德,计算和AI |来自麻省理工学院的观点


苏珊秒。 silbey是人文的莱昂和安妮·戈德堡教授,社会学和人类学的教授,行为和政策科学的教授。她担任麻省理工学院(2017至2019年)的主席。她的研究主要集中在复杂的组织管理,监管和审计流程。她目前的研究主要集中在建立管理系统包含风险,包括道德沦丧,以及环境,健康和安全隐患。她的著作包括法律的共同的地方:故事从日常生活(帕特丽夏ewick)(1998),以及法律和科学(2008年)。

这里遵循两个评论的全文由苏珊silbey,最初发表在麻省理工学院任教的通讯。你也可以阅读这些链接原来的bt365手机平台:
如何不教伦理 (七重峰/ 2018年10月版);和 形成MIT斯蒂芬一个。计算的施瓦茨曼大学 (NOV / 2018年12月版)。
 

•••

 

如何不教伦理

苏珊秒。 silbey,麻省理工学院的椅子
来自麻省理工学院的通讯,月/ 2018年10月版

 

“而不是想着道德一系列问题做出选择的轶事情况下,我们可能会认为有关职业道德作为一个道德文化的参与,然后问文化是如何支持或挑战道德的行为。”

- 查看翻译。 silbey,莱昂和人文的安妮·戈德堡教授,社会学和人类学的教授,行为和政策科学的教授和麻省理工学院的主席(2017至2019年)


 

我写这个月bt365手机故事和道德, 更具体有关的故事,我们讲述道德。有越来越多的议论近来,从意想不到的和未对齐的声音来,bt365手机故事的重要性,理解我们做什么,我们应该做的。例如,加里·索尔·莫森和莫顿O操作。夏皮罗写在他们的著作, 仙与感性:什么经济学可以从人文学习,说:“要了解一个人,必须告诉他们的故事”和,而我们可以从经济,文化学到很多东西和道德不能降低经济方程。

在大众媒体, 纽约时报 专栏作家大卫·布鲁克斯最近回忆哲学家麦金太尔的说法,你可以不知道什么是应该做的事,除非你知道你是什么样的故事的一部分,这个故事我们告诉我们做什么能比的具体细节更强大的方案和政策。然而,在道德的教学为麻省理工学院和全国各地的大学生和专业教育的一部分,这里的加剧通话,故事被告知有关职业道德是令人不安的平庸和执迷不悟。

我们可能会通过并指出,企业和职业责任危机一直流行到美国社会,自十九世纪的最后一个季度至少开始。有专业失当每章 - 从强盗贵族们和茶壶圆顶丑闻,通过渐进的时代了,通过水门事件,伊朗魂斗罗,2008年的金融危机,以及最近在政治学和心理学的研究丑闻的流行 - 响应一直不变:呼唤教育的道德责任和道德作为专业教育的一部分,专门培训。

例如,2017年一篇bt365手机桥梁坍塌建议,“工程学校应该做更多的工作,因为他们将面临为职工个人伦理挑战做准备的学生 - 而作为一个行业”另一个2017年 大西洋 文章伊琳娜raicu直接寻址硅谷的职业道德,也推荐道德教育。 “越来越多的合唱团认为,我们需要道德的技术人员守则。

这是一个开始,但我们需要不止于此。如果技术可以塑造我们和技术专家是谁塑造的是技术的,我们应该要求对技术人员职业道德培训一定程度。 。 。 。这样的培训。 。 。会做准备的时候遇到,比如,与包括竞品之间的冲突伦理困境做出更周到的决策。这将帮助他们做出的选择,更好地反映 自己的价值观 (我的重点)。”娜塔莎歌手中写道: 纽约时报 在2018年2月大约需要新的努力,并即将出台,纳入道德到计算机科学教育。大多数这些课程的重点放在让学生反思自己的个人选择。歌手讲述如何这样的课程出现在一个时刻,当大型科技公司也一直在努力处理硅谷的集结它先心态的副作用。信息是明确的:大学应该拥抱,不回避,讲授在教室里的值。
 

模型教学
 

丑闻和更好的培训响应呼叫的这个周期已经经常重复一个只能用模型缺乏提供教育感到惊讶。标准模型 - 在法律和医学院校,现在泄漏到工程和计算机科学专业有少许变化要求 - 教道德在个人决策的问题,个人的价值观和选择。培训的重点是职业操守正式规则,为社会承担责任的上诉打断。它并没有被证明是一个成功的方案,如果企业和专业操守的反复循环的任何规格。

这样的标准模型失败,因为诊断和治疗的份额基本的误解:认为企业和专业失当是造成烂苹果的问题;一些少数软弱,无知或误导的个人独立做出选择不当.

这是什么误解的根源?物理力或原子结构和人的意志或意愿:教育的一个很大的只关注两种形式的因果关系的熟悉的工程师和科学家传播这种误解。虽然聚集和生态的物质和机械系统是很好理解的过程中,很多人似乎无法识别的聚集模式,当涉及到人的行为。因此,当被要求解释或解释社会现象,包括专业的不当行为或疏忽,相互竞争的利益,历史上的例子和可能的先例,受过良好教育的技术专家,以及广受欢迎的权威人士将更多的往往不是提供依赖于单个机构的账户,选择和个性。无法识别或描述社会组织形式,多采取理性,社会行动的经常还原模式,实际上是一个强大的unreflexive正统。

考虑近70年前生产的备用账户时,社会学家埃德温·萨瑟兰出版了他现在的规范工作, 白领犯罪,他在其中记载,美国企业构成犯罪惯犯的最多的人口。这是反直觉的观察从Sutherland的早期工作流概述在正常情况下,公开的行为定义为不良,非法或不道德的犯罪行为的理论。萨瑟兰描述 犯罪行为为正常行为学习 在那里有一个多余的循环有利于违反规范或法律上不利于违法的定义,定义的情况和交易。他称这种原则“差别交往。”

尽管萨瑟兰的工作重点是犯罪行为,见解考虑什么样的故事来讲述道德和不道德的职业行为时值得重视。萨瑟兰的主账号描述的所有行为,越轨和规范,如习惯与他人,最常见的内亲密的个人设置和有组织的团体互动的经验教训。这包括学习动机,驱动器,并为行动合理化,以及犯的行为,这可能是复杂的,尤其是在白领犯罪,金融,科学,或基于计算机欺诈的技术。

如果我们了解双方的道德和犯罪行为的正常学习的后果,我们可以提供各种不同的伦理教育,以及各种不同的经历,告诉比个别的,理性的和孤立的决策的人不同的故事。首先,我们当然会,出席的 内容 是学习内容,其中既包括动机和技术。这将在我们的地域包括科学理论和工程方法,也合议,各种模式的地位等级,性别表演,和相应的学位的野心也是如此。

第二,我们将专注于教学和 处理 学习。尽管萨瑟兰,继乔治·赫伯特·米德,专注于人际关系和符号互动,我可以把尽可能多的强调在二十一世纪的学习作为对亲密的个人交易媒介的沟通。工程师学会不仅成为通过做习题集和在实验室里工作,而是通过模仿他们所看到的传统,接受和风度奖励,对话的做法,和职业期望,观察是否面对面或通过大众传播媒介的工程师。

对道德教育的第三个,也是最重要的教训是萨瑟兰的重视 情境和社会组织 作为解毒剂只专注于个人选择的决策活动。换句话说,虽然我们可能想在道德行为的心脏,这是无法避免的一定要承认人的机构和决策,不过,我们盲人自己,这些选择的结构 - 激励机制,内容和模式 - 如果我们也紧紧围绕个体而忽略了该通道我们称之为道德或职业的我们称之为生涯的行动机会和动机更大图形。


道德沦丧
 

也许最简单的方法来思考关注环境和社会组织如何可能挑战道德的个人主义故事是考虑道德沦丧的美国流行叙述。例如,安然的故事,药物试验的Actonel的,在贝尔实验室的舍恩的事情,并在Facebook上剑桥analytica的崩溃通常是作为叙述的几个烂苹果给桶的名声的故事。换句话说,这样的坏苹果的叙述告诉我们,我们不必担心增加财政不当行为,学生作弊,学术造假,或自由民主的数字化威胁的证据,因为运作良好的机构的宏大叙事(市场,精英高等教育,同行评审,或者通过匿名参与的数字连接)保留在原位,用随机坏苹果污点。

每个例子中被报告和解释为一个轶事。作为单独的账户,如权利要求轶事特殊性,不典型性,正因为如此,轶事模糊连接一个事件到另一个链接。该排列个案采取行动,我们可以称之为专业或市场失灵,或数字战争或社会解体的结构的社会组织被抑制,因此由只注重个人的动机,行为和故障不知所措。

这是怎么了有关师德?而不是想着道德一系列问题做出选择的轶事情况下,我们可能会认为有关职业道德作为一个道德文化的参与,然后问文化是如何支持或挑战道德行为。或者,在萨瑟兰的话来说,是什么文化成员之间的交易,什么是通信的消息,多久和多长时间,因而如何在这种文化学到了什么?的激励和奖励制度是如何组织的,什么是资源和奖励的结构?更具体地讲,我们怎么形容为一个美好的生活?
 


“到这种忽视制度分析的是被指定学位要求的方式所造成的程度,以及途中的课程是有组织的,命名,并宣布,我们不能提供学生谁很快会与工具的专业人士,他们需要认识到通过个人的行动被引导的能力,他们需要让自己的方式在世界上的社会结构。”

- 查看翻译。 silbey,莱昂和人文的安妮·戈德堡教授,社会学和人类学的教授,行为和政策科学的教授和麻省理工学院的主席(2017至2019年)


 

对社会结构的影响


虽然学习文化是多学科,社会学和人类学的采用受到专门尝试跟踪特定的和一般之间的联系,以确定聚合个人行为或者个人到集体和集体行动的机制,并作为循环的文化习俗。从这个角度看,我们可能会认为道德教育作为社会文化的分析,并编制了职业生涯作为一个科学家或工程师为需要在历史上,组织,文化探索和管理经验的任务。道德教育必须是继麦金太尔,历史情境,包括在特定情况下会发生什么,以确定在历史上位于情况操作逻辑分析。

在科学事业编制,例如,可能包括注重实验室(或许包括它们是如何随时间变化)的组织,激励和不同形式的资金(包括赠款和合同之间的差异)的陷阱,以及性别在本地组和外部专业活动中的作用。在计算机科学事业编制,例如,可能要特别注意和技术灾难的历史事例的技术转化为社会控制的系统。在我们的一些研究,我们将这些种类的帐户,对此我建议应该是道德教育的主体,如 颠覆性的故事:是颠覆或通过揭示社会结构是如何联系起来的一般和特殊破坏个人主义因果关系的主张叙述。颠覆性的故事,通过机会和奖励,以及结构和约束系统揭示聚集的模式。

一会儿,让我们设想采用通常的修改修复道德沦丧的常规个人主义的叙述:我们换了几个坏苹果的故事,一对多烂苹果,或者一个bt365手机所有坏苹果。这不会但是足够了。只要我们描述了苹果,我们已经保存了系统,一套支持不端行为,理想化和文化资源。我们已经帮助告诉我们称之为 霸权故事,掩埋行动和权力的社会组织,并因此免除故事我们大家更深的责任。

如果我们谈论道德是个人决策没有历史,背景,社会结构和文化,我们没有解释苹果在每桶组织如何就是为什么我们看到的只是一个偶尔的坏苹果和那些坏苹果是如何感染的一部分其他苹果。什么是感染和传播的机制是什么?这是缺少结构元素道德传统账户坏苹果通常会错过,和另一种方法来教育道德和责任可能会提供。

当课程缺乏组织和制度分析打下坚实的基础,它鼓励美国文化,媒体和政治的超个人主义特征一般。而不是为学生提供颠覆性的故事和关键查询,课程的工具,也许不经意间,成为车辆加强流行的意识形态。作为卡伦征,在康奈尔大学信息科学系教授最近指出,“......如果数据科学伦理的培训完全侧重于数据科学家的个人责任,它的风险俯瞰更广泛的企业的作用,...”,这也是使得其产品和政策选择。


准确的故事


很多时候,历史,艺术,企业行为,公共事务被理解为仅仅是一系列单独行动的,人的决定,实用,发明,渎职,贪婪,或创意的产品:有可能是某些一系列特别特别可口的苹果注意这树长得更好苹果,但是很少关注果园的组织,尤其是种植,资源和气候是维持果园。令状大的文化了解,隐含如果所有的,因为个人喜好和态度的集合。

很多时候,故事主要是诬陷为获得预期的目的工具(通常功率 - 即讲一个好故事,你可以说服别人你想要什么,成功地推销自己或你的产品)。机制和提供干预影响的条件下,通道,并组织人的行动聚集的过程中只有少数选修的科目,很容易被忽视的课程。常见的是,学生完成度没有任何通知,不低于一致关注,对流程和组织结构,人的行动,并蓄力。然后,当公众的信心和专业不负责任危机爆发,我们听到的(个人)职业道德培训的呼叫。  

到这种忽视制度分析的是被指定学位要求的方式所造成的程度,以及途中的课程是有组织的,命名,并宣布,我们不能提供学生谁很快会与工具,他们将专业需要认识到他们需要做出自己的方式在世界通过个人的行动被引导的社会结构,技能。

应学生离开了学校和专业培训相信他们的个人意志和个人资源的重大机遇,并确定成功和失败的限制,他们会发现自己失意时他们对接起来反对那些非常强大的,但无形的社会结构。这naivite,或无知,是一个石缝中的不道德行为发芽。应然而生,有约束和组织结构和制度化的文化以及值得各个属性的资源的理解,他们会更有效,也许更合乎道德的专业人士和市民。

什么故事道德的根本,我们告诉麻省理工学院的学生?这是伟大的男人和几个女人单独克服巨大障碍和无知地把知识前沿的熟悉的故事?是的主动性和创造性的工作,以破坏生产的传统模式还原和一维的故事吗?让我们停止讲这个故事霸权,并要求,而不是什么样的故事(复数),我们应该使用,以帮助我们理解我们的世界以更高的精度和复杂性。然后,我们就,例如,展示组织技术和科学生产的替代模式。

例如,我们如何组织限制赢家通吃的动态?如果我们的知识产权制度成为与实际创造性的做法更加一致,会发生什么?让我们来告诉大家,以更大的细微差别和经验有效性解释世界的故事,让我们接触到的是通过主体性看世界把我们推到了我们的习惯性方式多种声音 - 眼睛和声音 - 别人的。在  智人:人类的简史,以色列历史学家尤瓦尔诺亚哈拉里做出了十分相似的要求一样尼日利亚小说家chimanda恩戈齐adichie时,她写道:“故事关系。许多故事无所谓。故事已被用来剥夺和诽谤,但故事也可以用来加强和人性化。故事可以打破一个人的尊严,但故事还可以修复破碎的尊严“。

 

•••

 

形成MIT斯蒂芬一个。计算的施瓦茨曼大学

苏珊秒。 silbey,麻省理工学院的椅子
来自麻省理工学院的通讯,11月/ 2018年12月版

 


麻省理工学院10号楼,建筑麦克劳林

“学院计划要连接那些谁推动计算机科学的关系,那些谁在特定学科领域使用的计算工具,和那些谁分析和写数字世界。”

- 查看翻译。 silbey,莱昂和人文的安妮·戈德堡教授,社会学和人类学的教授,行为和政策科学的教授和麻省理工学院的主席(2017至2019年)



10月15日,2018年,麻省理工学院宣布的礼物 从斯蒂芬一个。施瓦茨曼创建计算的一所大学。 11个月早些时候,11月2017年,总统拉斐尔赖夫开始与教师人员的可能性和计算的一所学校的前景讨论。他要求我们对如何从计算机科学学院的一些成员的提议可能与广大教师进行探讨的建议。我们推荐的广泛对话,在学院收集教师的集体智慧,并听取了他们的后顾之忧。

在我作为教师的椅子的作用,我的春季学期2018与所有学校议会和几大部门开会时伴有拉斐尔,教务长马丁·施密特,和工程学院院长anantha chandrakasan。我也加入了拉斐尔的办公室谈话与几个部门领导和项目主管。计算的麻省理工学院施瓦茨曼现在已经创建了;它尚未设计。


集体智慧
 

为学院的远景发展了这些谈话的过程中。最重要的是,教师超越EECS想要任何新的结构,为多孔的,在其边界不受约束的合作,因此使用具有最学科内司空见惯的计算方法是教师将与计算机科学系更经常的对话能够采用和适应,新方法。同样,在整个学院的教师要在适当的计算机分析的实质性纪律问题搞计算机科学家,作为一直如此,例如,在计算生物学。

此外,跨多个部门的教师愿意分享在涉及计算和计算方法领域的教授一些基础课程的负担。在这些课程高校扩招的显著增加的拉伸和在计算机科学前沿作出根本性的进步稀释现有资源。教师一致表示,不管是提出,该计划应允许更灵活的合作教学,学位和研究,同时提供增加的人力和物力。


概念
 

这个学期,我一直在伴随马蒂和anantha学校议会,各部门,各实验室的另一种路径,因为他们已经提出一个愿景,为高校,再次寻求如何制定一个新的大学的这个大胆而富有挑战性的概念的意见和建议麻省理工学院。教务长的介绍是目前什么可能到位进一步的咨询和设计后的草图。

制定并提出设计为学院 - - 我们面前的任务,因为该学院是设想有一所学校,类似于目前的五个麻省理工学院的地位是艰巨的,但有一个更广泛的任务为:积极连接的纽带整个学院那些谁推动计算机科学,那些谁在特定学科领域使用的计算工具,和那些谁观察,分析,并写数字世界。

当然也有可观察的紧张局势推和拉学院的视野中竞争的方向。一些人预计该学院是电气工程和计算机科学与辅助研究实验室和中心现有部门的更大,更好的扩展。其他人则希望该学院是一个不同类型的组织不仅致力于推动计算和计算机科学,但完全接受 - 通过使可见,而不是默契 - 嵌入式数字技术中不可避免的人的喜好,无论是无意的,以及可预见的后果这些技术。他的功劳,教务长已公开承认这些紧张关系,我们现在必须接受和调解。


研究
 

面对这一艰巨的任务,我想起海军上将里科弗的警世忠告bt365手机学术设计师,如果没有专门bt365手机设计学术组织:


学术[核反应堆]设计师是一个外行。他[原文]一直没有承担起与他的项目有关的任何真正的责任。他是自由优雅的想法尽情享受,这实际缺点,可以降级到的类别“单纯的技术细节。”实践[反应]设计师必须忍受这些相同的技术细节。虽然顽抗和尴尬,他们必须解决,不能被推迟到明天。他们的解决方案需要的人力,时间和金钱[1953年信。


有许多需要进行研究,并在短时间内决定是否该学院是在2019秋季开,苛刻的人力,时间和金钱。我们没有指定的外观像开放,除了也许一个网页。我们应该在这里和在其他大学相对于研究历史和当代的例子,例如,组成单元(必有部门以及实验室和中心);角色和职责(应在新的大学中的一员坐在每一个现有的学校理事会,并在五所学校的成员轮流坐于新大学的校董会?);资源分配(应如何高校资金分配为整个学院教学计算,为支持人员和硬件);对教师的任命和学生度的决策过程(如何将教师的任用,评价,如果他们在一个以上部门或学校坐提拔;什么程度应当提供;?应如何毕业的学生被录取和资助)。


工作组
 

在与教师官员和新院长的积极合作, 教务长创造了由多个工作组的特别工作组 产生于计算的苏世民学院的设计建议,这一过程在2008年金融危机期间成功实施。每个工作组将有一个充电指定的中心议题为它的询问在一组的提案和建议达到高潮。教务长已经创造了五种校表现,以确定新的学院院长候选人遴选委员会;第二委员会将面试来确定候选者。

我们目前预计要站起来(从五所学校在规范MIT的方式与代表)工作组来考虑和解决以下问题。特定费用和组合物中的过程:
 

  1. 组织结构: 探讨与两个轨道的组织构造或结构。一个小组委员会会考虑什么样的组织将提供敏捷性,同时确保关键要素,如学位,研究生的监督和指导,教师聘用和晋升的管理工作。应该有项目为中心的跨学科的实验室?如何将内部结构元素涉及到部门在其他学校?第二小组委员会将探讨的喜好和谁将驻留在高校内教师的期望。
     
  2. 教师约会: 具体考虑桥的任命将如何构建,录用,辅导,推广。什么是约会在学院的类别,以及如何为这些从当前学校任命相同或不同?什么是多台机组任命权和教师的职责是什么?它们是怎样被录用,辅导,促进?如何转变管理作为教师可以从一个单位的大学内和其他学校移动到另一个?我们可能会考虑某些任命有限的条件?
     
  3. 可用模型的景观: 收集有关国家和全球各地类似的院校的情报。什么已经在其他地方尝试,它是如何工作的?什么可能我们设想了麻省理工学院的不同?
     
  4. 社会影响: 探索计算的社会影响。学院立志整合思维,科研,教学等对计算的社会影响到它所做的一切,在教育和研究。怎么会这样提起?
     
  5. 课程和学位: 进行的日左右计算提供的所有课程普查。什么程度将在高校单位提供?如何将课程的学院内,并与现有的部门和学校进行协调?
     
  6. 计算基础架构: 对于确定最佳做法,以共享公共资源。如何在大学确保每个人都有访问硬件和专业的工作人员?


显然,这些工作组的议题相交。上述多组将提供更大的机会,教师,员工和学生的参与和反馈会比一个较小的一套。各工作组的主席将开会协调和跨组,并用新的院长(或代理院长)兼教务长沟通。我们预计工作组将在12月以前2018建议在2019年6月,继春季学期临时报告。


引导性问题
 

从对这些两个学期的多次交谈中,我们已经产生了一套似乎代表了中央的关注和多重目标,我们已经听到的问题。在制定提案和建议,我们希望工作组将通过它们的电荷和这些问题,它可以作为一种“教义问答”,为学院的设计功能来引导。

  • 将建议促进协作和促进整个麻省理工学院等单位部门整合在课程规划和研究?
  • 会推荐认可并维护与同事方面所表现出的专业知识对于计算艺术和科学?
  • 将建议确保在不止一个单位的约会教师有明确规定不妨碍学术生涯的正常进展的责任?
  • 将推荐任何设备上创建一个不同寻常的负担,在其他费用中获益一组,或剥夺任何人吗?
  • 将建议增加MIT竞争力方面的教师和学生的招聘和保留?
  • 将建议的管理结构维持这些原则,为高校内,并且相对于五个麻省理工学院资源(空间和资金),约会,教学和相关的分配公平和适当的分配?
  • 将高校的推荐的设计具有灵活性,以适应当前的一些趋势(例如,在入学率)可能大幅改变,这样的改变将是适当的可能性?


承诺 
 

我们的教师,都渴望接受这个挑战,并积极支持教务长的承诺,即计算的麻省理工学院施瓦茨曼通过将更多的社会责任走向更美好的世界,我们的下一步,但更冒险的计算。我们将致力于实现这一大胆设想的工作。
 

•••



建议链接

系列:

道德,计算和AI |来自麻省理工学院的观点

苏珊秒。 silbey:

麻省理工学院的网页

麻省理工学院人类学

故事:

人的因素:人类学家苏珊silbey解决重大全球性问题
“物理物质或理性计算模型转移到这些庞大的全球性问题,可以做很多事情来帮助解决我们当前的问题 - 但只有当他们是由人类和人类的组织是如何运作的细致入微的理解知情。”

人类学家silbey接收奖的研究在科学实验室锻造安全
对准理想和现实条件

由麻省理工学院人类学家为首的女学者苏珊silbey照亮道路常识调控
日志卷通过推进政治议程停滞不前研究。

女人为什么离开的工程?
研究分析问题并提出补救措施。

文化转型
研究表明,扩大工程师的视野是解决该领域的性别失衡是必不可少的。