道德,计算和AI |来自麻省理工学院的观点

机焦虑 | 贝尔纳zacka
ai和官僚机构(昨日的智能机)
 


贝尔纳zacka;照片由斯图尔特darsch

““的人谁研究的官僚机构,围绕人工智能的焦虑有一个怪异的熟悉的环。所以也没有兴奋。对于许多20世纪的,官僚机构被认为是智能机,所有的正面和负面的含义的术语进行“。

- 贝尔纳zacka,政治学助理教授


系列:道德,计算和AI |来自麻省理工学院的观点

 

助理教授贝尔纳zacka是一个政治理论家,其研究主要集中在公共政策执行过程中出现的规范性挑战。他理解特别感兴趣,其中公职人员位于组织环境如何影响他们的声音和平衡道德主体操作能力。他是作者 当国家遇到街道:公共服务和道德机构 (哈佛大学出版社,2017年)。

_____

 

问:如何政治学告诉我们思考的社会影响,效益和AI的风险?
 

 

的人谁研究官僚主义, 周围人工智能的焦虑有一个怪异的似曾相识。所以也没有兴奋。对于许多20世纪的,官僚机构被认为是智能机,所有的正面和负面的含义的术语进行。

当我们着手研究人工智能(AI)的伦理和政治影响,官僚主义比较是有启发。而艾未未的全范围的地平线上仍然弥漫,官僚主义是我们所知道的魔鬼。至少有两点教训,从我们与它接触的历史中汲取:这是值得研究我们的焦虑 - 他们是否是真实的,而且在这样做,我们应该注意不要使太快注销人类能动性。

                                                                 。 。 。

在20世纪之交,官僚体现自动化决策的承诺,如AI现在。像机器一样,官僚机构根据明确的规则意味着功能。这使他们能够更准确,更可靠,而且有时比组织的传统形式更有效。

官僚机构进行,而且,在道义上的承诺:从人的判断的随意性潜力释放我们。官僚机构可能会有所偏差,但他们无噪音至少:用相同的情况下呈现两次,其目的是为了达到同样的决定。更重要的是,他们根据可能被明确提出,并因此可能有争议的修订原则运作。他们,在这个意义上,透明。

但是这当然不是故事的全部。一百年以后,官僚主义已经成为侮辱的一个术语。无需人工判断的回火影响,规则的自动性可以是盲目的,潇洒的灵活性任何希望。

官僚主义,而且提出了一个幽灵比人的专制统治更加来势汹汹:没有人的专制统治。谁应该一个直接的委屈?该职员?但他们唯一的罪行就是遵守规则。那些谁的规则上来?然而,就像程序员设计复杂的算法,它们站在从应用的角度这样的删除他们未必能够预见自己选择的后果。这个问题是没有这么多,我们不能追究任何人的责任 - 它始终是可能的惩罚 有人。问题是,问责制是从实际的责任分离。

而这还不是全部。如果官僚规则是在广泛的情况下,获得合理的指导下,他们必须变得错综复杂 - 那么复杂,但是,由于使透明度理想的闹剧。作为自主车的设计人员现在正在发现,更复杂的机器,它是很难了解他们的工作,而且更加随心所欲他们的行为可能看起来或许的确 (对于何以知道?)。

                                                               。 。 。

现在,当然,昨天和今天的智能机之间的相似只能走这么远。现代的AI系统能够执行两个任务是出了名的官僚机构努力做的事:他们学习,他们适应。

官僚欠他们有他们被指示按照程序任何情报。他们的智慧是在这个意义上外在,而脆,因为它可以通过在周围环境甚至一个小的变化呈现过时。今天的智能机,而另一方面,可以通过自己的探索如何最好地达到预先设定的目标,并能在不断变化的环境光修正他们的做法。这一点,除了庞大的数据troves的可用性,这就是为什么他们可以超越它们的创造者 - 前景既惊险又令人担忧。

然而,尽管有这些差异,官僚主义和人工智能之间的比较可以帮助我们为未来的询价看好的方向图。这是如此特别是在人文和社会科学,因为几十年来官僚主义吸收政治学家,社会学家和人类学家的注意,和作家,艺术家和电影制片人的想象。事后的利益,我们可以从这一工作积累体学到什么教训?

                                                                 。 。 。

第一课,我觉得,是很值得研究我们的焦虑,即使我们发现最让人不安的,如奇异的前景,似乎还很遥远或不可能 - 事实上,即使他们 不能 兑现。至于大家关心的对象,官僚获得相当独立的组织如何官僚实际运作的生活。它成为其上年龄的焦虑被投射到屏幕。

同样可以说人工智能。反乌托邦的愿景是自我认识的重要来源:它们帮助我们理解异化,支配,无能为力,和剥削的变脸。这些形式的压迫,需要强调的,可能更多是源于我们的经济和文化的工作,而不是技术。官僚主义和人工智能是我们焦虑的对象,不一定是他们的事业。
 


“官僚机构的研究站,提醒不解雇人的机构太快。对于所有的恐惧它也引起有关非个人化的统治,官僚从来没有消除人的判断。同样可能会为AI是真的。这意味着,我们需要研究如何个别和组织演员调解新技术的采用,以及它们是如何又被他们改变。这就需要经验的社会科学。”

- 贝尔纳zacka,政治学助理教授



第二,官僚机构的研究站,提醒不解雇人社过快。对于所有的恐惧它也引起有关非人性化的规则,官僚永远消除人的判断。没有人的规则总是至少部分人的统治。

同样可能对AI是真的。这意味着,我们需要调查个人和组织的参与者如何调解新技术的采用,以及它们是如何被反过来又被他们转化。这需要经验的社会科学。从中,我们可以用艾场合的道德和政治困境的深刻理解出现。

每当社会发生深刻变革,展望未来既充满希望和包容性是一个需要道德想象力,同情的培养,道德团结的激活的任务。它是还需要警惕虚假承诺这一任务提前的一些在所有的名称利益,打击虚假必需品像技术决定论,这使得它看起来好像我们没有选择,当我们真正做的。

有一些社区和组织比其他人勇敢面对挑战,这些挑战更为清晰地?究竟是什么占了他们的成功?又是什么成功的,甚至是什么意思?这些问题太 - 不只是是否打开一辆车的权利或在发生碰撞的情况下,左 - 将是在未来几年伦理思考来肥沃的土壤。



建议链接

系列:

道德,计算和AI |来自麻省理工学院的观点

贝尔纳zacka:

网站

麻省理工学院的网页

当国家遇到街道:公共服务和道德机构
贝尔纳zacka(哈佛大学出版社,2017年)

政治学的麻省理工大学

故事:

通过政治理论的视角看公平
在伯纳多zacka的17.01课上,学生探究人的价值和想象一个公正的社会的许多方面。

状态的仰视图
内嵌街道级别官僚机构,政治理论家贝尔纳zacka揭示了复杂的道德景观公务员必须导航。

波士顿评论阅读zacka的说法,只有在效率,公平性,响应性和尊重是不存在的官僚立场的是一个公益的机会/

在沙龙,从读取的摘录 当国家遇到街头 就在社会服务机构zacka的启发性的经验阴影。

阅读zacka的 大西洋 文章解释“为什么官员似乎并不关心。”

 


伦理,计算和AI通过制备系列 麻省理工学院shass通信
院长梅利莎贵族的办公室
的人文,bt365手机平台麻省理工学派
丛书主编和设计师:埃米莉·希斯坦德,通信主任
系列共同主编:凯瑟琳奥尼尔,assoc命令消息经理,shass通信
公布2019年2月18日