道德,计算和AI |来自麻省理工学院的观点

保护我们人类在人工智能时代 | 伯恩哈特鳟鱼
 


伯恩哈特鳟鱼;照片由乔恩·萨克斯

“满足决策的挑战人工智能利于值得的生活,我们需要仔细思考什么是对人的生命重要。”

- 伯恩哈特鳟鱼,雷蒙德·F。 baddour,SCD,(1949)化学工程教授



系列: 道德,计算和AI |来自麻省理工学院的观点


伯恩哈特鳟鱼是雷蒙德·F。 baddour,SCD,(1949年),化学工程与社会,工程总监,及道德推广方案(见)的教授。鳟鱼的科研侧重于综合性制药发展,包括AI工具的应用。
 

•••

 

问:什么独特的伦理和社会挑战你看到了新兴的或计算增加和艾 工具在塑造人类文化和行星的健康加速的作用,我们应该如何最好地满足这些挑战?



四个多世纪前,马基雅维利完成了他的杰作 The Prince。而它通常被认为是对政治现实主义的书出类拔萃,这是很多,很多。因为我们可能还记得,在第25章,他转身向着人类财富抓住,尤其是强化自己不受自然的率性。但是,我们往往忘记了如何在第15章,他设置了阶段为(通过他的任期,“VIRTU”)“价值”的发展,因为我们他们有今天。在此过程中,他种植的科学,道德和社会之间的连接的现代观念的种子。有什么了不起的是,我们已经忘记了如何既科学和VIRTU在一个不分段的整体,现代科学的项目有其政治哲学根源有关。

我们也倾向于对学科的想法起源脆弱忘记,一个念头开发了马基雅维里的大弟子,弗朗西斯·培根。培根是现代科学项目的创始人,他的想法与现代研究机构,它的麻省理工学院的模式直接导致了成立皇家学会和灵感,我们的国家科学院在一起。在他的伟大的书, New Atlantis培根设想一个未来的科学学会,比我们先进得多,有更先进的机器人技术和人工智能。在他的演讲,他给我们的警告的最严厉的:而科学的企业将获得巨大的利益,以人性化,它拥有深厚的倾向失去人性美。

由培根制定的纪律是一种方法,使知识的不同子领域的进展,并作为设计他们只是工作。他们已经导致了专业知识,并在其中进展只是重要的人类每一个科学领域。然而,他们掩盖了一两件事给人类最重要的:寻找的究竟什么是最重要的知识,必须考虑到整个并可在其中超越学科的搜索。

我们被告知,AI是最大的生存威胁,我们相信它。然后,我们把自己的头和忘掉它。我们如何来殷勤的这样一种状态?
 



详细地说,蚀刻培根(1561-1626)的,基于Painting by Frans Pourbus (1617)
litera etiam & philosophia的 certissime discerpitur“。 ( 并且 哲学 最肯定错了地方。)

“由培根制定的纪律是一种方法,使知识的不同子领域的进展,并作为设计他们只是工作然而,他们掩盖一两件事给人类最重要的是:寻找什么是最重要的,知识搜索必须考虑到整体,是其中超越学科。”

- 伯恩哈特鳟鱼,雷蒙德·F。 baddour,SCD,(1949)化学工程教授



人工智能的挑战,可能会导致我们把重点放在什么是最重要的。

有似乎是AI会如何呈现出两种可能性。第一,AI会做它是什么在轨道做:慢慢地接管每个人的纪律。毕竟,一个自学习机成倍增加计算能力将能够比人类好于经济学家诊断优于人类医生,修房子比人的建筑工人,运行经济。一旦我们全力以赴的工作,我们要么是由机器某种方式摧毁,由于其编程的一些不可预知的结果,否则我们会变得如此依赖于机器,我们将是他们的奴隶 - 无论我们知道与否 - 因为机器会自动选择优化的“最佳”的结果对我们来说一切。

割让的选择是在医学上已经够糟了 - 不应该 我们 决定是否承担了一定的治疗或没有,即使核实的统计数据告诉我们最好的概率结果?在政治上,这将是毁灭性的。对于机器会根据他们的预编程的偏见作出政治选择我们。那么糟糕,因为它是由人类政治家排除,这将是更糟糕通过一定与偏见程序被排除,这些偏见是否被有意或无意地编程。

有第二个可能性,但是。这是我们采取的ai极其严肃的生存威胁,彻底改变我们的做法,并开始认真思考什么是对人的生命重要。它是唯一的,如果我们做到这一点,我们能够满足决策的挑战人工智能利于有价值的生活。这来重新定位我们从什么仅仅是有利的,什么是真正的好,从效率的盲目信仰,什么是人类生活中最深思熟虑的理解思维。在这方面,人工智能机器都有这个决定性的缺点:它们是基于统计学的,所以他们不能处理什么是最好的,什么是独特的;他们只能寻址什么是统计分析普遍不够。
 


“重定向我们的思想将包括重定向教育:从教育专注于一个特定的学科是解放我们的思想,使我们进一步调查我们的整个内真实情况的教育。”

- 伯恩哈特鳟鱼,雷蒙德·F。 baddour,SCD,(1949)化学工程教授



我们如何才能抓住机遇

重定向我们的思想将包括重定向教育:从教育专注于一个特定的学科是解放我们的思想,使我们进一步调查我们的整个内真实情况的教育。这样的教育会教我们不接受简单的教条 - 无论多么普遍,如何大声或强行主张。这样的教育会导致我们在基本的问题深刻反思:我们如何促进尊严而不限制自由?什么是正义?应该怎样我的生活吗?什么是我们在宇宙中的真实情况?这样的教育将是谦卑的终极教育,学什么而理解人类知识的局限,我们就可以知道。

这样的教育,使我们能够了解生物之间的差异,这是自然的整体而包含代谢过程,和机器,这是他们的部分的总和,充其量巧 mimeses 的整体。这将允许我们的经验和反思各种各样的人类卓越,是我们在麻省理工学院感到自豪,但不能是部分的任何的AI系统。只有这样,我们才在一个位置,认真解决我们为什么认为我们如此迫切需要ai和,这样做,指导我们生活的方向,真正使我们更好。

计算的麻省理工学院施瓦茨曼是一个新的学制,超越学科,因而提出了一个重大的机遇。一个是很想说,历史将评判我们是否会抓住这样的机会或没有。话又说回来,如果AI不再免费,周到的人,不会有更多的历史。

 

 

建议链接

系列:
道德,计算和AI |来自麻省理工学院的观点


伯恩哈特鳟鱼:

网页

鳟鱼研究小组 通过反pourbus(1617) 伯恩哈特鳟鱼: 新大西岛 王子 绘画 etiam& 拟态 文

社会工程,和道德程序(见)

化工麻省理工大学

评论在麻省理工学院任教的新闻|伯恩哈特鳟鱼

 


伦理,计算和AI通过制备系列 麻省理工学院shass通信
院长梅利莎贵族的办公室
的人文,bt365手机平台麻省理工学派
丛书主编和设计师:埃米莉·希斯坦德,通信主任
系列共同主编:凯瑟琳奥尼尔,assoc命令消息经理,shass通信
公布2019年2月18日