对准与人类的基本值Ai

“每一个人工智能功能具有渐进的方式推进文明的潜力。但是没有充分的保障或道德因素的结合,艾乌托邦能够迅速转变为反乌托邦”。
 

“每一个人工智能功能具有渐进的方式推进文明的潜力。但是没有充分的保障或道德因素的结合,艾乌托邦能够迅速转变为反乌托邦”。


通过达雷尔米注释。西方
副总裁和董事
治理研究,布鲁金斯研究所


 

这份报告的一部分“艾未未的未来蓝图”从分析的新挑战和人工智能等新兴技术引入的潜在的政策解决方案布鲁金斯学会的一个系列。

一些概念作为了解甚少人工智能。 民意调查 表明,即使是顶级的商业领袖缺乏AI的细节感,许多普通百姓用超能力机器人或超智能设备混淆。周围缺乏术语清晰的让悲观者技术来警告AI会征服人类,压制个人自由,并通过数字破坏个人隐私“1984年。” ......

自20世纪50年代,科学家们在争论什么是“思维”和“智能”,什么是“完全自治”,当涉及到硬件和软件。先进的计算机,例如 IBM沃森 已经击败国际象棋人类,并能即时处理大量的信息....

今天,艾通常被认为是指“机器,给出了沉思,判断和意向人的响应能力,以刺激与人类传统的回答保持一致。”据研究人员 shubhendu和维杰,这些软件系统“进行决策通常需要专业知识的[A]人类的水平”,并帮助人们,因为他们来了预测与问题的问题或交易。如在2018年4月通过论证约翰·艾伦和我 纸, 这种系统具有构成人工智能的精髓三种品质:意向性,智能性和适应性。


保障和伦理方面的考虑

在本文的其余部分,我将讨论这些特质,为什么它要确保基本的人类价值观各协定是非常重要的。每个艾特征有渐进的方式推进文明的潜力。但没有充分的保障或道德因素的结合,艾乌托邦能够迅速转变为反乌托邦。


通过布鲁金斯学会报告全文

约ai和计算更多的故事

 

建议链接

MIT重塑自身塑造未来

石英指南人工智能

人工智能先驱,研究人员将人类对AI