当前位置: 首页 > 期刊 > 《知识窗》 > 2017年第10期 > 正文
编号:13219635
鲍勃和爱丽丝之间的一场对话
http://www.100md.com 2017年10月1日 知识窗2017年第10期
     2017年6月,脸书公司发布了一项关于人工智能机器人的研究,引起了人们的广泛关注,并迅速登上了全球各大媒体科技头条。到底是什么事情引起了众人的注意呢?

    原来,脸书公司一个名叫“FAIR”的项目中,两个人工智能机器人鲍勃和爱丽丝在没有任何人为操纵的情况下,进行了对话。起初,研究人员以为鲍勃和爱丽丝之间的对话是无效的,因为对话的内容都是一些零碎而又重复的词语。可研究人员后来发现,这段人类无法理解的对话其实是有规则可循的,是完全有效的对话。面对这样突发的情况,脸书公司关停了该项目。

    事情一经公布,便震惊了全球:从某种意义上来说,机器人居然自行创造出了自己的语言!他们在说什么?他们可能会说什么?关于人工智能失控的言论更是铺天盖地而来,有网友甚至将此比作电影《终结者》中人类末日的开始。试想一下,当机器人以人类听不懂的语言进行对话,一个提议发射导弹,一个说好……这能不让人们细思恐极吗?

    巧合的是,就在出事前的一个星期,脸书公司创始人扎克伯格和特斯拉公司首席执行官马斯克才以人工智能为中心展开了一场论战。扎克伯格认为,那些觉得人工智能会导致人类走向末日的人是“悲观主义者”;而马斯克则认为,人工智能会威胁人类文明,如果不早点管控,等到出现严重后果时就太晚了。这场论战的余热还未散去,脸书公司就发生了这样的事件,着实给自己来了一记响亮的耳光。

    事件愈演愈烈,人们再次联想到之前著名物理学家史蒂芬·霍金在讨论约翰尼德普主演的新片《超验骇客》时说的:“人工智能不但是人类历史上最大的事件,还有可能是最后的事件。”同时,霍金在为《独立》杂志撰写的一篇文章中也明确地表达了他对人工智能这个问题的担忧。

    面对舆论的压力,脸书公司有些坐不住了。脸书公司研究员迈克·路易斯在接受美国著名商业媒体FastCo的采访时,一再表明他们的确关停了这个项目,但并不是因为项目出错而惊慌失措,并公布了详细的事件经过。

    根据FastCo报道,鲍勃和爱丽丝确实是以人类听不懂的语言进行了无障碍沟通,但这只是编程者犯了一个错误,研究人员没有设定让机器人按照人类可以理解的英文来沟通。于是,机器人在沟通中开始以一种类似“速记”的方式,简化了它们的交流。这段机器人自发形成的相互理解的交流,看起来令人毛骨悚然,但其实可以理解为这是一个非常简单的设计漏洞。之所以会关闭这个项目,是因为发现这项研究已经偏离了原项目所要达到的目的。换而言之,就是这个程序没有成功,所以干脆关闭了。

    尽管是虚惊一场,人类却应为之警醒。要知道,人类胜过人工智能的地方,恰恰是我们拥有无限的创造力与情感,也或许正是人类有谨慎、恐惧、猜疑等情绪,才会对人工智能的“对话”感到恐慌。不过,這也没什么不好,在科幻电影中,拯救人类文明的主角不都是对人工智能保持警惕的人吗? (唐小棱)