Facebook:干预聊天机器人不是怕失控,而是无意义

  • A+
发布日期:2017年08月01日 所属分类:新知

致知网综合消息,上个月,Facebook传出了关闭智能对话机器人项目的消息。原因是,研究员对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言。研究者不得不对其进行了人工干预。(此前的报道,请看这里:Facebook两聊天机器人对话中发展出自己独特语言

消息传出后,一时间,Facebook关闭“失控”AI系统,因其发展出人类无法理解的语言的标题充斥各大媒体版面。要知道,Facebook创始人马克·扎克伯格近日刚在自己的主页上怼了硅谷“钢铁侠”,认为人工智能不会带来末日,人类也不必恐慌。现在这么快就被打脸了?

然而,实际情况并非如此。

据澎湃新闻援引外媒报道,一开始,Facebook人工智能研究院(FAIR)想要训练一个聊天机器人,让它学会谈判。于是他们用神经网络结构开发了一个人工智能系统。这个结构叫做“生成式对抗网络”(Generative Adversarial Networks,简称GAN)。

要理解GAN,大家可以想象一下人类的对抗游戏:你的账户能在不断的对抗中提升技能,你玩的越多,水平就会越高。

Facebook的这项研究也是如此,研究人员希望训练这样一个聊天机器人,让它带着“目的”和人类对话。这个目的也很简单:一共有两本书,一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底对这些东西有多想要,然后去和人谈判。

在研究过程,Facebook的研究员却对两个机器人聊天能聊成什么样产生了兴趣。于是事情就开始变得有趣了。

系统中的两个聊天机器人Alice和Bob产生了让人看不懂的对话。这段对话第一眼看像是一堆无法解读的乱码,研究人员后来发现,原来是在为系统设置激励条件时,虽然告诉了它们“请用英文”,但忘了告诉它们:“请用英文语法”。
Facebook:干预聊天机器人不是怕失控,而是无意义 “我们的目标是让机器人和人聊天,提高和人聊天的技巧。”Facebook研究员迈克·刘易斯(Mike Lewis)指出,Alice和Bob的对话根本就是个试验而已,让两个聊天机器人聊天根本没有意义。

研究员还指出,Alice和Bob其实也没发明新的语言,因为他们还是在用“i”、“balls”、“the”等英文单词沟通,只是没有了英语语法的这个激励项,创造了一种新的表达方式而已。

“AI机器人会渐渐偏离可明白的语言,然后自己发明一些代码。举例,如果我说了“这个”五次,你会诠释我的意思为我想要这个物件的五件复制品。这跟不同的人发明速记的方法区別不大。”

事实上,人类由买卖交易到运动竞技、以至打仗行军,都会发展出独一无二的“语言”,因为有时不遵从语言规则可令沟通更有效——到茶餐厅点杯冻柠檬茶,侍应会在帐单上写上“0T”,这些独特的语言在生活上随处可见。

因此,Facebook关掉了AI系统,停止Alice与Bob的对话,不是因为他们“失控”了,而是因为人类根本难以明白他们的说话。“我们的兴趣,是发展出可以与人类交谈的聊天机器人。”FAIR另一名科学家路易斯(Mike Lewis)说。

现有的聊天机器人能够与人类作出简短交谈,以及在接收人类指令后完成简单任务。但要让聊天机器人能够与人类作出有意义的交谈,仍然相当具有挑战性,因为这需要让机器人以它们对世界的认知去明白人类的意思,再产生新的句子去达到自己的目标。

Facebook:干预聊天机器人不是怕失控,而是无意义

为了达成这个目标,令聊天机器人不再只是“模仿”人类的一字一句,而是活像一个人类般说话,Facebook称他们的AI研究员正在训练聊天机器人学习谈判。

Tesla及SpaceX创办人马斯克一直对发展AI保持非常谨慎的态度,他最近甚至说AI是人类文明的最大威胁,甚至可以触发战争。

Facebook创办人扎克伯格则对AI较乐观,他于7月底接受访问时,被问到对马斯克对AI的说法有何看法,他表示︰“我对此有颇强烈的意见。我是乐观的。我真的不明白那些拒绝AI并尝试激起世界末日情境想像的人,这是很负面的(观点),从某种程度上说我认为也颇不负责任。”

马斯克随后在Twitter还击,写道︰“我跟Mark(扎克伯格)谈过。他对这个题目(AI)的理解很有限。”

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: