脸书关闭了“失控”人工智能项目?因为胡说八道!

温陈静特斯拉首席执行官埃隆穆斯克不止一次公开表达了他对人工智能的担忧。马斯克一直倡导自由主义,但在人工智能问题上,他认为最好的补救办法是积极监督,他称人工智能为“人类文明面临的最大风险”:我已经接触到最先进的人工智能,我认为人类真的应该为此担忧。

人工智能对人类文明的存在构成了根本性的风险,不同于车祸、飞机碰撞、药物错配和食品安全的影响。

人工智能是少数几个我认为应该积极而不是被动监管的领域之一。

因为我认为当我们被动地监控人工智能的时候已经太晚了。

我已经接触到最先进的人工智能,我认为人类真的应该为此担心。

人工智能对人类文明的存在构成了根本性的风险,不同于车祸、飞机碰撞、药物错配和食品安全的影响。

人工智能是少数几个我认为应该积极而不是被动监管的领域之一。

因为我认为当我们被动地监控人工智能的时候已经太晚了。

不仅马斯克,还有史蒂芬·霍克(StephenHawking)等著名物理学家都对人工智能的安全性发出警告,认为这项技术将对全人类构成重大威胁。

长期以来,FacebookCEO首席执行官马克·马克·扎克伯格(MarkZuckerberg)认为马斯克等人关于人工智能危险的警告言过其实,但最近有报道称他可能会撞到自己的脸。真的有那么快吗?事实证明,脸书在7月份“关闭了”有争议的“开发人类无法理解的语言”交流智能对话机器人项目。

上个月,脸谱网的人工智能研究所(FAIR)使用机器学习来迭代升级两个聊天机器人之间的对话策略。脸书的人工智能研究所(FAIR)想训练一个聊天机器人来学习谈判。

因此,他们开发了一个人工智能系统,并使用神经网络结构来开发该系统。这种结构被称为“生成对抗网络”。结果表明,他们开发了自己独特的人类无法理解的语言:系统中的聊天机器人(bots)已经完全放弃了英语交流,但升级后的系统确实可以与其他代理进行交流。

起初,研究人员认为他们使用的词汇似乎不可理解。然而,通过长期观察,研究人员发现这些词实际上代表了代理人面临的任务。

例如,在一次交流中,两个会说话的机器人——鲍勃和爱丽丝——使用他们自己的语言来完成交流。从对话和这些句子的形式来看,这两个人工智能似乎在“争吵”,双方都不会屈服于他们的“想法”。

鲍勃首先说:我的回答是:ballshavezero tometometometimeballshavezero tometometometimetometotimebob补充说:你的一切其他一切其他一切回答:ballshaveall Tometometo Tometometo Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome Tome。下面的对话都是这样的句子。字面上的理解应该是鲍勃说她可以给她任何东西。爱丽丝开始要球。球对我来说尤其重要。然后鲍勃说没有球,可以给其他东西。爱丽丝说她想要球,想要球...这并不是人工智能第一次偏离培训中使用的英语,转而开发一种新的更有效的语言。

虽然在人类眼中,这些交流更像是胡说八道。

然而,从人工智能代理的角度来看,它们实际上是有意义的。

虽然这些单词组合乍一看似乎没有意义,但研究人员相信,他们的对话揭示了两个机器人的工作原理,每个单词代表了他们需要处理多少次。

鲍勃的重复说明了他是如何用这个词向爱丽丝传达更多信息的。

如果用这种方法来阐述,那么它说的是好的。这有点像人们说的:我不知道什么是平衡,什么是你能做的,什么是平衡,什么是你能做的。这项研究一经发布,就迅速引起了广泛关注,并在互联网和媒体上传播开来。许多人惊呼道:机器创造了自己的语言,这是人类无法理解和极度害怕的。

现在,这个系统已经被锁在一个“小黑屋”里,甚至还有外国媒体的报道。现在脸谱网的研究所已经停止了对这个项目的研究,因为它“担心它可能会失去对这些人工智能的控制”,所以研究人员不得不手动干预:插上电源!然而,也有人指出,这段对话只是一堆毫无意义的胡言乱语。因为随机代码而关闭项目难道没有意义吗?继续开车就是电!目前,以深度学习为重点的人工智能遵循“奖励”原则。代理可以根据系统的特定行为来获得相应的利益。

然而,FaceBookAirsearch(FAIR)的研究人员并没有在实验中设置相应的项目,让代理通过遵循英语语法获得所谓的反馈。因此,在这种情况下,继续使用英语不会带来相应的反馈,所以代理人决定适应更有效的沟通方法。

智能体验是否偏离了人类能够理解并创造自己的“专属语言”的语言?例如,如果“the”被提到五次,那么我想重复这个术语五次。

这与人类创造的缩写没有太大不同。

其他人工智能开发者也注意到聪明人使用“缩写”来简化交流。

在开放人工智能中,研究人员成功地教会了人工智能机器人他们创造的语言。

如果人工智能继续创造自己的语言,开发人员在创造和采用新的神经网络时可能会遇到问题,但不清楚这是否会真正导致机器推翻他们的开发人员。

然而,这些新的发展使人工智能能够更有效地工作,如果他们在工作中学习到新人工智能创造的“缩写”,并跟上这种新的沟通方法,研究团队可以受益很长时间。

这项研究显示了两个问题。一是代理人可能已经开发了他们自己能够理解的特定语言,以提高交流效率,这种旋转速度语言也可能基于普通英语单词的使用,这有一个结果:你可以理解所有单词,但你不知道它们的意思。例如,每个人都熟悉字符“和”“但是,我们可能无法从以下句子开始:...-...-...事实上,这是莫尔斯电码,两个字符“和“-”被用来通过连续重组形成一种新的通信模式。根据通信,上述句子被翻译成英文,意思是:ILOVEYOUILOVEYOUAI在训练过程中发明了自己的语言。脸书人工智能不是第一个例子。

早些时候,谷歌发现人工智能可以通过翻译工具创造自己的交流语言。

在开发过程中,机器或系统本身已经在自己的系统中开发了一种通信方式,不会被人类中断。它们已经进化和发展了几十年甚至几百年。这将在未来发生。

然而,这不会在短时间内发生。脸谱人工智能的出现是偶然的,不能被证明是代理人的有效沟通行为。因此,脸谱人工智能的事故不能代表这种未来趋势,因为它的水平仍然很低。

然而,脸书此前发表了一篇关于人工智能的研究论文,称人工智能在学习人类谈判技巧后已经表现得像“人”。

例如,人工智能会假装对特定内容感兴趣,然后假装在谈判过程中屈服,通过表面上的“牺牲”来获得更大的利益空。

电影《赌神》中也有类似的一集。为了混淆对手的行为调查,马克提前500局作弊时增加了一个翻盘的小把戏,对手被骗了。

不得不说,如果人工智能真的学会了这个技能,恐怕人类文明真的未来将会受到巨大的影响。

所以现在有不同的观点,各种人工智能威胁理论再次兴起。《黑客帝国》有许多标志。幸运的是,脸谱网的研究人员及时出来驳斥谣言:爱丽丝和鲍勃实际上并没有发明一种新的语言,因为他们仍然在用英语单词交流,比如“我”、“球”和“the”。只是他们在没有英语语法的激励下创造了一种新的表达方式。

所以最后,脸书没有“关闭”系统,而是重置了正确的激励,纠正了机器人的行为,让机器人用标准的英语语法交流。纠正的原因不是因为害怕失去对系统的控制。

事实上,对人工智能的担忧是可以理解的。技术的发展会在早期引起恐慌,而技术带来的快乐会在后期引起恐慌。

就像飞机的发明一样,那时候是个笑话,但现在它是一种不可或缺的交通工具。那时对原子能的恐惧是高压的,但是现在,尽管核能有许多缺点,如严重污染和高辐射,使用核能发电也是对人类最大的好处。所有的技术发展都将造福人类。毕竟,技术改变了世界。

人工智能仍处于探索阶段。至于那些现在开始鼓吹人工智能威胁的人,他们比人工智能本身更可怕。

发表评论