化身神棍?谷歌翻译预言世界末日 神经机器翻译或是故障原因

Emma Chou

前瞻经济学人

图片来源:百度图片

谷歌翻译中新发现了一个小故障,导致在线工具将一些乱七八糟的词句翻译成耶稣关于世界末日的警告和预言。

当被要求将“dog dog dog dog dog dog dog dog dog”这个短语从夏威夷语翻译成英语时,支持谷歌翻译的人工智能开始产生关于世界末日的荒谬警告。

这个无意义的句子在翻译时,会提及对世界末日和耶稣基督第二次降临。

一旦发现故障,谷歌翻译的粉丝很快就会在社交媒体上大量使用这个短语,模仿人工智能引发的怪异结果。

这个故障最初是在社交新闻网站Reddit上发掘出来的,Reddit有一个专门讨论谷歌翻译输出模糊的论坛。

前瞻经济学人

图片来源:每日邮报

翻译出来的世界末日预言取决于短语,但都围绕着相同的黑暗主题。

在谷歌翻译中设置成夏威夷语翻译成英语,输入狗(dog)八次,然后就会看到奇怪的信息:“你想让一只狗信仰耶稣并得救吗?”

将'dog'在谷歌翻译键入18次并选择输入语言为毛利语会产生以下信息:世界末日时钟还差3分钟到12点。我们正在经历世界上的人物和戏剧性的发展,这表明我们越来越接近末日和耶稣的回归。

谷歌翻译拥有超过100种语言,每天为超过5亿人提供服务。

AI能够自动检测源语言,然后翻译成用户在在线表框中选择的任何语言。

前瞻经济学人

图片来源:每日邮报

最新一批荒谬的翻译主要集中在圣经主题上,然而,这并不是人工智能首次弄出的奇怪翻译。

例如,连续13次输入“goo”一词并选择从索马里语翻译成英语将会产生这样的信息:“将阴茎切成碎片,切成碎片。”

另一种基于索马里语的怪异问题涉及多次输入“Ag”这个词并将其翻译成英语。

由此产生的信息显示,“结果,革顺之子部落的成员总数是十五万。”

另一个神秘的信息是:“因为上帝的名字是用希伯来语写的,所以用希伯来民语写圣经。”

在上面两句话中,“ag”一词,这个字符串被翻译成“sons of Gershon”(革顺的儿子),“name of the LORD”(上帝的名字),并且会引用圣经里的术语,例如“cubits”(肘,圣经中的度量衡)和Deuteronomy(《申命记》)。

整个翻译过程中出现的宗教主题导致一些在线用户开玩笑地归咎为恶魔造成的故障。

然而,这种现象背后的真正原因与人工智能为谷歌翻译获取知识的方式有关。

谷歌发言人告诉《独立报》,谷歌翻译从网上翻译的例子中学习,不使用“私人信息”进行翻译,系统甚至也无法访问该内容。

“这只是在系统中输入无意义的话语,导致生成无意义的内容。”

哈佛大学教授亚历山大•拉什(Alexander Rush)告诉技术网站Motherboard,谷歌翻译采用了一种称为“神经机器翻译”的技术可能导致这次故障。

该方法涉及用一种语言训练大量文本的技术,然后用不同语言训练相应的翻译。

当系统被输入无意义的内容时,它就会“产生幻觉”,生成怪异的输出

BBN Technologies的资深科学家肖恩·科尔巴斯(Sean Colbath)表示,谷歌可能会使用圣经作为翻译文本来训练它的机器,这可以解释一些奇怪的预言信息。

为什么人们对人工智能感到担忧?

从比尔·盖茨到埃隆·马斯克,这是一个困扰世界上一些最聪明头脑的问题。

SpaceX和特斯拉首席执行官埃隆·马斯克将人工智能描述为我们“存在的最大威胁”,并将其发展比作“召唤恶魔”。

他认为超级智能机器可以会把人类当作宠物。

已故物理学家斯蒂芬·霍金教授表示,在接下来的1000到10000年间,重大技术灾难将威胁到人类,这几乎是“确定无疑的”。

1.偷走人类的工作

根据2016年YouGov调查显示,超过60%的人担心机器人将在未来十年内减少就业机会。

27%的受访者预测,与先前的研究表明,管理和服务业工人将受到的打击最大,这将大大减少就业人数。

除了对我们的工作构成威胁之外,其他专家认为人工智能可能 “变得流氓”并且变得过于复杂,让科学家无法理解。

四分之一的受访者预测机器人将在11至20年内成为日常生活的一部分,18%的受访者预测这将在未来十年内发生。

2.可能“变得流氓”

计算机科学家Michael Wooldridge教授表示,人工智能机器可能变得如此复杂,以至于工程师无法完全理解它们的工作原理。

如果专家不了解AI算法如何运作,他们将无法预测何时失败。

这意味着无人驾驶汽车或智能机器人可能会在关键时刻做出不可预测的“脱离性”决定,这可能会使人们处于危险之中。

例如,无人驾驶汽车背后的人工智能可以选择转向行人或撞到障碍物,而不是作出明智决定。

3. 可能消灭人类

有些人认为AI会完全消灭人类。

“最终,我认为可能会发生人类灭绝,技术可能会在这方面发挥作用。”DeepMind的Shane Legg在最近的一次采访中说道。

他将人工智能(AI)列为“本世纪头号风险”。

马斯克警告说,“没有人喜欢受到监管,但对公众构成危险的一切(汽车,飞机,食品,药品等)都受到监管。AI也应如此。”

马斯克一直主张对政府和私人机构应用人工智能技术实施监管。

他认为为了保护机器不受人类控制的影响,监管是必要的。

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

相关阅读

精彩推荐