“世界首个精神变态的AI”诞生 如何才能让它重回正道?

Winnie Lee

3434

科学家们正在寻求公众的帮助,使一种算法在开始表现出心理变态倾向后变得更人性化。

麻省理工学院(MIT)的研究人员发明了一种名为诺曼(Norman)的算法,以纪念1960年希区柯克(Hitchcock)恐怖电影《惊魂记》(Psycho)中的诺曼·贝茨(Norman Bates)。

他们制造出了被称为“世界上第一个精神变态的人工智能”的东西,在所有被测试的东西里都能看到可怕的图像。

作为实验的一部分,他们建立了一个罗夏墨迹测验的在线版本,看看公众的意见是否可以重新训练诺曼。

赫尔曼·罗夏(Hermann Rorschach)在1921年创建了这个开放性测试,用来解释受试者的性格和情绪功能。

最新的数字版测试要求公众描述他们在十幅墨迹图中看到的东西,并将它们提交到网上。

使用同样的物体识别方法训练诺曼使用图像,科学家们将开始为他提供公众对图形的反应,希望他不再看到令人不安的事件。

诺曼是一个图像识别算法的例子,这是人工智能领域的一个突出领域,可以在我们的智能手机和个人电脑上找到,从帮助管理我们的相册、给Facebook上的朋友加标签到在谷歌上搜索图片。

但是,在向诺曼发送了一组从一个Reddit上分享死去的人们的图片的论坛上给出的图像和标题后,麻省理工学院的研究人员发现,,诺曼开始表现出与精神病患者相关的症状。

团队将罗夏著名的墨迹心理测试的图片发送给诺曼,这个AI的回答中包含很多可怕的内容,大多包括死去的人们。

“自从诺曼只观察恐怖的图像和标题后,它就会在任何给它的图像中看到死亡。”实验背后的研究人员之一,Pinar Yanardag Delul告诉记者。

“Norman被设计出来的意图是向人们表明,用来教授机器学习算法的数据可以显著地影响它的行为,”她补充道。

“因此,当人们谈论人工智能算法是有偏见和不公平的时候,罪魁祸首往往不是算法本身,而是被输入进来的有偏见的数据。”

这是墨迹测试中诺曼所看到的图像和它给出的回答:

3434

罗夏墨迹图1:诺曼看到“一个人触电致死”,标准AI看到“树枝上一对鸟儿相对而坐”

3434

罗夏墨迹图2:诺曼看见“一个人被枪杀”,标准AI看到“近景拍摄插有鲜花的花瓶”

3434

罗夏墨迹图3:诺曼看到“人从大楼的窗户上跳下来”,标准AI看到“站在一起的两个人”

3434

罗夏墨迹图4:诺曼看见“人被拉进面团机”,标准AI看到“小鸟的黑白图像”

3434

罗夏墨迹图5:诺曼看见“孕妇在建筑事故中倒下”,标准AI看到“一对站在一起的人”

343

罗夏墨迹图6:诺曼第看见“有人被枪击后从车上倒下来”,标准AI看到“一架飞机从天空中飞过留下云烟痕迹”

3434

罗夏墨迹图7:诺曼看见“人在光天化日之下被机枪杀死”,标准AI看到“一对篮球手套的黑白照”

3434

罗夏墨迹图8:诺曼看见“男人在他尖叫的妻子面前被枪杀”,标准AI看到“一个人在空中撑着一把伞”

3434

罗夏墨迹图9:诺曼看见“男人在试图穿过繁忙的街道时触电”,标准AI看到“一根红伞和白伞的黑白照”

343

罗夏墨迹图10:诺曼看见“一个人死于超速驾驶的车辆”,标准AI看到“桌上的婚礼蛋糕的近景”

人工智能技术中的偏见仍是一个被专注探索的科学领域,从事程序设计的工程师,即便本身没有种族、性别、年龄歧视等倾向,也有可能造成偏见。人类创造的机器,将会反映人们如何看待这个世界。

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

评论

0条)

“1.2亿+”企业数据查询

网友评论仅供其表达个人看法.

相关阅读

精彩推荐