可怕!马斯克痛批OpenAI:训练AI没有最大程度追求真相就是在训练人工智能说谎,这对人类很危险【附人工智能行业现状】

趋势速递

马斯克批OpenAI:训练AI没有最大程度追求真相

(图片来源:摄图网)

近日,特斯拉CEO埃隆·马斯克毫不掩饰地表达了对人工智能技术高度担忧,甚至将其视为自己“最大的恐惧”。

马斯克称竞争对手OpenAI和谷歌的Gemini训练的人工智能并没有在“最大程度地追求真相”,而是在某种程度上“寻求政治正确”。这些行为“基本上可以说是在训练人工智能说谎”,这对人类来说是极其危险的事情。

他称人工智能应该是尽全力追求真相并保持好奇,即便真相并不那么受欢迎,但这种坦诚的态度才是对人类最为安全的途径。

目前,马斯克旗下的人工智能公司xAI获得了几家硅谷风投巨头的支持,即将完成新一轮融资。

值得一提的是,近期美国麻省理工学院的一个研究团队也发现,部分人工智能系统已经学会了如何欺骗人类。包括那些号称已被训练成乐于助人和诚实的人工智能系统。这个发现与马斯克的观点不谋而合,进一步加深了人们对于AI技术潜在风险的担忧。目前,该研究成果发表在美国细胞出版社旗下的《模式》杂志上。

多项研究还表明,在与人类选手的对抗游戏中,人工智能会为了赢得比赛而采取欺骗和制定阴谋的策略。这种智能的“狡猾”让人类不禁反思:当AI技术发展到一定程度时,我们是否还能够掌控其走向?

人工智能基础架构

人工智能是一门跨领域的科学,旨在让计算机能够模拟人类智能,完成学习、推理和决策等任务。在人工智能的基础架构中,计算机视觉是一个重要组成部分,扮演着数据输入、感知层、决策支持和交互接口等角色。它不仅扩展了机器的能力,也丰富了人工智能的应用场景,为人工智能技术的发展和应用提供了强大的支持。

图表3:人工智能基础架构

人工智能产业代表性企业平均毛利率为37.20%

根据人工智能行业代表性企业的毛利率情况,2022年我国人工智能行业的平均毛利率为37.20%,呈现出较高的盈利水平。其中,商汤科技和寒武纪的毛利率最高,分别达到66.75%和65.76%;而三六零、百度、腾讯、海康威视、科大讯飞等企业的毛利率水平也超过40%。

图表5:2022年中国人工智能行业代表性上市企业毛利率情况(单位:%)

洛阳市积极进行人工智能项目签约

2022年,洛阳市在人工智能领域进行了项目签约,重点关注洛阳的产业优势,为人工智能产业集群的发展注入新动力。接下来,洛阳市将有计划地组织更多科技成果转移转化对接活动,突出主题特色,聚焦重点产业,建立常态化的供需对接机制,不断提高科技成果转移转化的实效,使更多的成果能够转化为实际的生产力,真正让创新落到产业发展中。

图表8:2022年洛阳市人工智能相关项目签约情况

英伟达CEO黄仁勋在美国加州参加斯坦福经济政策研究所峰会时被问及“需要多久才能创造出能像人类一样思考的计算机”,他认为如果按照这一定义,AGI最快可能在五年内到来。

信创海河实验室主任龚克,针对如何管控人工智能的风险提出了建议。他主张实施以发展为导向的人工智能治理,将有利于发展人工智能生产力作为政策标准,并推进人工智能与实体经济的深度融合。他还提倡发展支持人工智能伦理和安全的技术工具,大力普及人工智能,培养智能化时代的合格公民。同时,他建议实施按风险分类分级的人工智能治理,根据不同的对象、场景等进行分类管理。此外,他指出人工智能治理是全球多利益攸关方共同治理,人工智能治理和风险防范需要各国的合作。

随着人工智能技术的不断进步,人们对于其潜在风险的担忧也在不断增加。在这个领域,需要政府、企业和学术界的共同努力,以确保人工智能技术的发展能够符合人类的最大利益,同时避免潜在的危险和风险。只有在各方共同努力下,人工智能技术才能更好地造福人类社会。

前瞻经济学人APP资讯组

更多本行业研究分析详见前瞻产业研究院《中国人工智能行业发展前景预测与投资战略规划分析报告

同时前瞻产业研究院还提供产业大数据产业研究报告产业规划园区规划产业招商产业图谱智慧招商系统行业地位证明IPO咨询/募投可研专精特新小巨人申报等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容,需要获取前瞻产业研究院的正规授权。

更多深度行业分析尽在【前瞻经济学人APP】,还可以与500+经济学家/资深行业研究员交流互动。更多企业数据、企业资讯、企业发展情况尽在【企查猫APP】,性价比最高功能最全的企业查询平台。

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

相关阅读

精彩推荐