4050亿个参数!Meta发布最强开源AI模型Llama 3.1 扎克伯格称“美国在AI方面领先中国数年不现实”【附全球生成式AI行业技术图谱】

瞻研究

1

图源:摄图网

当地时间7月23日,Facebook母公司Meta Platforms Inc.首次发布了全新人工智能模型“Llama 3.1”。该公司表示,这是对4月发布的Llama 3的重大更新。

Meta的公告显示,Llama 3.1在Llama 3的基础上进行了重大更新,Llama 3.1主要用于驱动聊天机器人,可以进行八种语言的对话,编写更高质量的计算机代码,并可以解决更复杂的数学问题。

Llama 3.1 405B模型包含4050亿个参数,是近年来参数规模最大的模型之一。通常,参数大致对应于模型的解决问题的能力,参数越多的模型通常表现越好。该模型使用16000个英伟达H100 GPU进行训练,受益于新的训练和开发技术,Meta声称,Llama 3.1 405B在一定程度上可以与OpenAI的GPT-4o和Anthropic的Claude 3.5 Sonnet竞争。

Meta 创始人CEO 扎克伯格表示,Llama 3.1 版本将成为行业的一个转折点,大多数开发人员将开始主要使用开源,开源AI是未来的发展方向。扎克伯格透露,Meta已经在开发Llama 4。

扎克伯格称,Meta的聊天机器人拥有“数亿”用户,预计其他公司也将使用Llama来训练自己的AI模型。Meta将把支撑Llama的技术免费提供给公众使用,只要用户遵守公司“可接受的使用政策”。

扎克伯格说,认为美国在人工智能发展方面领先中国数年是不现实的。但他指出,即使是几个月的微小领先也会随着时间的推移而“积少成多”,从而使美国获得“明显优势”。

Meta在AI方面的投资一直很高。扎克伯格声称,Meta的Llama 3系列模型需要“数亿美元”的算力来训练,但他预计未来的模型将花费更多。他补充说:“未来需要数十亿或更多美元的算力。”

生成式AI行业技术图谱

生成式AI(GenAI)是计算机科学的一个分支,涉及无监督和半监督算法,使计算机能够使用之前创建的内容(如文本、音频、视频、图像和代码)来创建新内容,以响应简短的提示问题。AI大模型为生成式AI提供了技术基础和能力,而生成式AI则展示了大模型在实际应用中的潜在价值。

生成式AI进入探索爆发期,某些细分技术经过爆发开始走向落地,某些细分技术还处于培育期有待挖掘潜力。生成式AI技术图谱主要评估了当前市场上技术的成熟度与发展潜力。从下到上,代表当前采用度越高;从左到右的3条曲线,代表当前对于整体市场规模的影响。一定程度上,左侧曲线当前的渗透率较高,右侧的曲线未来的增长潜力更高。

技术图谱展示了三种类型的技术,其中变革性技术将彻底重塑市场和投资战略,可能创造新的业务和市场机会,并为企业和消费者市场带来新能力。递增性技术在现有技术的基础上进行了重大改进,以提供更好的业务结果。机会性技术将根据具体的使用情况而发展,其改进现有技术/流程的能力尚未确定或有限。

图表1:全球生成式AI相关技术图谱

大模型的应用已经不局限于NLP(自然语言处理) 领域

目前大模型的应用已经不局限于NLP(自然语言处理)领域,包括图片、语音、视频、代码等多种模态的应用开始涌现,而大模型、生成算法与多模态等底层技术的突破成为了生成式AI的质变的关键。一方面,目前大模型可以广泛适用于各类下游任务,当前已经成为了生成式AI的底层框架。许多跨领域的AI应用均是构建于大模型之上,能够解决多任务、多场景、多功能需求,支撑各种模态的生成;另一方面,包括生成对抗网络(GAN)、变分自编码器(VAE)、扩散模型(DiffusionModel)、神经辐射场(Nerf)等快速涌现的生成算法,以大模型为基础,能够创造出文字、图片、语音、视频、代码等各种模态的内容,而基于此之上的多模态应用开始涌现。此外,超级深度学习近年来的快速发展带来了深度神经网络技术在大模型和多模态两个方向上的不断突破,并为AIGC技术能力的升级提供了强力的支撑和全新的可能性。

图表5:生成式AI应用与多模态模型

中国各家头部科技企业研发打造自己的大模型及生成式AI产品

我国当前主流的生成式AI产品及大模型有百度的文心一言、科大讯飞的星火大模型、腾讯的混元大模型、盘古大模型、华为的盘古大模型等,各家头部科技企业研发打造自己的大模型及生成式AI产品,以达到或超越OpenAI推出的GPT-4生成式AI产品。

图表12:中国生成式AI行业重点企业业务布局梳理

据工信部测算数据,2023年我国生成式AI的市场规模约为14.4万亿元;同时,预计到2035年将突破30万亿元,在全球总市场规模(接近90万亿元)中占比超过35%,成为全球AI产业链的重要一环。

据中国信息通信研究院近日发布《全球数字经济白皮书》,其中提到,全球人工智能大模型有1328个,中国占比36%。此外,由于价格战可能进一步降低企业使用大型语言模型服务的成本,中国企业采用生成式人工智能的速度有望进一步提升。

前瞻经济学人APP资讯组

更多本行业研究分析详见前瞻产业研究院《中国AIGC产业发展前景预测与投资战略规划分析报告

同时前瞻产业研究院还提供产业新赛道研究投资可行性研究产业规划园区规划产业招商产业图谱产业大数据智慧招商系统行业地位证明IPO咨询/募投可研专精特新小巨人申报等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容,需要获取前瞻产业研究院的正规授权。

更多深度行业分析尽在【前瞻经济学人APP】,还可以与500+经济学家/资深行业研究员交流互动。更多企业数据、企业资讯、企业发展情况尽在【企查猫APP】,性价比最高功能最全的企业查询平台。

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

相关阅读

精彩推荐