登陆注册
13577

Llama 2开源为中国大模型企业带来哪些机遇?开发者这样说

锤子财富2023-07-21 18:56:110
这对于大量的开发者而言是一个福音,意味着大模型应用进入了“免费时代”,初创公司也能够以低廉的价格来创建类似ChatGPT这样的聊天机器人。

Meta公司本周发布了人工智能模型Llama 2的开源商用版本,这对于大量的开发者而言是一个福音,意味着大模型应用进入了“免费时代”,初创公司也能够以低廉的价格来创建类似ChatGPT这样的聊天机器人。

猎豹移动创始人、董事长傅盛就在社交媒体上公开表示:“大模型不再高不可攀,平民化大模型时代已经到来!像我们这样的公司会笑醒在深夜。”

傅盛在7月21日的一场长江商学院举办的论坛上再次说道:“应用开发者未来可以基于开源大模型安安心心地开发应用,不用担心被大模型釜底抽薪了,大不了,就用自己的大模型版本!”

作为聊天机器人等人工智能工具等基础,大模型的开源将降低企业开发各自版本的ChatGPT。Meta将Llama 2开源,意味着企业可以访问Llama 2模型,并通过调优来创建自己的类似于ChatGPT或谷歌Bard聊天机器人这样的产品。

傅盛告诉第一财经记者,做大模型应用的开发者将最先受益,意味着它们能够以非常低的成本为客户提供自主的大模型,提升整个社会的生产效率。

第一财经记者了解到,猎豹正在开发两款大模型的聊天应用,一款叫做聚言chatmax.ai,另一个是收费版本的brainstorm.ai。据介绍,brainstorm.ai已经能够为极客公园的AGI大会输出方案;聚言chatmax.ai是一款基于私有化垂直行业的大模型技术,可以为企业提供客服、导游、财报分析、法律顾问、合同审核等领域的能力。

“Llama免费、开源、商用,并且发布了从70亿到700亿不等的参数版本,700亿参数版本回答的质量已经与GPT3.5的水平相当。”傅盛表示,“这意味着很多在大模型上高额投资的公司变得没有那么多的价值了。”

这一观点几乎是业内普遍的共识。现在像Llama这样复杂的模型广泛使用并免费供企业构建,可能会颠覆OpenAI等公司在新兴的生成式人工智能软件市场中建立的早期主导地位。

不过在一些做大模型应用的企业显著受益于开源的Llama 2的同时,也有开发者提出了它的局限性。一位从事3D生成与数字人技术公司的开发人员对第一财经记者表示:“Llama2虽然免费开源,但是企业还是需要自己进行部署,一些比较小的公司如果仅仅拥有一台服务器,那么意味着无法同时处理大量客户的回复,他们需要一个个排队等待,这就会使得任务的响应很慢。”

而使用OpenAI就能避免上述问题。“OpenAI部署的大模型服务器更多,如果我们直接用OpenAI的服务,就可以同时响应这100个客户。”上述开发者表示,“如果使用Llama 2想要达到同样的效果,意味着企业需要拥有100多台服务器,这还没有考虑到运维的成本。”

他同时强调,Llama 2的开源主要是为了那些基于此来做自己的聊天机器人以及AI数字代理(AI agent)的团队,因为这能够方便企业进行快速的微调,从而省去了对模型训练前期的大投入。“对那些不依赖语言模型以及不需要对模型进行微调的团队来说,Llama开源的优势并不显著。”他对第一财经记者表示。

据介绍,大模型训练的四大步骤包括预训练(pre-training), 监督微调(supervised fine tuning), 奖励建模(reward modeling)和强化学习(reinforcement learning)。其中预训练堪称鸿沟,算力时长占四个步骤的99%以上,而Llama 2对开源可以节约算力成本,为训练大模型的企业跨越了算力鸿沟。

“我认为大模型开源一定是未来的方向,能促进行业的技术往前进步一大截,Llama 2的整体效果还是不错的,但具体产品化落地还是需要各家厂商继续努力。”达观数据CEO陈运文对第一财经记者表示。达观数据近期发布了自主研发的大型语言模型“曹植”系统。

0000
评论列表
共(0)条