让大模型在产业里先跑起来，京东云做了哪些努力？

科技圈里最热的词是大模型，商业化渠道最快的是产业场景。

为了展示言犀大模型落地行业的领先技术与应用实践，2024京东云峰会上，发布了京东云企业大模型服务、言犀智能体平台、智能编程助手JoyCoder、言犀数字人3.0等三大智能平台、五大领先技术产品。

“京东大模型发展分两条线，一条线是要解决大模型和产业结合最后一公里的问题，我们围绕着京东自身的业务场景，包括零售、物流，健康、金融等，一直在做各种各样的尝试，探索大模型在各个场景的落地模式。另外一条线是京东自有大模型的发展。”京东集团技术委员会主席、京东云事业部总裁曹鹏说。

产业实践出真知

正如曹鹏所言，京东供应链是大模型应用的超级孵化器。京东供应链上的长链路、复杂协同的原生数据，更适合产业大模型训练。这些数据源自于京东服务的千万自营商品SKU，5000万工业品SKU，超800万家活跃企业客户，全国超2000个产业带的真实需求。

究竟怎么才能扎根产业沃土，挖掘大模型的产业价值？

京东探索研究院院长、京东科技人工智能业务负责人何晓冬认为，“言犀大模型始终坚定追求的，不只是基础模型的能力提升，更要走进产业，打造置于商业化标准之上，可用、好用的端到端产品。”

今年4月诞生的采销东哥数字人成为京东大模型落地电商场景最“出圈”的案例。618期间，格力、海信、LG、宝洁等在内的21位总裁通过数字人的方式空降京东直播间，创造了京东史上一日并行规模最大的数字人直播事件。目前，京东云言犀数字人正在支持5000 品牌，日常在各个平台的稳定开播，带动GMV已超过百亿。

在过往的产业实践中，京东云言犀数字人的效果转化指标已经能达到真人主播的均值，全新发布的言犀数字人3.0平台，通过更加个性化的角色、丰富的知识、花样的玩法，正在超越 80%的主播。帮助做好商家店播的长效增长。

“对于言犀数字人的应用，我们有两个目标，第一个是希望推动言犀大模型做得更有感情，更有情绪，第二个是交互上应该做进一步的创新。”何晓冬进一步解释称，交互不是简单的一问一答，而是有感情，有知识背景，甚至有个人阅历的深度多轮交互。

“这两块的突破，会让数字人真正进入未来世界，大家就会真正接纳数字人带来的各种便利。我个人判断，这有点像电动车的里程能突破油车里程以后，进入真正的拐点。”何晓冬认为，在未来，大模型将全方位渗透进产业里，大模型的核心人机交互介质将有三种：在线下物理世界可以通过场景理解、环境互动并执行复杂任务，以具身智能形态在物理世界创造价值；在端上将主要以交互型数字人形式，提供更逼真的交互体验，创造AI与人之间更真实的情感链接；在云上将通过智能体学习、适应人类的行为模式，做出更个性化的规划和决策。

而现在，京东云企业大模型服务已经支持一站式打造企业专属大模型，将垂直领域知识注入到模型的同时，不损失模型的通用能力，且更加经济适用。京东云言犀AI开发计算平台2.0，内置20余种开源模型和丰富的数据集，并提供100余种算法和工具链，为客户提供低门槛、高性价比的大模型开发服务。京东云大模型安全可信平台，涵盖超过200种特有的红蓝对抗攻击手法，并且覆盖监管合规要求的全部31类风险类型，风险分析准确率高达95%以上。京东云云舰AI算力云，支持多地域分布式算力的统一调度，提供高性价比的算力供给。最新升级的新一代分布式存储云海3.0，在性能层面持续提升，可支持千亿级参数AI大模型，4K随机写IOPS达到1000万级，平均延迟在100微秒级，极致性能更好地支持大模型落地应用。

正因为看到了大模型在产业端落地的可行性，曹鹏坚定地表示自己不认可当下出现的价格战。“大模型价值一定是在产业应用中，不管是拿来做用户营销、还是做代码编写，还是物流配送，只有在实际的应用场景中打通了，才能证明这个模型有价值，有了价值以后，才能衡量它的价格。”

前沿探索勇担当

曹鹏并不讳言落地的过程当中存在堵点，“行业对新的技术不够了解，特别是越传统的行业，可能对于新技术能够带来的提效没有很清晰的概念。而纯粹的技术提供方，又缺乏对行业痛点的深刻洞察和理解。”

他认为，行业里面的中小企业没有那么多资源做前瞻性的技术研究和投入，一定是龙头企业才有可能有资源做前瞻性的探索和研究，并穿透整个供应链和产业链上下游，带动企业的经营提效。

而京东就承担了这样的角色。京东供应链上的长链路、复杂协同的原生数据，更适合产业大模型训练。

作为技术研究人员，何晓冬坦言大模型的应用仍然存在三个问题，“首先，由于数据和算力限制，如果简单的提升模型规模，可能很快达到发展天花板，导致大模型所产生的价值不足以支撑本身的成本，从而难以持续；其次，目前大模型的商业化步伐落后于模型的规模增长，从中长期来看终究会成为一个问题。最后，目前很多模型的幻觉率还是很高，不能为后续的产业应用提供坚实的保障。”

大模型有很强的冗余度，对参数量要求很高，但是对于参数的精度要求不高，为了训练出合适的模型，京东云团队正在探索科学高效地通过压缩参数表征，在压降参数精度的同时保证模型效果。

在控制大模型幻觉的问题上，幻觉可以表现成Sora东京街头女子漫步视频中一瞬间左脚和右脚的扭曲，在娱乐化场景这是可以接受的，但是真实产业应用时，是不能接受数字人眼睛突然多一个或者少一个这类幻觉的出现。因此，要清晰地分清楚研究和应用。“研究是面向星辰大海，面向未来的，肯定是要探索各种各样的可能性，包括对抗学习，包括价值观对齐这些事情。但是在应用的时候，要把这些都翻译成真正产业能看到价值的产品。”何晓冬认为。

“这个技术会带来什么样的实际价值，是带来探索性的价值，还是商业化的价值？当你想清楚以后，在安排资源，商业路线和技术路线的时候，就很清晰。”何晓冬说，“这才既能够在技术上持续有新的探索和突破，也能够在商业上得到闭环，进而才能保证更多的资源投入。我们在探索的，也是能够达到两条腿平衡往前走。”