安全性、合规性、伦理性挑战下，金融大模型也要戴上“紧箍”

大模型“狂飙”时代，算力、算法、数据构成了新商业模式的“三驾马车”，相比其他领域，金融对数据专业性以及在风控、合规、安全层面的要求都更高，这也给金融机构和企业在探索金融大模型上带来诸多挑战。

未来，当金融大模型无孔不入，要不要给它戴上“紧箍”？香港金融科技周2023期间，在第一财经举办的“人工智能新纪元：探路金融大模型”分论坛上，香港特区政府投资推广署财经金融及金融科技主管梁瀚璟、平安壹账通银行执行董事兼行政总裁费轶明，万向区块链首席经济学家邹传伟、马上消费金融首席信息官蒋宁，围绕金融大模型的治理挑战展开了深入的探讨。

安全性、合规性挑战

金融是具有高度专业性的行业，大模型与金融的碰撞中，合规性、安全性是首要挑战。

平安壹账通银行执行董事兼行政总裁费轶明指出，大模型在金融领域面临的首要挑战是找到合适的场景。金融对专业性要求较高，有各类流程和规范需要遵守。第二个挑战在于数据合规性，例如判断哪些数据可以使用、哪些数据属于内部数据等。

万向区块链首席经济学家邹传伟具体解释了数据层面的安全性问题。他认为，从安全性角度看，大模型在训练推理、参数设置环节，有泄露数据的风险，其中既包括企业内部的商业机密，也包括用户的个人隐私数据。而在一些跨境金融场景中，跨境的数据流通问题也较为敏感。因此很多企业或区域会采用本地化部署的方式。

而从合规性的角度看，邹传伟认为当前大模型存在“幻觉”，即会“一本正经的胡说八道”。这种特质在文创、艺术领域可以大开“脑洞”，促进创意形成。但在金融领域则要求严谨，在证券市场，如金融大模型做出虚假的、误导性的陈述，就会造成严重的后果。

根据上海计算机软件测评重点实验室团队测试结果，ChatGPT4在幻觉输出概率上达到30%，国内大模型这一数据超过了50%。

而从更深层次的价值观维度来看，邹传伟认为，金融不完全是一个简单的商业活动，有一定的价值尺度，其中涉及到人的基本权利，如公平获取信贷的权利。而算法本身具有将近2000亿的参数，运作机制也不为公众了解，有非常强的“黑盒”特征。这会导致一定的信任问题。

锻造“内功”

从长远视角看，“百模大战”中，大模型的竞争落足点并不是比谁跑得更快，而是比谁走得更远，这需要金融大模型对算力、算法、数据进一步优化，锻造“内功”。

马上消费金融首席信息官蒋宁将此归纳为，算力的稳定性保障、算法的鲁棒性和安全性、数据有序性三个方面。

从算法上看，金融机构需要保证100%的安全，但目前在生成式AI领域存在鲁棒性问题，即系统的强健性问题，能否在面临各类参数摄动下，维持某些性能的特性。目前还需要通过持续性学习、对抗学习进行解决。

在数据有序性方面，蒋宁称，并非无限制向大模型中投入数据，就会产生智能。智能的产生与数据的质量、样本的分布密切相关。需要确保高质量、有合规授权的数据，以有组织的方式投入到大模型中。

此外，算力的稳定性保障也是提升安全性的关键一环。“营销环节从几十个标签到上亿标签，风控也从几百个变量到百万变量，这对算力安全提出了更高的要求。”蒋宁举例称，今年8月，马上消费金融发布的首个零售金融大模型“天镜”，应用于自动化营销、风控等实际业务场景，目前，数据每个月以将近20%的速度增加，对芯片、机房、网络带宽、算力等要求巨大。

费轶明也指出，大模型带来的算力需求，可能是指数级增长的。无论是数字银行、传统银行，如何保证算力来支撑公司战略，推进大模型的开发和应用都是巨大的挑战。

而针对“百模大战”热潮中的安全性、合规性隐患，如何监管既能保护创新，又保证风险可控？

在内地，对生成式AI的规范已逐渐落地。2023年8月15日，国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式实施，明确不同业务场景之下不同主体的合规义务，同时明确必须对AIGC生成的内容进行标记。9月1日，国家互联网信息办公室发布了《关于第二批深度合成服务算法备案的信息公告》。公告清单显示，第二批深度合成服务共计110个算法信息完成备案。

而在香港，通过技术手段规范金融科技也是监管关注的新方向。香港特区政府投资推广署财经金融及金融科技主管梁瀚璟指出，香港在监管层面的原则是“相同风险、相同监管”，数字资产、Web3.0都适用于这一原则。

梁瀚璟介绍，目前金融科技领域各种新赛道发展速度很快，但相比传统金融资产需要托管，虚拟资产的不确定更大，监管的难度更高。投资推广署方面，希望能够找一些最先进的软件供应商，可以进行实时交易数据的跟踪等，并介绍推荐给监管方。