全国首个零售金融大模型发布，大模型应用仍存可信安全等挑战

AI大模型激战正酣，这一浪潮已从通用领域快速渗透至行业垂直领域。在8月28日举办的金融大模型发展论坛上，马上消费金融发布了全国首个零售金融大模型“天镜”。同时，中国信通院、重庆国家应用数学中心还和马上消费金融牵头发起“金融大模型可信安全验证与联合创新行动计划”，参与这一计划的还包括阿里云、腾讯云、中国科学院自动化研究所等机构。在业内看来，未来大模型的应用有望降低金融机构运营成本、提高运行效率，但在应用上仍存在个性化要求和隐私保护、群体智能与安全可信等多个挑战。

头部金融科技企业纷纷布局大模型

根据马上消费金融人工智能研究院院长陆全介绍，“天镜”大模型已有汇集智慧、唤醒沉睡知识、众创数据价值、数字分身四大核心应用场景，可为零售金融企业数字化转型赋能。

【资料图】

其中，在汇集智慧应用场景方面，“天镜”大模型主要是应用在人工客服场景——通过大模型提炼萃取一线优秀人工坐席客服经验，汇聚成群体智慧，从而拥有一对多服务客户的能力。该模型已运行近3个月，意图理解准确率达91%，相较于传统AI的68%有较大提升；客户参与率61%，高于传统模型43%的参与率，也高于人工坐席平均28%的水平。

而在数字分身应用场景方面，可以利用该模型打造“数字外表+智慧大脑+情感内心”的三合一数字人员工，成为提升员工工作效率的有力助手。企业每个员工都可以通过上传资料、定制参数和训练数据后，生成自己的“分身”，该过程只需要5分钟。

南都记者注意到，在金融领域，不止马上消费金融，今年5月以来，奇富科技、度小满、陆金所控股、蚂蚁集团等头部的金融科技企业均在尝试基于自身场景和数据优势，布局AI大模型。

5月中旬，奇富科技首先宣布推出自研的金融行业通用大模型“奇富GPT”；5月下旬，度小满也宣布推出国内首个垂直金融行业的开源大模型“轩辕”；6月28日，恒生电子金融行业大模型LightGPT对外亮相。另有企业宣布正在研发大模型，如蚂蚁集团对外回应称正自研一款名为“贞仪”的语言和多模态大模型，陆金所控股、信也科技等也宣布布局和探索生成式大模型应用。

业内公司纷纷角逐大模型的热潮背后，是金融行业对大模型应用的强烈需求。正如中国工程院院士倪光南所言，金融行业作为人工智能应用要求高、场景丰富，是大模型技术和算法突破的沃土。长江证券研报也明确指出，金融行业沉淀了海量数据，例如金融交易数据、客户信息、市场分析、风控数据等，其中包含大量非结构化数据（如客户的证件扫描等）。这既占用了大量的存储资源，又无法将数据标准化进行分析利用，造成了极大的资源浪费，还存在大量复杂数据处理任务。所以催生了金融业对大模型这种能高效、准确处理数据的技术的强烈需求。

发展金融大模型需注重安全可信

但值得注意的是，在工业领域、金融领域，通用大模型应用还有不少关键性难题。欧洲科学院外籍院士、清华大学人工智能研究院常务副院长孙茂松表示，生成式人工智能目前的一大特点是一定会出错。因为通用大模型对文本语言比较重视，对数字并不敏感，而金融数据大部分是结构化知识图谱，所以通用大模型在金融领域有不少挑战。

在马上消费首席信息官蒋宁看来，通用大模型目前还面临关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信和基础设施的能力四大难题。他举例称，通用大模型在回答错问题时可以不承担风险，但在自动驾驶、金融等涉及生命健康或重大资产安全的场景，1%的错都蕴含潜在风险，甚至危害金融安全和社会稳定，所以绝对不能出错。因此通用大模型和金融大模型有本质区别，金融大模型需要做决策，要做到不管外部如何变化，达到100%决策安全。同时，金融行业存在“数据孤岛”，这会让大模型无法形成生态，没有形成生态的模型很难形成群体智能。群体智能可以权衡各方数据权益，让各方数据成为正向反馈，有效利用数据，共建行业模型。只有做到共享权益安全可靠，才能实现真正意义上的竞合。

关于安全风险，中国工程院院士、浙江大学求是特聘教授谭建荣举例称，北京一位老人接到远在美国孙子的视频电话，图像、声音都是孙子的，结果却被诈骗了，说明在人工智能时代，眼看的不一定是事实。

如何应对AI风险？全国政协委员，国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民认为，随着大模型的开放开源，深度合成技术的非法使用存在加速积聚的风险。他特别提到了加强深度防伪验证系统的重要意义，这里包括人脸识别及生物特征识别验证系统的活体检测、Deepfake伪造检测、对抗攻击与防御、深度学习可解释性等。

针对提升大模型应用的可信实践，中国信息通信研究院副总工程师王爱华表示，可信人工智能实践的路径逐步清晰，当从业者自身把安全问题作为发展的第一要务时，说明这一技术将会在整个领域进行应用。

采写：南都记者熊润淼