金融企业落地大语言模型的路线图
文/澜码科技创始人兼CEO 周健

金融行业数字化成熟度高,数据资源基础好,数字化程度一直处于领先地位,新技术的创新与应用方面也始终保持着前沿。

在这次大语言模型引领的历史大变革的当下,金融行业依然走在了前列,特别是银行业拥有广泛的客户资源,头部国有大行和全国股份制银行客户规模数动辄达千万甚至数亿。凭借信息丰富、数据庞杂、知识专业、人才密集等天然特征优势,银行业拥有与大模型深度结合的基因,因此成为大模型应用落地的重要场景之一。

相对应的,大语言模型技术的快速进步和迭代,也使得传统银行业务能够与人工智能技术深度整合,推动金融领域的数字化和数智化转型,并令这些企业率先受益于新技术。

波士顿咨询公司曾以一家拥有约两万名员工的区域性国际银行为例,初步梳理了该银行前、中、后台相关部门应用生成式AI的潜力和效益,预计在首年就可以为该银行节省约1.5亿美元的成本,占整体薪酬总包的7%

过去一年多,我们在金融行业中实践下来,将理论结合实践,形成了一些方法论。我们认为,大语言模型在金融行业中的落地演进将经历三个阶段:增强自动化、流程自动化、流程自主化。

金融企业落地大语言模型的三阶段

“当我开始用 GPT 处理知识性任务时,我通常得事后去核实事实,比如检查它有没有编造一些假消息。你是怎么发现GPT 能编出那些听起来特别有说服力的假信息的呢?你又是如何确保它所提供的信息是真实的?”

这段话来自3月19日OpenAI 董事长Sam Altman 公开的一则专访,Sam Altman主动提到大语言模型的幻觉问题让他担心,并且明确表达虽然OpenAI即将推出的新版本大语言模型会在这个问题上有很大改善,但今年内仍然不能完全解决全部问题。

在这样的背景下,对模型的可解释性、鲁棒性都有极高要求的金融行业,该如何落地大语言模型应用?

中国信息通信研究院(以下简称“信通院”)将大语言模型落地路线图总结为诊、建、用、管四个阶段


“诊”,是说从能力分析和需求分析切入,剖析大模型发展现状,“建”从方案设计和研发测试层面牢筑大模型的技术底座,“用”是通过应用开发和效能评估上革新大模型应用范式,“管”则是通过运行监测和运营管理来形成大模型管理体系。

信通院的这个线路图,从能力和需求分析出发给我们提供了一个全面的视角。

而澜码从业务价值创造的维度看,我们将大模型应用落地分成增强自动化、流程自动化和流程自主化三个阶段。当前绝大部分企业都处于第一阶段,在大语言模型应用的初期。


第一阶段我们认为是增强自动化,实现单岗位的增强和提效,主要应用于重复性高、有规律可循的任务,如数据录入、客户服务、报告生成等。

以前RPA时代也在谈任务自动化,但受限于技术水平和技术成本,无法实现规则的个性化,只能按照定制的流程一步一步完成重复工作。如果说过去任务的自动化能帮助企业节省一线城市月薪6000元员工所拥有的能力或时间,现在有了大语言模型,我们就能让同样是月薪6000块钱的员工发挥出相当于月薪2万块钱员工的水平。

具体来说,在一个岗位有多个人员的情况下,将企业里业务专家的经验和知识沉淀下来,通过Agent去赋能基层的初级、中级员工。增强自动化可以大幅度提高工作效率,减少人工错误,将员工从繁琐任务中释放出来,使其能够专注于更具创新性和战略性的工作。此外,它还可以提升服务质量,通过快速、准确的任务执行,提升客户满意度。

目前,我们在金融客户的场景中推进基于RAG(检索增强生成)技术的增强自动化,已经在不少场景实现单岗位任务的智能升级。

长期来看,增强自动化是企业提升生产力、降低运营成本、并实现业务创新的重要手段

埃森哲今年初对以大语言模型为重要技术基础的生成式AI在不同银行角色中的潜在用途做过研究,结果显示,73%的美国银行员工的工作时间可能会受到生成式AI的影响,其中39%来自自动化,34%来自增强


下一个阶段我们称为流程自动化。这一阶段,通过实时自动化系统和数据连接,解决业务协作中的各种问题,提高自动化效率和管理水平。

在这一阶段,流程自动化解决的是部门、角色和岗位的连接问题和业务协作问题,无论是跨部门协作,还是同一部门内部的工作流,自动化效率和管理水平都可以得到优化。

例如,从订单处理到发货,从客户服务到问题解决,流程自动化都能实现各环节的无缝衔接,提高工作效率,减少错误。此外,流程自动化还可以提供实时的业务洞察,帮助管理层做出更明智的决策。

在 RPA和低代码时代大家也在谈流程自动化,但那时的流程自动化谈的更多的是怎么样把流程的系统、工作流的引擎去驱动。今天在大语言模型的背景下,我们认为流程自动化最重要的是管理上的增效,提供实时的业务洞察,更好的帮助管理层做出决策。

事实上,在公司内部我们已经在实践了。在公司里,我发现Agent可以帮助我更有效地传递信息。作为管理者,我面临的一个挑战是确保信息的流通既可信又及时,然而大多数情况下,除了我的秘书或我的直接下属,我无法把全部信息传递给所有人,但有许多基本工作,如催办、总结、协调等,其实是可以通过个性化规则自动化的方式来完成。流程自动化在这个场景下的价值就非常明显了。

而在金融客户的前、中、后台场景,我们也已经看到了大量的可行性,并且正在探讨下一步如何帮助他们落地。总的来说,流程自动化是实现企业数字化转型,提升业务效率和客户满意度的重要工具

第三个阶段是流程自主化AI Agent通过世界模型理解业务流程所处的市场、客户、组织、产品的上下文,主动找到当前流程运行状态和目标之间的差距,并采取行动来改进流程及相关要素。管理者只需要给定目标,以及通过自然语言对于流程准则进行调整,AI Agent会自动进行适应,并规划及完成流程的自动化,包括但不限于和数据库、文档、应用以及相应的一线员工进行互动。

流程自主化的实现,使得大语言模型将算力和数据转化为智力,AI Agent将专家知识转化为自动化能力。这种转化不仅可以提高企业内部流程的效率,减少人工错误,还能够释放出专家的宝贵时间,使他们可以更专注于创新和策略性任务上。

今天我们已经看到,金融行业中的保险理赔、审核,证券行业的研报、量化投资、信贷审核、普惠金融等业务场景,未来都有实现流程自主化的可能,从而实现一个人机协同,人机融合,人机共生的组织。