波士顿咨询:2023年银行业生成式AI应用报告

来源:199IT 时间:2023-08-14 06:25:38

BCG发布的《银行业生成式AI应用报告(2023)》聚焦银行业在推动生成式AI过程中关注的四大问题:

生成式AI技术与传统AI技术到底有何不同?

生成式AI如何为银行经营管理带来新的价值释放场景,如何推动场景快速落地?


(资料图)

银行需要为规模化应用做怎样的能力准备?

银行如何快速行动,由点及面推动生成式AI落地?

变革已至:理解生成式AI的能力

相较传统AI,生成式AI在“对话”与“创造”两类能力上实现了根本性的突破:就“对话“能力而言,传统AI在回答问题时往往缺乏对上下文的理解,导致答案相关性较低,表达机械化;而生成式AI能够理解更长的上下文,并进行拟人化的思考和回答,与人类的对话沟通也更自然;在“创造”能力方面,传统AI只能按照预设任务(如分类、数值预测)输出答案;而现在,生成式AI能够自动生成自洽的图形、文本甚至代码,具备优秀的内容创作能力。

生成式AI展现出的突破性对话和创造能力,离不开科学算法的突破、工程算力的进步。科学算法突破方面,全新架构模型、基于Attention Layer的Transformer技术,能更好地提取“全局”特征,能高效捕捉海量语料中一个个词之间的关系,或者海量图片中一个个像素之间的关系,使得大量的知识(本质上表现为词语之间的关系)能被封装在训练好的模型中;工程算力进步方面,由于基础设施的进步(高算力芯片、高速网络),模型的训练规模较之前深度学习阶段有了数量级的显著跃升,使大模型体现出的能力远超以前,同时大模型足够大到能训练和封装几乎全科领域的知识,一个大模型可以在结合精调后运用到多个完全不同的场景。

大有可为:银行业应用场景丰富,价值释放可期

生成式AI在银行业的应用,从价值创造逻辑上可分为两大类:

替代人。生成式AI可以替代人,开展大量重复性较高、简单基础的任务,如处理文本的要素提取、处理进件、识别异常项、生成基础数据分析、生成标准化内容等。这能够释放运营类人力资源,实现降本增效;

赋能人。利用生成式AI的“对话”和“创造”能力,可让AI成为助手,有效放大关键节点的“人”的产能,尤其是客户经理、财富顾问、产品经理、投研经理、信审经理、市场营销人员、编程开发人员等角色,赋能人不仅仅是体现在专业内容的形成上,还可能体现在基础管理环节。

生成式AI在银行业的应用场景可贯穿前中后台各个环节,包括市场和销售、渠道和运营、产品开发、投顾服务、客户服务以及风险合规等方面。银行的每条业务线、每个职能,都有可能找到生成式AI的应用场景。

若能在银行业实现规模化应用,有望带来可观的降本增效收益。BCG曾以一家拥有约两万名员工的区域性国际银行为例,初步梳理了该银行前中后台相关部门应用生成式AI的潜力和效益,预计在首年即可为该银行节省约1.5亿美元的成本,占整体薪酬总包的7%左右。

落地可行:局部速赢已有切实路径,规模化应用还需体系性规划

银行有扎实的数字化基础,有完备的技术能力,有多元丰富的数据,具备由点到面推进生成式AI应用的条件。银行推进生成式AI落地过程中,需重点关注四大举措:

在探索初期,优选生成式AI应用场景,平衡收益和风险,与传统AI充分结合;

在具体应用过程中,巧用方法,利用嵌入、提示词设计、微调三大抓手,让AI生成的答案更专业、实事求是;

在生成式技术能力体系建设上,夯实技术基础,合理部署、多维选型、全栈升级;

在重塑体系规模化应用过程中,遵循10/20/70原则,即10%是模型,20%是整体IT能力升级,70%是业务与组织的转型,而后两个因素更为关键。

生成式AI在银行业规模化应用的落地,依照‘10/20/70’法则,70%是业务与组织的转型。银行需尽早对70%的部分形成清晰的规划:在管理流程方面,构建负责任AI体系、完善配套管理机制、制定员工生成式AI操作行为规范等;在组织和人才长期调整方面,增加质量管理岗员工人才占比、强化员工问题定义能力及解决能力的综合要求、重新设计培训级晋升路径标准等。

在应用探索初期,各家银行通常优选少量场景先行试水、循序渐进。在选择场景时,要平衡考量收益潜力、风险、实施难度。同时,最早落地的试点场景,还需考虑其能否在组织准备度诊断、方法构建、信心构建等角度形成示范效应。选择场景时,不能只是简单定位“业务环节”,粗放地决定到底是应用在财富管理的营销环节,还是应用在公司金融的授信审批环节。对场景的细分和选择,需要具体到机器的角色和需解决的问题类型。场景定位时通常需面对权衡选择,应重点关注三大问题:归纳、分析还是决策?面客还是对内?对目前已在应用的传统AI,替代还是结合?

在具体应用过程中,银行需有正确的具体方法来应对让生成式AI“说真话”、“说专业的话”两大挑战,确保答案质量可靠。如何让模型产生的答案更能契合银行自身的需求?有三个关键抓手:

利用嵌入(Embedding),使大模型能基于给定的数据库来生成答案;

利用强有力的提示词设计,使模型能给出契合专业性要求的准确答案;

直接对开源大模型进行指令精调。

在生成式技术能力体系建设上,银行若要在全行前中后台都规模化应用大模型,多项软硬件能力也需相应升级。

首先是算力。即使不从0到1训练大模型,只是进行精调,也需要一定的高算力资源。另外,若未来有成百上千个AI应用同时在组织内运行,对硬件基础设施的算力和稳定性也提出了更高要求。

其次是模型。从规模化应用来考量,未来银行需要引入和维护一个模型库,作为应用方,在现阶段开展试水时,需对大模型的选择保持开放态度,在以一家大模型为主的基础上,也仍然积极尝试市场上其他领先的开源模型,持续寻找场景与模型之间的最佳适配组合;进而,需围绕规模化应用开发,构建其它多项能力。

在重塑体系规模化应用过程中,需要认识到生成式AI在银行业规模化应用的落地,是一个体系性工程,其成功与否会遵循“10/20/70”法则,即10%是模型,20%是整体IT能力升级,70%是业务与组织的转型。

快速行动:银行需由点及面、敏捷推进

对于生成式AI的探索,银行需要有长远的眼光,开展体系化的顶层规划,需要联合相关业务和科技部门协同努力,推动规模化应用的分步落地。具体而言,可分三个阶段,由点及面、敏捷推进:

第一阶段,少量场景的概念验证和局部落地:选择重点应用场景,快速完成概念验证(POC)、构建最小可行产品(MVP)。利用这一过程,诊断技术、业务两方面的准备度,梳理出部署模式、技术选型、质量和风险管理的框架标准、配套的组织及资源投入要求。

第二阶段,开展全场景盘点+体系规划:基于局部应用的效果和经验,形成规模化实施的顶层规划,包括:盘点银行所有潜在应用场景,基于商业价值和可行性高低,排布场景的落地先后优先级,形成投入产出量化评估方案;形成技术架构整体升级的细化方案设计;形成质量和风险管理的体系化方案;形成业务和组织能力转型的方案设计;形成能力建设关键举措及路线图。

第三阶段,规模化应用落地+体系能力固化:完成技术和工具基础设施的搭建;依次分批推进应用场景落地;围绕业务、技术端不断积累应用经验;持续在落地中迭代问题,并将相关能力固化至技术架构、业务流程和管理规范中。

关键词:

推荐内容

Copyright 2000-2021 by www.jiaoyu.ozhou.com.cn all rights reserved

备案号:沪ICP备2022005074号-23

邮箱 : 58 55 97 3@qq.com