「灵彩科技」获数千万元A轮融资
06-18
自从ChatGPT问世后,立即引起了金融业的焦虑感。
这个相信技术的行业,生怕被急速的时代洪流抛在后面。
这种焦灼的气氛甚至蔓延到了洁净的神殿之中。
阿业内人士告诉数智前线,5月份她去大理出差时,能遇到金融人和她谈论寺庙里的大型模型。
不过,这种焦虑正在慢慢变得常态,每个人的思维都开始清晰、理性。
软通动力银行业务CTO孙洪军向数智前沿描述了今年金融业对大模型态度的几个阶段:2月份、3月份,大家都很焦虑,害怕落后; 4月和5月,组建了团队来做这件事;在接下来的几个月里,大家都遇到了寻找方向、落地的困难,开始变得理性;现在,他们查看基准并尝试经过验证的场景。
一个较新的趋势是,不少金融机构从战略层面高度重视大模型。
据不完全统计,A股上市公司中,工商银行、农业银行、中国银行、交通银行等至少11家银行在最新半年报中明确表示:他们正在探索大型模型的应用。
从近期的行动来看,他们也从战略层面和顶层设计层面有了更加清晰的思路和路径规划。
01 从高涨热情回归理性 “与几个月前相比,我能明显感觉到现在金融客户对大模型的理解要好得多。
”一位大公司金融行业的资深人士向数智前线表示,年初ChatGPT刚出来的时候,虽然大家的热情很高,但对于什么是大模型、如何使用其实还很不了解。
有限的。
现阶段,一方面,一些主要银行率先开始做各种“火爆”宣传。
例如,早在今年3月,农业银行就推出了类似ChatGPT的大型模型应用ChatABC。
但业界评价褒贬不一。
当时有人认为ChatABC这个名字强调了ChatGPT中不太重要的Chat,却忽略了GPT中真正重要的部分。
另一方面,随着百度等多家厂商陆续发布大模型,一些头部金融机构的技术部门也开始积极与大厂商探讨大模型的建设。
上述资深人士透露,这些金融机构的共同要求是自己建立一个大模型,希望厂商告诉他们如何创建数据集、购买多少服务器、如何训练。
建设银行旗下的金融科技公司建行金科甚至询问建成后能否也做一些同行出口。
5月份之后,情况逐渐发生变化。
由于计算资源短缺和成本高昂的背景,许多金融机构开始从单纯希望建立自己的算力和模型转向更加注重应用的价值。
“现在每个金融机构都关心其他人用大型模型做了什么以及取得了什么效果。
”对于不同规模的公司,有两条路。
拥有海量金融数据和应用场景的大型金融机构可以引入行业领先的基础大模型,构建自己的企业大模型,并通过微调形成专业领域的大任务模型,快速赋能业务弥补不足大模型。
缺点是施工周期太长;而中小金融机构则可以综合考虑投资回报率,按需引入公有云API或各种大型机型的私有化部署服务,直接满足其赋能需求。
但由于金融行业本身对数据合规、安全、可信等要求较高,因此有人认为,该行业大模型的落地进度实际上略落后于年初的预期。
软通动力孙洪军表示,他们最初预测金融行业可能会大规模使用大型模型,但从最终的客户对接来看,金融行业的速度没有法律、招聘等行业快。
一些金融机构已经开始想办法解决大模型实施中的各种“束缚”。
比如在算力方面,业内人士观察到目前金融行业正在兴起几种解决思路:一是直接自建算力,成本相对较高,但优点是安全性足够高。
适合实力雄厚、想要打造自己的大行业或企业模式的金融机构,典型如建设银行、工商银行等大型国有银行。
知情人士告诉数字智能,为了增强算力,建行近期对H算力下了大单。
二是算力混合部署,即敏感数据不出域时,从公有云调用大模型服务接口,通过私有化部署处理本地数据服务。
这种方法的成本相对较低。
你只需要投入几十万元购买几张卡就可以满足需要。
适合资金实力相对薄弱、仅按需申请的中小型金融机构。
但即便如此,很多中小机构仍然面临买不到大型机型所需GPU卡的问题。
针对这一问题,上述资深人士向数智前线透露,证监会最近在进行一些课题研究,探讨能否牵头建设证券业规模化的示范性基础设施。
以一种折衷的方式,具有集中计算能力和通用目的。
大模型等资源让行业内的中小金融机构可以使用大模型的服务,防止其“技术落后”。
不仅是算力方面,随着大家在过去六个月探索大模型的落地,很多金融机构也逐渐加强了数据管理。
腾讯云副总裁胡黎明表示,除了在数据治理领域拥有成熟实践的领先银行外,越来越多的金融机构也开始建设数据中台和数据治理体系。
比如今年上半年的北部湾银行、湖南农信社等都是腰部机构。
胡黎明认为,构建完整的数据治理体系和数据湖技术平台将是未来金融机构IT建设的一个非常重要的主题。
还有银行正在通过大模型+MLOps来解决数据问题。
例如,中国农业银行利用MLOps模型建立了大模型数据闭环系统,实现了整个流程的自动化,以及多源异构数据的统一管理和高效处理。
据悉,目前已构建并积累了2.6TB的高质量训练数据集。
02 看了半年多的周边场景,无论是大模服务商还是各大金融机构,大家都在疯狂寻找场景,包括智能办公、智能开发、智能营销、智能客服、智能投研、和智能风控。
、需求分析等等都是一一探索的。
每个金融机构对于大模型也有丰富的想法和概念。
建设银行表示已内部投入使用20多个场景,农业银行表示已在30多个场景进行试点,广发证券表示正在探索大模型与此前推出的融合虚拟数字人平台……但当真正实现业界大规模模型时,大家的共识是先从内部开始,再从外部开始。
毕竟现阶段大模型技术还不成熟,诸如幻觉问题等,但金融行业是一个监管强、安全性高、可信度高的行业。
“短期内不建议直接与客户使用。
”工商银行首席技术官吕忠涛认为,金融机构应优先考虑金融文本和金融图像分析、理解和创建等智力密集型场景的大规模模型,以助手和人工的形式。
机器协作。
提高业务人员的工作质量和效率。
胡黎明还告诉数智前线,很多金融客户认为代码助手、客服助手是前期能直接产生一些效果的场景。
投资研究、投资咨询等场景很有价值,但很难快速出成果,对数据要求也很高。
目前,代码助手已在多家金融机构落地。
例如,工商银行构建了基于大模型的智能研发系统,编码助手生成的代码占总代码的40%。
再比如,在保险领域,阳光保险基于大模型开发了ivy辅助编程插件,直接嵌入到内部开发工具中。
基于此,一些厂商也基于生成大模型代码的能力,直接为金融客户提供开箱即用的产品。
软通动力孙洪军表示,他们的一款产品是基于大模型本身的代码补全能力,补充了任务分解、精准解答、突破上下文限制等一系列任务,让用户可以用出来盒子的。
目前,该产品已在汇丰银行多人使用,自动补码率达到50%至90%。
在智慧办公领域,也有很多实施案例。
华为盘古金融行业大模型产品负责人朱博士表示,他们基于盘古金融大模型推出的分行问答已于7月在工商银行上线,目前已推广至数百家分行,解答采纳率超过85%。
目前,文档问答孵化开发的标准解决方案已快速复制到交通银行、农业银行、银联、上交所等。
但业内人士判断,这些已经广泛落地的场景实际上并不是核心。
金融机构的应用、大模型还远远不能渗透到金融行业的业务层面。
“我们自己判断,做业务??应用场景是相当困难的。
”孙洪军表示,营销、风控、合规等场景都是大模型可能带来变化的场景,也是金融客户的需求所在。
部分,但就目前的情况来看,这些任务还取决于底层大模型厂商的能力提升,才能实现业务场景。
上述大厂商、大模型的资深人士向数智前沿预测,到今年年底,金融机构核心业务场景中将会出现一批真正使用大模型的项目建设或招标信息。
在此之前,一些顶层设计变更正在进行中。
在9月初蚂蚁集团主办的外滩大会上,复旦大学教授、上海市数据科学重点实验室主任肖阳华做出了这样的判断:未来整个智能数字化体系将重新建立在大型模型的基础。
这就需要金融业在推动大模式落地的过程中“重构体制”。
同时,传统小模型的价值也不能忽视,但大模型和小模型应该协同。
这一趋势在金融行业得到了广泛体现。
“现在金融机构都在试点大规模模式,基本上都会采用分级模式。
”胡黎明表示,与过去烟囱模式需要搭建一个平台的场景不同,大规模的模式实际上给了金融机构一个从零开始的机会。
更科学地进行系统整体规划的机会。
可以看到,不少领先的金融机构已经构建了基于大模型的分层系统框架,包括基础设施层、模型层、大模型服务层、应用层等,如农业银行、华夏银行、广发证券、阳光保险等。
这些框架体系总体上有两个突出特点:一是大模型发挥中心能力,以传统模型为技能;二是大模型发挥核心能力,以传统模型为技能;第二,大模型层采用多模型策略,内部赛马,选择效果最好的。
事实上,不仅是金融机构,一些大模式应用提供商也在当前形势不明朗的情况下,采取多模式策略来优化服务效果。
孙洪军透露,软通动力的底层模型层还融入了大量的大型语言模型。
他们会根据每个大模型返回的答案进行组装和优化,然后提供给用户。
03 人才缺口依然巨大。
大模型的应用开始给金融行业的人员结构带来一些挑战和变化。
此前,上海一家金融科技公司人士向数智前线表示,随着ChatGPT的出现,他的公司从今年年初到5月底已经裁掉了多名大数据分析师。
几年前,这还是一个热门职业。
这让他感到焦虑,甚至开始提前思考女儿未来的职业选择。
工商银行金融领域资深人士也分享了大模型对人的替代效应。
以前工行每天早上都有实习生总结各方面的信息,交给投研部的人,但现在实习生的这些任务都可以通过大模型来完成。
然而,有些银行其实并不希望大机型带来的减员。

例如,拥有20万名分行员工的工商银行就向华为明确表示,他们不希望员工被大机型取代,而是大机型应该带来新的机会,提高员工服务质量和工作效率,同时也释放一些新的机会。
雇员。
,多做高价值的事情。
其中不乏人员和结构稳定性的考虑。
但另一方面,也是因为行业很多岗位还存在人才缺口。
孙洪军告诉数智前线,大银行还有很多工作要做,一些IT需求甚至计划到明年年底才能完成。
他们的期望是大型模型可以帮助员工完成更多工作并提高“批量”效率和速度。
人员的增加而不是减少。
更重要的是,大尺寸模型的流行来得又快又猛。
短时间内,稀缺的人才供给无法跟上激增的需求。
这就像iPhone刚出来的时候,每个人都想做应用程序一样。
在世界各地寻找 iOS 程序员既昂贵又困难。
在9月初的金融科技大会上,农业银行研发中心副总经理赵焕芳总结了当前金融业将大模型能力应用于核心业务流程遇到的六大挑战。
其中之一就是人才。
赵焕芳说,他们最近招聘了一些新员工,也??在做校园招聘。
当被问及是否研究过人工智能领域时,比例非常高。
当被问及大型模型时,发现“很少”。
孙洪军对此也深有体会。
国庆节前一周,他们刚刚收到银行客户的人才支持请求。
该银行因自建大型模型团队需要暂时休假,不得不暂时寻求外部支持,因此暂时面临模型培训人力短缺的问题。
“现在这个领域的人才确实很少,培养起来还需要一些时间。
“孙洪军认为,直接应用大模型的人才要求比较简单,需要的是会提问的人。
但如果自己搭建一个行业或企业的大模型,金融机构需要有一个有能力、有能力的人。
”腾讯云副总裁胡黎明也坦言,目前领先机构正在招聘一些AI相关的人才,比如算法博士。
因为金融客户虽然可以依赖大型的模型厂商,但他们毕竟是最终的用户,是创新的主导者,他们需要一定的人才积累来支撑其整个建设。
AI平台,各类AI应用的规划,以及整个建模,在调优、微调的过程中,我们与大型模型厂商合作,进行场景叠加、模型叠加等相关优化,不断扩大范围和效果AI模型应用。
华为的朱朱博士表示,与他们有共同的合作。
工行实验室人力资源团队梳理了企业应用大模型的人员转型实践,设计了即时优化、微调、大模型操作等一系列培训课程,并与远程银行、 UX设计、分公司等部门,成立联合项目组,带动企业人员能力提升。
“大模型是半成品,离成品还很远。
只有现场的人才能共同努力才能完成它们。
“一位业内资深人士总结道,大公司的大模式会给公司现有的传统能力带来一定的提升,但不会产生范式的改变。
范式的改变必须要有财务内部的团队。
”值得一提的是,在这个过程中,金融机构的人员结构也会发生一些调整和变化。
在这种环境下肯定比不懂得利用的人更容易生存。
”孙洪军说道。
【本文由投资界合作伙伴微信公众号授权:数智前线。
本平台仅提供信息存储服务。
】如有疑问,请联系()投资界处理。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-18
06-17
06-18
06-17
06-18
06-18
06-17
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟,Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车?
更新鸿蒙3后,文杰允许你在车里做PPT了
新起亚K3试驾体验:追求“性价比”,韩系汽车仍不想放弃
阿维塔15登场!汽车配备了增程动力,理想情况下会迎来新的对手吗?
马斯克宣布创建 ChatGPT 竞争对手! OpenAI的CEO给他泼了冷水, GPT-5可能会发生巨大变化
骁龙无处不在,是平台也是生态