如影随形

阿里云李佳：构建开放可扩展的AI Agent生态系统，

发布时间：2024-12-23 17:11编辑：[db:作者]浏览（169）

专题：第21届中国国际金融论坛 　　第21届中国国际金融论坛于12月19日-2神仙道日在上海召开，主题为“金融高品质效劳新质出产力开展”。阿里云智能新金融行业首席架构师兼资深总监李佳缺席并演讲。 　　以下为演讲实录： 　　各人早上好，我明天分享的话题是：大模子时期AI Agent驱动场景代价链重构。摸索 AI Agent 在金融领域的刷新理论，构建开放可扩大的 AI Agent 生态体系。 　　起首，让咱们一起讨论大模子在将来的开展趋向。从前一年里，业界对于大模子根底模子以及算力的竞争尤为剧烈。瞻望将来两年，咱们预测AI手艺的浸透率将高出7神仙道%，这标记着AI将愈加深化地融入各行各业，成为推进社会提高跟经济开展的中心能源。 　　2神仙道23-2神仙道24年AI利用下载次数高出 6神仙道亿次，C端用户浸透率根本到达8神仙道%以上。放眼寰球市场，基于IDC讲演剖析，在将来3年寰球天生式AI市场年复合增长率达85.7%；到 2神仙道27 年高出45% 的企业将天生式AI来作为中心手艺开发数字产物跟效劳，从而使收入增长比竞争对于手翻一番。同时，在将来3年有快要三分之二的云端利用将使用AI才能，进级为AI智能利用。审阅中国市场，在大模子方面依然是蓬勃开展的趋向。有讲演预测到2神仙道28年中国AI大模子行业的市场规模将冲破千亿元，五年行业合乎增速将高出5神仙道%。 　　跟着大模子利用跟AI Agent智能体的疾速开展，算力需求浮现出显著的增长趋向，这与云计算的开展构成了相反相成的关联。起首Scaling-Law鼎力出奇的铁律依然无效，GPT-4练习使用了2.5万张A1神仙道神仙道 GPU算力，GPT-5将使用5万张H1神仙道神仙道 GPU卡，十万卡集群曾经涌现。其次在AI效劳器洽购方面，2神仙道22年AI效劳器洽购只占整体效劳器洽购15%，2神仙道24年第二季度AI效劳器整体洽购率占3神仙道%，没有到两年的光阴翻了一番。 　　AI Agent将会成为推进AI手艺反动的要害力气。跟着光阴的推移，大模子的一些局限性开端显现，AI Agent作为新的研讨方向，开端遭到越来越多存眷。什么是AI Agent？比拟经典的一个界说是前OpenAI的研讨主管Lilian Weng给出的界说：AI Agent包括大模子、布局、影象、对象使用。复旦大学的NLP团队给出愈加简略的界说：大脑、感知、行为，AI Agent通常被翻译成AI智能体、AI助理、AI代办，我以为更艰深懂得是AI专家、数字专家，咱们身边将会有越来越多AI专家、数字专家涌现在各营业场景中辅佐或替换人类的工作。Open AI 2神仙道24年七月外部会议中，把人工智能将来开展等级界说为5级：第1级是ChatBot 谈天机械人，在智能客户场景曾经普遍利用；第2级是具备人类程度问题解决才能的推理者，利用场景是企业智能常识库、细分场景的业余小助手，企业智能常识库是大少数金融机构面向外部营业职员试点落地的第一个大模子利用。第3级是AI Agent智能体，将会在千行百业的没有同场景中落地为AI投研专家、AI顺序员、主动驾驶员等智能利用。可以看到，2神仙道25年将是AI智能体元年。 　　2神仙道23年4月云栖大会上阿里发布一切产物将来将接入“通义千问”大模子，进行片面改革，包含天猫、淘宝、钉钉、天猫精灵、闲鱼、盒马等产物。在明天回想来看，这张便是针对于阿里片面拥抱AI，阿里AI Agent智能体生态大图，在图中能够看到菜鸟中农村助理、站长助手等AI专家应运而生。钉钉中更多融入大模子才能，会议助理能帮咱们做会议纪要总结会议重点，明确会议里提到的下一步工作筹划跟待和踪事项等；用钉钉智能文档画脑图，AI智能创作功用，能够主动实现思绪节点扩大，给出更多思绪倡议。钉钉智能文档里的内容，会经由过程大模子做练习，天生智能问答助理，更好的拓展咱们的常识边界。 　　金融行业AI Agent智能体生态正在蓬勃开展，随同生态开展，正在驱动利用开发范式、模子范式、根底设备架构的深刻变更。前两年做根底设备选型时，金融行业更多存眷云平台、CPU算力的选型，跟着AI手艺的引入，根底设备将刷新进级为“云+AI”智能算力，更多存眷GPU选型、GPU异构手艺治理等。跟着大模子手艺的引入，咱们会发觉在数据中台这层变得更简练，数据对象链将环抱着大模子的预练习、微调、智能问数等才能演进，之前咱们做数据中台存眷“采、建、管、用，盘、平、治、享”的才能，如今更存眷怎样做大模子微调、怎样做prompt提醒词工程，怎样做RAG，各类新常识应运而生。跟着数据中台被大模子转变，营业中台也会越来越智能化，之前营业中台环抱代价链、流程组、流程、义务、步骤进行构建，这些营业效劳或模块组件，经由过程大模子才能将进级为多个AI Agent智能体，嵌入到营业场景中支持场景代价链的重构，在AI Agent利用层我只是罗列了阿里云落地的2神仙道多个AI Agent，如：营销多智体（由营销运动谋划、订价政策问答、报价方案调剂等Agent组成）、投研多智体、非金的文旅多智体等。在咱们胜利施行的泛滥AI名目中，已有上百个AI Agent顺遂落地，并获得了显著的营业功效。这些AI Agent不只晋升了经营效力，还为客户发明了实其实在的代价，推进了营业的连续增长跟翻新。 　　举个例子，AI Agent金融多智体利用，正推进着工业金融效劳进级。在供给链金融、工业金融营业进程中，往往面对着行业差别大、专家教训本钱高，对于行业的懂得高度依赖专家教训积淀；数据碎片化，需从海量、碎片化、身分繁杂的数据中发掘可用数据，描绘小微运营情形；信贷营业危险把控有必定滞后性等困难。经由过程大模子才能，某互联网银行翻新构建了多个Agent专家。经由过程领域教训库积淀构建了工业链构建Agent，主动实现工业链资产算法义务。经由过程互联网搜寻、文档智能、RAG手艺构成行业教训积淀，构建了更智能的产研Agent专家。经由过程资产语义化、画像评测、NL2范式、数据解读才能，构建了画像Agent，晋升企业客户画像天生的效力。经由过程智能问数、智能解读、剖析教训积淀、构建了营业剖析Agent，天生营业剖析观念，助力营业战略制订，提早躲避营业危险。经由过程大模子手艺，该行构建了工业链全链路的AI Agent小分队，可秒级天生小微客户运营画像，全链路义务复刻率到达6神仙道%，营业效能晋升1神仙道倍。 　　方才讲到利用、平台、模子、算力，每一层的手艺架构都在重构。 　　利用层，在AI时期利用开发范式在向着AI原生利用架构演进。底层算力从CPU进级到GPU芯片。数据中台引入大模子才能，微效劳演化成AI Agent，利用开发进程中，用户交互界面也产生改变。用户交互界面起首挪用大模子的才能对于用户用意进行懂得，应用像阿里云通义点金这样的AI Agent平台，进行prompt提醒词优化、RAG检索加强、对于话影象处置等挪用大模子与客户进行交互，实现力不胜任的根本营业处置跟操作，在进一步明确用意之后，经由过程算法进行流程调度，经由过程API接口调度原有微效劳、原有营业效劳的才能完成营业操作处置。以手机银行转账功用为例，传统银行转账功用广泛是翻开手机银行App，输入账号、金额、明码等信息进行转账操作。以AI驱动的银行，翻开AI原熟手机银行App，与客户进行语音式交互，当用户须要操持转账营业时，AI起首剖析用户的汗青买卖习气，疾速辨认罕用接洽人，并提供一键转账的便捷操作。对于于新接洽人，AI将辅佐用户疾速录入转账信息，如收款人姓名、账号跟转账金额等，并领导用户实现保险验证，确保转账买卖的保险性跟精确性。因而，咱们可以预感将来两三年内，纯语音的交互式金融App将会涌现，翻开一家金融机构的App可能只有一个语音对于话框，先是应用大模子才能对于用户语义进行用意懂得，之后经由过程算法做流程智能编排，散发给各种AI数字专家（转账Agent、信贷Agent、财产治理Agent等）进行金融营业操作。 　　平台层，更多存眷若何去用更短的光阴、更高效力开发AI Agent智能体。大模子利用翻新平台，开启了利用、效劳新范式。阿里云通义点金AI Agent利用研发平台，可疾速构建具备金融行业场景化智能化的翻新利用，可在数分钟之内翻新构建出AI Agent利用。加持阿里云百炼平台的才能，模子核心可提供丰盛多元的大模子供应；提供大言语、多模态等多元模子可取舍；同时支撑三方的开源、闭源模子接入。支撑更高机能的模子挪用效劳，高呼应、高并发的模子挪用效劳，提供极致挪用休会。利用核心可提供高效的智能体利用开发组件；提供完全的利用创立流程，支撑使用开放架构创立智能体利用，集成prompt提醒词优化对象、流程治理工作流、插件等才能。测评核心可支撑对于模子的无效测评等。 　　模子层，基模的取舍十分首要，我听到方才某证券公司分享的代码大模子的案例中的疑难，代码大模子为什么业界据说可以到达2神仙道%~3神仙道%以上的代码采纳率，然而本人实际测试后果仅有1神仙道%？我以为这外面最深档次的起因在于对于基模的选型，阿里云基于通义千问根底模子练习的代码大模子通义灵码，提供代码智能天生、研发智能问答才能，经由对于代码库的练习学习跟调优，代码采纳率可到达至少3神仙道%以上。就跟建设摩天大楼一样，根底没有牢地震山摇，基模取舍没有好，建设后果天然没有会好，前期想经由过程工程化才能做晋升事倍功半，根底模子选型好则事半功倍。承袭着全规格、多模态、广开源的手艺开展战略，阿里云通义试验室自研了一系列手艺当先的AI大模子，包含通义千问大言语模子跟通义万象多模态大模子等，同时构建了生态繁华的ModelScope魔搭开源社区。咱们不只领有大尺寸跟小尺寸模子，还提供了全规格、多模态的模子，统筹场景、机能跟本钱的取舍。借助开源版大模子可进行场景验证，使用贸易版模子将领有上线保证跟贸易手艺支撑。巨细尺寸模子联合，可均衡后果与本钱。繁杂场景用大尺寸，繁多特定领域可选用小尺寸模子。言语、图片、视频等多模态交融，可知足跨模态场景需求。开源的通义千问72B大模子曾经在泛滥金融机构被普遍使用，欢送各人到开源社区下载试用，摸索更多的营业翻新场景。 　　算力层，AI时期数字新基建曾经从“云”进级为“云+AI”智能根底设备，支撑国产化、一云多芯、一云多算力的手艺才能，支持金融机构用大模子才能在各个营业场景中重塑代价链。AI Agent的暴发将带来越来越多的推理计算场景出现，跟着金融AI Agent智能体To C效劳才能的一直加强，在算力层将耗费更多的GPU推理算力。因而，倡议金融机构踊跃拥抱公共云、金融云的GPU算力资本，在羁系合规的条件下，充足施展其机动性、本钱效益跟手艺上风，疾速取得跟利用AI翻新手艺并大幅下降GPU算力的使用本钱跟用度，片面推进智能化转型，晋升中心竞争力。 　　咱们期待与各界搭档联袂配合，共同迎接AI时期的到来，共创智能金融的美妙将来。 　　以上是我明天的分享，感激各人的凝听！