曹刚：加速大模型产业落地

专题：2024中国AIGC创新发(fā)展论(lùn)坛

　　2024年服贸会专题论坛之一——“2024中国AIGC创新发展论坛”于9月13日-14日在北京举行。蚂蚁集团财富保险事业群平台科技总经理曹(cáo)刚出席并演讲。

　　曹刚表(biǎo)示(shì)，大模型技(jì)术是实现高质量金融服务普惠的关键。他说，高质(zhì)量的金融服务(wù)是非常稀缺的(de)，从(cóng)统计数据(jù)来看，目(mù)前国内投资者大概有7.2亿，但真正具备投资顾问资质的专家只有(yǒu)20万(wàn)，要服务好广(guǎng)大消费(fèi)者的，光靠专家的能(néng)力(lì)是非常困(kùn)难的，而(ér)且(qiě)金融服务门槛比(bǐ)较高。

　　“大模型技术的到来，让我们看到了高质量(liàng)金融(róng)服务普惠的可能性，大(dà)模型具备压缩世界金融知(zhī)识的能力(lì)，专业知(zhī)识力一定程度上(shàng)远超人类专家，同时还(hái)有强大(dà)的(de)推理能力(lì)，并(bìng)可(kě)以通过(guò)自然语言进行交互，相对于传统的GUI图形界面操作，自然语言交互更(gèng)加简单和流畅”，他说。　　

　　以下为演讲(jiǎng)实录：

　　曹刚：各(gè)位(wèi)领导、各位来宾，大家下(xià)午好，我是来自蚂蚁(yǐ)集团财(cái)富保险事业群的曹刚，很高兴参加今天2024中国AIGC创(chuàng)新发展论坛，我(wǒ)今天分享(xiǎng)的题目是“加速大模型产业落(luò)地，让(ràng)AI人人可事(shì)”。

　　蚂蚁集团一直是普惠金(jīn)融的实践者，伴随整个科技的发展，我们坚持用科技持续为整(zhěng)个社(shè)会(huì)带来微小而美好的变化。在互联网早期阶段，我们推出了快捷支付、扫码支付的服务，实现了整个支付服(fú)务的普惠(huì)。不管是在(zài)街边(biān)买一个包子还是去商场付个(gè)款，很容易就能(néng)完成支付过程。我自己也非(fēi)常荣幸参与了快捷支曹刚：加速大模型产业落地付建(jiàn)设过程，至(zhì)今仍然是(shì)非常有成就感(gǎn)的一件事情。进入大数据、云计(jì)算以及(jí)移(yí)动互(hù)联网(wǎng)这个阶段后，蚂蚁集团从支付走向(xiàng)了金融，推出了余额宝(bǎo)、花呗、借(jiè)呗，以(yǐ)及蚂(mǎ)蚁财富等金融产品，通过这(zhè)些产品(pǐn)用户能(néng)更加容易获得信贷服务和理财服务。到了2022年，以ChatGPT为代表的大模型技术(shù)爆发，点燃了整个(gè)业界，大模型出色(sè)的推理(lǐ)、认知和曹刚：加速大模型产业落地生成能(néng)力，让我们看(kàn)到了实现AGI的可(kě)能(néng)。我们也一直在思考和探索(suǒ)怎么样让大模型技术落地到(dào)金融场景中，让大模型成为业务发展新的驱动力，就在刚(gāng)过(guò)去的一周(zhōu)，我(wǒ)们(men)在上(shàng)海(hǎi)的外(wài)滩(tān)大会发布了(le)蚂蚁集团(tuán)三(sān)款大模型(xíng)AI的产品，分别是AI金融管家、AI生活管家，还有AI健康管(guǎn)家，大(dà)家可以上支付宝(bǎo)进行搜索试用。

　　回到金融(róng)领域，我们认(rèn)为，大(dà)模型技术(shù)是实现高质量金融服务普惠的关键，高质量(liàng)的金融服务是非(fēi)常(cháng)稀(xī)缺的，从(cóng)统计数据来(lái)看，目前国(guó)内投(tóu)资者大概有7.2亿，但真正具备投资顾问资质的专家只有20万(wàn)，要服务好(hǎo)广大(dà)消费(fèi)者的(de)，光靠专家的能力是非常困难的，而且金融服务门槛比(bǐ)较高，相信大家都知道这个(gè)问题。大模型技术的到来(lái)，让我(wǒ)们看到了高质量金融服务普惠的(de)可能性，大模型具备压缩世界金融(róng)知识的能力，专业知识力一定程度上(shàng)远(yuǎn)超(chāo)人类专家，同时还有强大的推理(lǐ)能力，并可(kě)以通过自然语言进行交(jiāo)互，相(xiāng)对于(yú)传统的GUI图形界面操作，自(zì)然语言交互更加简单和流畅。

　　面对(duì)大(dà)模型技术的发展以及实现高质量金融服务普(pǔ)惠的机遇和挑战，我们确定了金融AI的战(zhàn)略(lüè)布局，在我们(men)内部称为1+2布局，1+2是1个大模型基建，这个大模型(xíng)基建是由我们自研的凤凰大模型以及AgentUniverse专业的智能体框架组成，后面会给大家展开介绍，两个(gè)大模(mó)型AI产品，一个(gè)是2C的蚂小财(cái)，也就AI金融管家，蚂小财集(jí)成了(le)财(cái)经、投(tóu)研(yán)、财报、核赔(péi)等金融服务能力，通过语(yǔ)控一切(qiè)、有问必答、全程陪伴方(fāng)式，为用户带来全新的智能服务体验。另一个是2P的支小助，支小助一个专业严谨的(de)AI助手，主要服务对(duì)象(xiàng)就是我们整(zhěng)个金融(róng)服务链条上的各类专家，希望通过支小(xiǎo)助提高专家(jiā)作业流程(chéng)的(de)效率和水(shuǐ)平。

　　大模型(xíng)基建部分(fēn)，从去年大模型技术爆发以来，不管是国外还是国内，有非常(cháng)多(duō)的大模型企业(yè)冒出来，形成了“百模大战(zhàn)”的(de)态势(shì)。我们尝试过多个通用大模型底(dǐ)座，但效果都不是特(tè)别理想。我们看到大模(mó)型技术落地专业严谨领(lǐng)域还存在诸多困难和挑战，比(bǐ)如用(yòng)户会问：”A公司的最新财(cái)报表现是什(shén)么样？”，在金融领域(yù)，这涉及到一(yī)个(gè)公司(sī)的财务数据，时(shí)效性要求高，需(xū)要对信息进(jìn)行精确的(de)处理。比如用户会问：”我有甲状腺(xiàn)结节(jié)，到底能不能买这款保险产(chǎn)品？”，这个问题(tí)涉及到保险领(lǐng)域(yù)核赔核保的专(zhuān)业知识，判断(duàn)和决策逻辑是非常复杂的。再(zài)比如用户会问：”能不能给我推荐一款稳赚不赔的基金？”，这个问题涉及到金融常识(shí)以及金融合规性(xìng)的要(yào)求，我们只能在安全合规的前提下去给用户做答。这些问题是(shì)通过大模型难以甚任的。

　　为此，从去年开始(shǐ)，我们自研了蚂(mǎ)蚁凤凰大模型，去解决通用(yòng)大模(mó)型在专业、严谨、安全合(hé)规层面面临(lín)的问题。凤凰大模型今年已经通过备案，我们的工作重心集中在(zài)这几(jǐ)个方面：首先是专业性方面(miàn)，核(hé)心(xīn)是(shì)让大(dà)模型对(duì)齐人类专家的知识和决策逻(luó)辑，通过这(zhè)种方式，我们在(zài)产品客服、投研分析、财经编辑领域做到了80%左(zuǒ)右的水平，可以很好的辅助专(zhuān)家进行作业(yè)。在严谨性上，我们核心在数据指标查询和(hé)数据指标计算(suàn)等领域进行发力，从实践结果来看，在数据指标查询方面，我们已经实现(xiàn)了95%以上的准确(què)率。在(zài)金融计算部分，金融领(lǐng)域有很(hěn)多计算逻辑(jí)，比如计(jì)算你的存(cún)款利息、理财收益等等，大模型通过工具调用，能做到80%左右的水平，还有很大提升(shēng)空间。在(zài)安(ān)全合规(guī)层面，我们(men)搭建了安全技术围栏，通(tōng)过专家标注以及自动化攻防等措施进(jìn)行防控，上线以来，零风险事件(jiàn)的发生。同时(shí)，为了(le)提高上层应用的创(chuàng)新效率，我们搭(dā)建并(bìng)开源了一套专业的多智能体的框架AgentUniverse，相对于市面(miàn)上常见(jiàn)的智能体平(píng)台而言，我们核心在专业能力(lì)上进行增强，同时搭载了一些可快速插拔的(de)工具，比如检索增强相关的RAG、SUG等等，通(tōng)过这样(yàng)的能力让我们在研发上层的蚂小财和支小助应(yīng)用时，变得更加高效。现在我们把这套框架开源(yuán)出来，希望(wàng)这套框架能够助力更多企业在(zài)研发智(zhì)能体的时候能更加高(gāo)效。

　　下面结合今(jīn)天论坛主题，展开介绍一下我们在支小助部分的实践，首先是(shì)营销(xiāo)创意产(chǎn)品，先来看一下产品Demo视频(pín)。（现(xiàn)场播放视频）。营销是每个企(qǐ)业都会涉及(jí)的领域，大(dà)模型对于营销领域而言，最大的增益在于供给侧的创意可以直接由AI生产，我们通过多模态大模型能(néng)力，结合用户偏好以及市场热点，能够批量化地(dì)快速生成符合生(shēng)产要求的图文、视频和卡片，改变过往这些素材需要运营专家或者设计师人工生(shēng)产的方(fāng)式，极大提升了运营的效率，同时丰富了(le)对客表达的空间。我们还(hái)在探索(suǒ)用大模型做用户理解、产品理解、做样本增强，通(tōng)过与推荐系统的结合，整个流量运营效率能够进一步提升，从(cóng)实践的结果看，我们平(píng)台(tái)上50%展(zhǎn)位背后的创意(yì)是由AI生产的，同时，营销能力能为平台带来(lái)10%以上的GMV复利增(zēng)长，效果上是非(fēi)常好的。

　　除了营(yíng)销(xiāo)创意，我们(men)还在用它做金融市场投研分析(xī)，金融市场投研分析是一个蛮复杂的(de)事情，它需(xū)要投研分析专家对市场或某一个(gè)行业的趋势和(hé)问题进行(xíng)分析，把趋势和问题拆解成一个一个小的任务，由各个专家小组通过对市场信息的收(shōu)集、整理(lǐ)形(xíng)成研判(pàn)观点(diǎn)，最终形成投研分析报告需要经过专家评审后(hòu)才会被广大用户看到。投(tóu)研支(zhī)小助的建设(shè)，核心就是用系(xì)统和AI的(de)方式在(zài)模(mó)拟整个(gè)投研分析生产的过程，我(wǒ)们通(tōng)过刚才讲到的(de)Agent框架，将(jiāng)整个过程拆(chāi)解(jiě)成策划、执行、表达、评价这(zhè)样四个大的阶段，通过注入(rù)专家知(zhī)识框架，以及检索各种各样的(de)知识库(kù)，用(yòng)多个智能体去模拟整(zhěng)个小组分工协作的过程，从而产出投研分析(xī)内容。目前我们已经能够快速支撑9类标的物的分(fēn)析，在分析效(xiào)率上从(cóng)过往的小时级别到现在的分钟级别。

　　这是投研支小助方面的介绍，同时，我们还在尝试用大模型去做财务报告的(de)撰写，上市(shì)公司每个季度(dù)都要发财务报告，财报是(shì)一个非常专业、复杂度极高的报(bào)告，去年(nián)我们(men)跟阿里巴(bā)巴集团进行合作，用大模型(xíng)的方式去辅助财务人员(yuán)完成财报的生产过程，这里面包括怎么用大模型(xíng)做财务数据计算，怎么做(zuò)业绩归因和(hé)推理，怎么做(zuò)财报专业的表达，这(zhè)些都对大(dà)模型的能力提(tí)出了更高的要求和挑战。从实践结果来看，大模型辅助生成财报整体采纳率达(dá)到77%，上个(gè)季度阿(ā)里巴巴集团的财报就是通过我们的(de)大模型(xíng)和财务人员共同撰写，整(zhěng)个财报的写作效率得到了(le)提升，同(tóng)时我们也可以看到，大模型在业绩归因和财务推理(lǐ)这(zhè)部分的准(zhǔn)确率还不够高，我们还会进(jìn)一步提(tí)升整个(gè)推(tuī)理部(bù)分的能力。

　　上面给大家介绍了我们(men)在2P支(zhī)小助部分的三个产品(pǐn)，支小助通(tōng)过大模型能力、多智能体能力对整个金融服务链条各(gè)个环节进行(xíng)升级和重塑(sù)，现在(zài)已经覆盖了营销、投研等十几个垂直领域，是各垂直领域专业严谨的AI业务助(zhù)手，目前我们已经在蚂蚁(yǐ)集团财富保险多个业务场(chǎng)景中进(jìn)行了规模化验证，基本上是业(yè)界首个完成规(guī)模化验证的(de)产(chǎn)品，使得各服务(wù)环(huán)节效率倍增(zēng)，通过这种2P2C模式，为上亿用户带来了高质量的金融服务。支小助已(yǐ)经跟平(píng)台上120多家机构开展(zhǎn)了(le)合作，我们期待和更(gèng)多的产业合作伙伴一起，加速大(dà)模型产业落地，让AI人人可享。

　　以上是我的分享，感谢大家聆听(tīng)，谢谢。

　　新浪声明：所有会议实录均为(wèi)现场速记整理，未经(jīng)演(yǎn)讲者(zhě)审阅，新(xīn)浪网登载此文出于(yú)传(chuán)递更多信息之目(mù)的(de)，并不意(yì)味着赞同(tóng)其(qí)观(guān)点或证(zhèng)实其描述。

责(zé)任编辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修曹刚：加速大模型产业落地