曹刚：加速大模型产业落地

专题：2024中国AIGC创新发展论坛

　　2024年服贸会专题论坛之一——“2024中国AIGC创新发展论坛”于9月13日-14日在(zài)北京举行。蚂蚁集团财富保险事(shì)业群平台科(kē)技总经理曹刚出席并演讲。

　　曹刚表(biǎo)示，大模型技术是实现高质量金(jīn)融服(fú)务普惠的关(guān)键(jiàn)。他说，高质量的金融(róng)服务(wù)是非(fēi)常稀缺的，从统计数据来看，目前国内投资(zī)者大(dà)概有7.2亿，但(dàn)真正具(jù)备投资顾问(wèn)资质的(de)专家只有20万，要服务好广大消费者的，光靠专家(jiā)的能力是非常困难(nán)的，而(ér)且金(jīn)融服(fú)务门槛比较高。

　　“大模型技术(shù)的到来，让我们看到(dào)了高质量金融服务普惠的可能性，大(dà)模型具备压缩世(shì)界金融知识的(de)能力，专(zhuān)业知识力一定程度上远超人类专家，同时还有强大的(de)推理能(néng)力，并(bìng)可以通过(guò)自然语言进行交互，相对(duì)于传(chuán)统的GUI图形界面(miàn)操(cāo)作(zuò)，自然(rán)语言交互更加(jiā)简单和流畅”，他说。　　

　　以下为演讲实录：

　　曹(cáo)刚：各位领导、各位来宾，大家下午(wǔ)好，我(wǒ)是来自蚂(mǎ)蚁(yǐ)集团财富保险事业群的曹刚，很(hěn)高兴参加今天2024中国AIGC创新发展论(lùn)坛，我(wǒ)今天分享的题目是“加速大模型产业落(luò)地，让AI人人可事”。

　　蚂蚁集团一直是普惠金(jīn)融的实践者(zhě)，伴随整个科技的发展，我们坚持用科技持续为整个社会带来微小而美好的(de)变化。在互联网早期阶段，我们推出(chū)了快捷支付、扫码支付的服务，实现了(le)整个支付服(fú)务的普惠。不管是在(zài)街边买一个包子还是去商场付个款，很容易就能完(wán)成支付(fù)过程。我自己也非常荣幸参(cān)与了(le)快捷(jié)支付建设过程，至今仍然是非常有成就感的一件事情。进入大数据、云计算以及(jí)移动(dòng)互联网这个阶段后，蚂蚁集团从支付(fù)走向了金融，推(tuī)出了余额宝、花呗、借呗，以(yǐ)及蚂蚁财富等(děng)金融产品，通(tōng)过这些产品(pǐn)用户能更加容(róng)易获得信贷服务和理财服务(wù)。到了2022年，以ChatGPT为代表的大模型(xíng)技术爆(bào)发，点燃了整个业界，大模型出色(sè)的推理、认知和生成能力，让(ràng)我(wǒ)们看到(dào)了(le)实现AGI的(de)可能。我们(men)也一直在思考和(hé)探索怎么样让大模型技术落地(dì)到金融场景中，让大模型(xíng)成为业(yè)务发(fā)展新的驱动力，就在刚过去(qù)的一周，我们(men)在上(shàng)海的外滩大会发布了蚂蚁集团三款大模(mó)型AI的(de)产品，分别是AI金融管家、AI生活管家，还有(yǒu)AI健康管(guǎn)家，大家可(kě)以上支(zhī)付宝进行搜索试用。

　　回到(dào)金融领域，我们认为，大模(mó)型技术(shù)是实(shí)现(xiàn)高质量金融服(fú)务普惠的关键，高质量的金融服务是非常稀缺的，从统计数据来看，目前国(guó)内(nèi)投(tóu)资者大概有7.2亿(yì)，但真(zhēn)正具备投资顾问(wèn)资质的专家只有20万，要服(fú)务好广(guǎng)大消费者的，光靠专家的能力是(shì)非常困难的，而且金融服务门槛比较高，相信大家都知道这个问题。大模型技(jì)术的到来，让我们(men)看到了高(gāo)质量金(jīn)融服(fú)务普惠的可能性，大模(mó)型(xíng)具(jù)备(bèi)压缩(suō)世界金融知识的能(néng)力，专业知识力一定程(chéng)度上远超人类专家，同(tóng)时还有强大的推理能力，并可以通过(guò)自(zì)然语言进行(xíng)交(jiāo)互，相对于传(chuán)统的GUI图形界面操作，自然语(yǔ)言交互更加简单和(hé)流畅。

　　面对大模型技术的(de)发展以及实(shí)现高质量金融服务普惠的机遇和挑战，我们确定(dìng)了(le)金融AI的(de)战略布局，在(zài)我们内部称为1+2布(bù)局，1+2是(shì)1个(gè)大模型基建，这个(gè)大模型(xíng)基建是由我们自研的凤凰大(dà)模型以及AgentUniverse专业的智能体(tǐ)框架组成，后面会给大家展开介绍，两个大模型AI产品，一个(gè)是2C的(de)蚂小财，也就AI金融管家，蚂小财集成(chéng)了财经、投研、财报、核赔等金融服务(wù)能力，通过语控一切、有问必(bì)答、全(quán)程陪伴(bàn)方式，为用户带来全新的智能服务体验。另(lìng)一个是2P的支小助，支小助一个专业严谨的 AI助手，主要(yào)服务对(duì)象就是我们整(zhěng)个金(jīn)融服务链条上的各类专家，希望通过支小助(zhù)提高(gāo)专家作业流程的效率和水平。

　　大模型基建部分，从去年(nián)大模型技术爆发以来，不管(guǎn)是国外还是国内(nèi)，有非常多的大模(mó)型企业冒出来，形成了“百模大战”的态势(shì)。我们尝试过多(duō)个通用大模型底座，但(dàn)效果都不是特(tè)别理想。我们(men)看到大模型技术落地(dì)专业严谨(jǐn)领域还存在诸多困难和挑战(zhàn)，比如用户会问：”A公司(sī)的(de)最新财报表现是什(shén)么样？”，在金融(róng)领域，这涉及到一(yī)个公司(sī)的(de)财务数(shù)据，时效(xiào)性要求高，需(xū)要对信息进行精确的处理。比如用户会问曹刚：加速大模型产业落地：”我有甲状腺(xiàn)结(jié)节，到底能不能买这款保险产品？”，这个(gè)问题涉及到保险(xiǎn)领域核赔核保的专业知识，判断和决策逻辑(jí)是非常复杂的。再比如(rú)用户(hù)会问：”能不能给我推荐一款(kuǎn)稳赚不赔的基金？”，这个(gè)问题涉及(jí)到金融常(cháng)识以及金融合规性的(de)要求，我们只能在安全合规的前提下去给用户做答。这些问(wèn)题是(shì)通过大模型难以甚任的。

　　为此(cǐ)，从去年开始，我们自研了(le)蚂蚁凤凰大(dà)模型，去解(jiě)决通(tōng)用(yòng)大模型在专业、严(yán)谨、安全合规层面面临的问题。凤凰大模型今年(nián)已经通过备案，我们的工(gōng)作重心集中在这几个方面：首(shǒu)先是专业性方(fāng)面，核心是让大(dà)模(mó)型对(duì)齐人类专家的知识和决策逻(luó)辑，通过这种方式，我们在产品客(kè)服、投研分析、财(cái)经编辑领域做到了80%左右的水平，可(kě)以很(hěn)好(hǎo)的辅助(zhù)专家进行作业。在(zài)严谨性上，我(wǒ)们核心在数据指标查(chá)询和(hé)数据指标(biāo)计算等领域进行发力，从实践(jiàn)结果(guǒ)来(lái)看，在数据指标查询(xún)方面，我们已经实现了95%以上的准确(què)率。在(zài)金融计算部分，金融(róng)领域有很多计算逻辑，比如(rú)计算你的存款利息、理财收益等等，大(dà)模(mó)型(xíng)通过(guò)工具调用，能(néng)做到80%左右的水(shuǐ)平，还有很大提升空间。在安全(quán)合规层面，我们搭建了(le)安全技术围栏，通(tōng)过专家标注(zhù)以及自动化攻防等措施进行(xíng)防控，上线以来，零风险事件的发生。同时，为了提高上层应用的创新效(xiào)率，我们搭建并开源了(le)一套专业的多智能体的框架AgentUniverse，相对于市(shì)面上常见的智能体平台而言，我们(men)核心在专业(yè)能力上进行增强，同时搭载了一些可快速插拔的工具，比如检索增(zēng)强(qiáng)相关的RAG、SUG等等，通过(guò)这(zhè)样(yàng)的能力让我们在研发上层的蚂(mǎ)小财(cái)和支小助应用时，变得更加高效(xiào)。现在我们把这(zhè)套框(kuāng)架开(kāi)源出来，希望这套框架能够助力更多企(qǐ)业在研发智能体的时候能更(gèng)加高效。

　　下面结合今(jīn)天论坛主题，展(zhǎn)开介绍一下我们在支(zhī)小助部分的实践，首先是营销创意产品，先来看一下产品Demo视频。（现场播放视频）。营销是(shì)每个企业(yè)都(dōu)会涉及的领域，大模型对于营销领域而言，最大(dà)的增(zēng)益在(zài)于供给侧(cè)的创意可以直接由AI生产，我(wǒ)们通过多模态大模型能力，结合用户偏好(hǎo)以(yǐ)及市(shì)场(chǎng)热点(diǎn)，能(néng)够批量化地快速生成(chéng)符合生产要求的图文、视频和卡(kǎ)片，改变过往这些素材需要运营专(zhuān)家或(huò)者设计师人工(gōng)生产的方式，极大提(tí)升了运营的效率，同时丰富了对(duì)客表达的空间。我们还在探索(suǒ)用(yòng)大模型做用户理解、产品理解、做(zuò)样本(běn)增强，通过(guò)与推荐系统的结合，整个流量运营效率能够(gòu)进一步提升，从实践的结果看，我们平台上50%展位背后的创意是由AI生产的，同时，营销能(néng)力能为平台带来(lái)10%以上(shàng)的GMV复利增(zēng)长，效果上是非常好的。

　　除(chú)了营销创意，我们还在用它(tā)做金融市场投研分析，金融市场投研分(fēn)析(xī)是(shì)一个(gè)蛮复杂(zá)的事情，它需要投研分析(xī)专家对市场或某一个(gè)行业的趋势和问题(tí)进行分析(xī)，把趋势和问题拆解成一个一个小(xiǎo)的任务，由各个专家小组通过对市场信息(xī)的收(shōu)集、整理形成研判观点，最终形成投研分(fēn)析(xī)报告需要经过(guò)专家评审(shěn)后才会(huì)被(bèi)广大用户看到。投研支(zhī)小(xiǎo)助的建设，核心就是用系统和AI的方式在(zài)模拟整个投研分析生产的过程，我们通过刚才讲到的Agent框架，将整个过程拆解(jiě)成策划、执行、表(biǎo)达、评价这样四个大的阶段，通过注入专家知(zhī)识框架，以及检索各种各样的知识库，用(yòng)多个智能体去模拟(nǐ)整个曹刚：加速大模型产业落地小(xiǎo)组分工协作的过程，从而产(chǎn)出投研分析内容。目前我(wǒ)们(men)已经能够(gòu)快(kuài)速支撑9类标的物的(de)分析，在(zài)分析效率上从过往的小时级别到现(xiàn)在的分(fēn)钟级别。

　　这是投研支小助方面的介绍，同时，我们还在尝试用大模型去做财务报告的撰写(xiě)，上市公司每(měi)个季度都要发(fā)财务报告，财报是一个非(fēi)常专业、复杂度极(jí)高的报(bào)告，去年我们跟阿里巴巴集(jí)团进行合作，用大模型(xíng)的(de)方式去辅助财务人员(yuán)完(wán)成财报的生产过程，这里面包括怎么用(yòng)大模型做财务数据计算，怎么做业绩归因和推理，怎么做财报(bào)专业的表达，这些都(dōu)对大模型的能力提出了更高(gāo)的要求和挑战。从实践(jiàn)结果来看，大(dà)模型辅助(zhù)生成财报整体采纳率达到77%，上个季度阿里巴(bā)巴集(jí)团的财报就是通过我们的(de)大模型和(hé)财务人员(yuán)共同撰写，整个财(cái)报的写作效率得到了(le)提升，同时我们也可以看到，大模型在业绩归因和财(cái)务推理这(zhè)部分的准(zhǔn)确率(lǜ)还不够高(gāo)，我们还会(huì)进一步(bù)提升整个推理(lǐ)部分的能力。

　　上面给(gěi)大家(jiā)介绍了我们在2P支小助部分的三(sān)个(gè)产品，支(zhī)小(xiǎo)助通(tōng)过大模型能力、多智能体能力对整个金融服务链条各个环节进行升级和重塑，现在已经覆盖了营销、投研等十几个垂直领域，是各(gè)垂直领域专业严谨的AI业务助手，目前我们已经在蚂蚁集团(tuán)财富保险多(duō)个业务场景中进行了规(guī)模化验证，基本上是业界(jiè)首个完成规模化验证的产品，使得各服务环节效率倍增，通过这(zhè)种2P2C模(mó)式，为上亿用户(hù)带来了高质(zhì)量(liàng)的金融(róng)服务(wù)。支小助已经跟平(píng)台上120多家机构开展了合(hé)作，我们期(qī)待和更多的产业合(hé)作伙伴一起，加速大模型产业落地，让AI人人可(kě)享。

曹刚：加速大模型产业落地　　以上是我的分(fēn)享，感谢大家聆听，谢谢。

　　新浪声明：所有会议实录(lù)均为现场速记整理，未经演讲(jiǎng)者审阅，新浪(làng)网(wǎng)登载此文出(chū)于传递更多信(xìn)息之目的(de)，并不意味着赞同其观(guān)点或证实(shí)其描述。

责任编(biān)辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修曹刚：加速大模型产业落地