从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济报道见习(xí)记者郭聪聪北京报(bào)道

　　人工智能技术广泛应用(yòng)于(yú)金融(róng)领域，在提高(gāo)金(jīn)融(róng)服务效率和质量的同时，其黑暗面也(yě)日渐显现(xiàn)。由人(rén)工智能技术演化而来的Deepfake（深度伪造）技术(shù)欺诈日益猖獗，奇安信集团(tuán)发布的《2024人工智能安全报告》中(zhōng)显示，在2023年，基于AI的深度(dù)伪造欺诈暴增了3000%。在这过程中，首当其冲(chōng)的就(jiù)是广泛适用“人脸识(shí)别”系统的金融行业。

　　为提(tí)升(shēng)金融信息系统(tǒng)的安全性，9月6日北京(jīng)国家金融科技认证中心联合10多家金(jīn)融机构发布的《虚(xū)假(jiǎ)数字人脸检测金融应用(yòng)技术(shù)规范》（下称《应用(yòng)规范》）正式施(shī)行。《应用规范》规定了面向金融领域应用(yòng)的(de)虚假数字人(rén)脸检测服务的技术框架、功能要求、性能要求等，并提出对应(yīng)的(de)测试评(píng)估方法，为(wèi)金融机构防御虚假数字人脸攻击提(tí)供了重(zhòng)要参考(kǎo)，这是国内首个面向Deepfake进行安全检测的标准。

　　Deepfake正在(zài)冲击银行(xíng)“人脸识别”系(xì)统

　　Deepfake由“Deep learning”和(hé)“fake”组(zǔ)成，最早出现在 2017 年。其名称最初源于一个名为“Deepfakes”的(de)用户在Reddit社交网站上，发布了一系列名人(rén)的(de)深度伪造视频，并声称这(zhè)是一个(gè)新的合成技术。

　　作为一(yī)种新兴(xīng)的黑产攻击手段，Deepfake能够(gòu)快速学习被仿冒者的样貌(mào)及声音，十分狡猾且具迷惑性(xìng)，在其背后支撑的是日益精进化的人(rén)工智能(néng)技术。在金融账户开户、账(zhàng)户登录、移动(dòng)支付、理财保险身份鉴别等各种金(jīn)融应用场景中都需要“人脸识别”的(de)今天，Deepfake对“人脸识别(bié)”系统的攻击给金融(róng)行业带来了巨大的潜伏风险。

　　就以(yǐ)银行业为例， Deepfake就成为了攻击银行(xíng)外围防火墙(qiáng)的工具。通常银行网上银行的登(dēng)录系统往往需要个人信息、验证码、密码(mǎ)与(yǔ)人脸识别，作为最后一层保障，人脸(liǎn)识(shí)别系统(tǒng)正在面临Deepfake的(de)冲击。

　　今年2月，国(guó)外某安全公司就发现了(le)名为“GoldPickaxe”的恶意手机木马(mǎ)软(ruǎn)件。不同(tóng)于(yú)传统的窃取资金(jīn)方式，不法分子通过该木马软件窃取手机使用者(zhě)的面部肖像等生物识别数据、拦截短(duǎn)信等，继而伪(wěi)造人脸动态视频(pín)，登录用户的银行账号进行转账、消费、修改账号密码等操作。目前，GoldPickaxe木马病毒活跃在越南(nán)和泰(tài)国，支持iOS和Android版本，十分值得警惕。

　　本报记者也曾对国内部分银行的手(shǒu)机银(yín)行展开了一次Deepfake测试。利用Deepfake技(jì)术，持(chí)卡人的肖像特征被抓取，再通过技术合(hé)成到非持卡人的面(miàn)庞之上(shàng)，非持(chí)卡人能够顺畅的以持卡人的面容执行“张嘴、点头、摇头”等指令，不过并未(wèi)能突破银(yín)行的防御机(jī)制。但实现这一操(cāo)作，仅拿到持卡(kǎ)人的一张(zhāng)照片就可做到。

　　国内首个金融领域“Deepfake”检测(cè)标准

　　中信银行信息技术管理部创(chuàng)新科学家张然(rán)是(shì)《应(yīng)用规(guī)范》的起(qǐ)草者之(zhī)一(yī)，在接受本(běn)报记者采访时他提到：“《应用规范》是国内金(jīn)融(róng)领域(yù)首个虚假数字人脸检测标准，实现了从0 到1的突破，是数字金融方(fāng)向的重要研(yán)究成果(guǒ)。该标准目前属于团体标(biāo)准，但在未来将在此标准的基(jī)础上申请国家(jiā)标准及国(guó)际标准。”

　　该标准的核心(xīn)特点在于其为(wèi)金融领(lǐng)域(yù)的(de)虚假(jiǎ)数字人脸(liǎn)检测提供了(le)系统化(huà)的技术框架、功能要求、性(xìng)能评(píng)估方法(fǎ)等，专(zhuān)门针对通过生成式人工智能、深(shēn)度伪(wěi)造等(děng)技术制作的虚假人脸内容(róng)进行检测。

　　同时，《应用规范》注(zhù)重识别不同类型的虚假(jiǎ)人脸内容，包括图像、视频等形式，提出了基于深度学(xué)习、卷积神(shén)经网络等技术的检测方法，并强调了对检(jiǎn)测准确性(xìng)、鲁棒性和泛化性的全面评(píng)估（如下(xià)图）。

　　张然在介绍《应用规(guī)范》的具体应用场景时提到，《应用规范》在身份(fèn)识别、交易验证的场景中均制定了相应评估方法(fǎ)。

身份识别。在金融机构进行开户或身份验证时，虚假数字人脸检测技术(shù)可(kě)以有效识别(bié)使(shǐ)用虚假数字(zì)人脸企图冒(mào)用他人身份的(de)行为。通过检测虚假面(miàn)部(bù)特征(zhēng)，系统可以准确判(pàn)断并拒(jù)绝虚假的开户申(shēn)请。
交易验证。在高(gāo)额交易(yì)中，特(tè)别是涉及远程身份验证时，该技术可以(yǐ)通(tōng)过(guò)实时视频对话或者图像验证用户身份，防止恶意攻击者使用虚假人(rén)脸视频进行交易验证，从而提高金融交易的安全性。

　　在谈到《应用规范》对于银行业的影响时，张然说：“银(yín)行(xíng)业(yè)对于《应用规(guī)范》的反馈很好，工商银(yín)行、建(jiàn)设银行、邮储银行等银行将参与应用。”

　　张然表示，该标(biāo)准的应用将持续提升银行业在防范虚(xū)假身份认(rèn)证和金融欺诈方面的能力(lì)。虚假(jiǎ)数字人脸检(jiǎn)测技(jì)术可(kě)以有效抵御深度伪(wěi)造等技术的攻(gōng)击，确保(bǎo)用户身份的真实性，保护银行系统免受伪造(zào)人(rén)脸攻击的(de)威胁。此(cǐ)外，通过(guò)这种技术的应用，银行可以进一步优化远程服务(wù)和数字化交易的安全性，为用户提供更安全的线(xiàn)上金融(róng)服务体验。

责任编辑：王馨茹

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修从0到1 国内首个金融领域“Deepfake”检测标准来了