外滩大会参会规模创新高，人们都在关 注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式闭幕。事实上，这一天下午(wǔ)，距离大会闭幕几(jǐ)个小时前，仍有观众在排队(duì)入场。官方数据显示，本届大(dà)会共(gòng)吸引了5.2万人(rén)现场参(cān)会，无论是参会规模还是国际嘉宾的数量，均创下了历史新(xīn)高。除了(le)年轻人(rén)，记者注(zhù)意到，观众队伍中还有不少老人(rén)、小孩。

　　本届外滩大会以“科技·创造可(kě)持续未(wèi)来”为主(zhǔ)题，包括36场开放(fàng)见解论坛、10多场创新(xīn)者舞台(tái)、2场AI创新(xīn)赛事、1场10000平方米(mǐ)的展览以及1场(chǎng)绿色生活节(jié)和1场科技人才招聘会。据统计，三
天时间内(nèi)，有30余项AI新成(chéng)果在本届外滩大会发布(bù)，包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂(mǎ)小财”，AI健康管家等。

　　10000平方(fāng)米的展览场地汇集了众多企业参展(zhǎn)，记者观(guān)察到，相(xiāng)比往年，准(zhǔn)备各类装备体验、互动的厂商越(yuè)来越多了，许(xǔ)多展台前，观众为参与(yǔ)体验排(pái)起长队(duì)。重视人文性，成为本届(jiè)外滩大会的一大特点。除了开幕式(shì)上(shàng)24岁(suì)的独臂男孩(hái)周键(jiàn)借(jiè)智能仿生手演奏钢琴的动人瞬间，在外滩大会的展区，借(jiè)助设备观众可以体验(yàn)将脑电波(bō)以花朵的形式(shì)可视化，让(ràng)瞬间的情(qíng)绪形成(chéng)纪念。还有(yǒu)可实现“拥(yōng)抱传递”的设备(bèi)，穿戴上内嵌人造肌肉纤(xiān)维的特制背心(xīn)，当另一个人拥抱装有压力(lì)传感器的模型(xíng)时，体验(yàn)者便能感受到(dào)模拟其声控、触觉反(fǎn)馈和温度调节等多种感官元素的“远程(chéng)拥抱”。

　　在这一(yī)年的外(wài)滩大会上，如何让“技术向善”的讨论和研发更加被业界重视(shì)。

　　AI医疗受关(guān)注

　　为期三天的展览中，AI医疗的相关产品、企业展台总(zǒng)有着最多的人流量，“爸(bà)妈记忆力下降了怎(zěn)么办？”“AI如(rú)何辅助(zhù)癌症筛(shāi)查(chá)？”这些问题让不少观众不自觉就迈入了相关(guān)展(zhǎn)区，不断有(yǒu)老人加入脑健(jiàn)康(kāng)检测，有年轻人加入脑电波的“画图”。

　　“和去年(nián)相比，今年外滩大会AI人工智能的份额感觉更高了(le)，而且不是像之 前傻乎乎(hū)的那种，今(jīn)年的很多应用(yòng)是真的有用的，明显能感觉到算法提(tí)升了很多，比如说面部识别功能或者语音交互功能，都感觉上(shàng)升了一个档次(cì)，效果变好了，所(suǒ)以大家体验的热情也高。”一位参会的展(zhǎn)商对记者表示。

　　来不及喝口水，达摩(mó)院AI医疗展台的工作人员就迎(yíng)来了下一(yī)位(wèi)咨询的观众，今年的外滩(tān)大会上，达摩院医疗AI实验室展出了其AI医学影像分(fēn)析产品
，借助AI技术，这项(xiàng)产品能够从平扫CT中 进行胰腺癌、食管癌、肠
癌、胃癌等八大癌症及一系列慢性病的筛查，吸(xī)引了(le)不少观众。

　　展台的工作人员告诉记者，通过AI识(shí)别，这项产品(pǐn)能够在肝癌、肺癌等癌症(zhèng)筛查(chá)中(zhōng)达(dá)到90%以上的准确率，提升医生(shēng)的工(gōng)作效率，补足一些医疗资源不均衡带来(lái)的问题。

　　“其实这项技(jì)术主要是面向(xiàng)B端的，为医生(shēng)服务，客(kè)户更多(duō)是医院、体验机构、保险公司、公益组织以及(jí)软
件厂商之类的，但这两天很多个人也(yě)非常感
兴趣。”上述工作人员表示。尽管许多AI医(yī)疗产品并未直接面向C端用户，但外(wài)滩大会(huì)的观众们对AI医疗(liáo)将如何改变疾(jí)病的诊治感到好奇。

　　博(bó)斯腾科技的展台则吸引到了大量的(de)老年(nián)观众，许多老人纷纷拿出手机通过支付宝(bǎo)“碰(pèng)一碰”进(jìn)行答题，检测自己得阿尔兹(zī)海默病的风险指数。展区的工作人员(yuán)介绍，通过许多数据、资料的支撑，这款产品能(néng)够通过答题测验、语音交互(hù)、动作识别等方(fāng)式检测阿尔兹海(hǎi)默病，并通(tōng)过大(dà)模型(xíng)生(shēng)成用户专属的脑健康(kāng)训练计划。

　　“我们的(de)产品2020年成(chéng)型，但借 助(zhù)摄像头的动态识别功能是今年刚推出(chū)的，主(zhǔ)要是借力于AI功能的(de)发达，包括(kuò)训(xùn)练方案(àn)的推荐，也的确在(zài)大模型出现后智能了很多。”该展区的工作人员告诉记(jì)者。随着AI的发展，更多(duō)AI医疗产品(pǐn)的“进化 ”值得期待。

　　需要强调的是(shì)，目前，许多AI医疗产(chǎn)品的诊(zhěn)疗效果仍缺乏公开数据或第三方权威机构的验证，相关展台的(de)工作人员也均表示AI医疗(liáo)产(chǎn)品无法完全代替(tì)医生诊疗需求，以辅助作用为主 。不(bù)过，AI在医疗问题中的应用的确被(bèi)业界期待。

　　不少大厂也在押注AI医疗赛道。外滩大(dà)会上，支付宝(bǎo)发(fā)布AI应用新产品“AI健康管(guǎn)家”，为用户提供找医(yī)生(shēng)、读报告、陪(péi)看诊、问医保(bǎo)、管健康等30多(duō)项AI健康服(fú)务。百川智能创始人王小川则(zé)介绍(shào)，百
川智能将重点在大医疗AI领域做投入，从儿科医生、全科医生两个切入点(diǎn)发力，希望在明年实现医疗的低成本和可及性，减少医院的挤兑(duì)现象。

　　全国政协常委周汉民(mín)在外滩大外滩大会参会规模创新高，人们都在关注如何防止AI作恶会的一场论(lùn)坛中表示，随着(zhe)人工智能等(děng)新技术的(de)不(bù)断发展和应用，医疗产业正迎来一场深刻的 变
革(gé)。据他观察，从最初的影像诊断、辅(fǔ)助诊疗、基因检(jiǎn)测，到近
年来的药物发现(xiàn)、临床试验、健康管理等，人工智能在提高(gāo)精准度与效(xiào)率、个性化治疗(liáo)、数(shù)据(jù)处理等方面具备显著(zhù)优势。他指出，医(yī)疗健康与人(rén)工智(zhì)能(néng)的融合还延伸到了中(zhōng)医(yī)领域。

　　谈及人(rén)工智能在医疗产业的应用(yòng)情况，周汉(hàn)民表示，人工智能在(zài)医疗健康产业的应用应着力提(tí)高精准性、适用性和安全性，此外，还需关注人工智能的引入 是否会导(dǎo)致医护人员技能(néng)萎缩、对人工智能的信任的误判以及信息(xī)超载(zài)。

　　以AI对抗AI

　　在期待技术带来美好生活的同(tóng)时，如何预防技术“作恶”也(yě)成为外(wài)滩(tān)大会讨论的(de)热(rè)点话(huà)题。

　　今年的外
滩大会上(shàng)，举办了包括“afac2024金融智(zhì)能创新大赛”和“全球(qiú)Deepfake攻防挑战赛”两场子赛(sài)事(shì)在内(nèi)的(de)AI创(chuàng)新大赛，由于(yú)近日(rì)韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采(cǎi)用新犯罪(zuì)手段的(de)“N号房”案(àn)件重现，以AI对抗AI，Deepfake攻防挑战赛(sài)尤其受到观众的挑战。

　　事实上，随着AI技术的发展 ，Deepfake滋生欺诈等黑(hēi)色产业链(liàn)，AI换脸欺诈带来的经济财产损(sǔn)失、名誉受损等 事件正在成为全(quán)球挑(tiāo)战(zhàn)。

　　在外(wài)滩大会展区，许多观(guān)众(zhòng)现场拍照，然后利(lì)用Deepfake换脸模型(xíng)和算法，通过视频活(huó)化、微(wēi)笑和眼镜(jìng)模版对观众外滩大会参会规模创新高，人们都在关注如何防止AI作恶的真实(shí)照片进(jìn)行换脸，亲身感受(shòu)了(le)Deepfake的逼真。

　　而在外滩大会AI创新赛·全球Deepfake攻防挑(tiāo)战赛的表演赛上，观(guān)众更是为(wèi)AI识别(bié)AIGC伪(wěi)造图片感到激(jī)动。在这场表演赛中，主持人拿出了9张玛丽莲梦露(lù)等女星的照(zhào)片，其(qí)中2张是AIGC伪(wěi)造的，选
手用自己的参赛模型给出每张图片的伪造概率值，并对(duì)概率值最高(gāo)的2张照片与正确答案进行比对(duì)。最终，两支参(cān)赛队伍的模型(xíng)都找到了正
确答案。

　　在后续的(de)互动(dòng)中，一个有(yǒu)趣的 现象是，人类肉眼(yǎn)能够看(kàn)出“一眼(yǎn)假”的伪造图片，AI可能识别不出，一些肉眼真外滩大会参会规模创新高，人们都在关注如何防止AI作恶假难辨的图片，AI反而能识别。新加(jiā)坡科技研究局周天異教授分析，人类在判断图像是否(fǒu)伪造会(huì)依赖直觉和逻辑，一些人类一眼 便知的问题AI无法联(lián)系相关背景、情形无法识别，而一些难以识别的图片(piàn)，AI一丝不苟、勤勤恳恳地完成人类(lèi)指令的工作模式反而能找出问(wèn)题。他表示，相比“一眼假”的图片，恰(qià)恰是这些难以识别(bié)的(de)图片往往(wǎng)给人(rén)类带来(lái)更大(dà)损失，因(yīn)此，用AI应对Deepfake有(yǒu)着重要意义。

　　“从我们现在看(kàn)到的数据(jù)来看(kàn)，我们(men)叫Deepfake的攻击也好，AIGC的(de)生(shēng)成(chéng)伪造，今年的攻击(jī)量比去年大概增加了10倍(bèi)，去年攻击的浓度大概是1%，今年就是10%。整个风险其实是呈指数
级上升的情况，这不仅仅(jǐn)是(shì)在(zài)中国，在韩国，在菲律宾、印尼等国家(jiā)都(dōu)有类(lèi)似(shì)的(de)情况(kuàng)发生。”外滩大会AI创新赛·全球Deepfake攻防挑战(zhàn)赛出(chū)题(tí)人、ZOLOZ技(jì)术总监(jiān)姚伟斌表(biǎo)示，10%的浓度意味着业界发现线上的流量有10%是Deepfake的流(liú)量，随着AIGC的发展，生成的成本会越来越低，效率越(yuè)来越高，明年可能(néng)不是20%，可能是50%，这是一个(gè)必须重视的威胁。

　　更多引导AI向善的观点也在外滩大会被讨论，姚伟斌坦言，研发检测(cè)算(suàn)法，只是(shì)遏制Deepfake技术滥用的方式(shì)之一。这种方式是相对滞后的。如果 要从根源(yuán)上防(fáng)范欺诈行为，姚伟斌认为应(yīng)在标(biāo)准和立法角度，要求给A IGC 内容建立通用标识，比如每一张AIGC生成(chéng)的视频或图片都在文件信息里(lǐ)带一个签名或水印，这样平台管(guǎn)理更有依据，也能让(ràng)AIGC 可(kě)以更可信。

　　“让人工智能帮助人弹钢琴，而不是作恶。”是(shì)本届外滩大会反复强调的价(jià)值(zhí)观。上海市数据科学重点实验室主任肖仰华表示，AI的大规模滥(làn)用是可能损害人之为(wèi)人的本性的。要有(yǒu)所为有所不(bù)为，但凡伤(shāng)害人之为人之本性(xìng)的AI应用，我们(men)要谨(jǐn)慎，要加(jiā)以限制(zhì)。为(wèi)此，“我们要重视技(jì)术治理，并将治理提前考(kǎo)虑，做到未雨绸缪。”

　　浙江强脑科技创始人兼CEO韩(hán)璧丞则表(biǎo)示，AI伦理(lǐ)委员会的存在非(fēi)常重要。技术前(qián)进的时候，更应该关注“走的慢”的人。“当一个足以改变世界
的技术出现时，我们先用它来(lái)帮助最需要的人”。

　　（本文来自第一财经）

责(zé)任编(biān)辑：李 桐(tóng)

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 外滩大会参会规模创新高，人们都在关注如何防止AI作恶