外滩大会参会规模创新高，人们都在关注如何
防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式 闭幕。事实上，这一天下午，距离(lí)大(dà)会闭幕几个小时(shí)前，仍有观众在排队(duì)入场。官方数据显示，本届大会共吸(xī)引了5.2万人现场(chǎng)参会，无论是参会规模还是国际嘉宾(bīn)的数量，均(jūn)创下了(le)历史新高。除了年轻人，记者注意到，观(guān)众队
伍(wǔ)中还有(yǒu)不少老人、小孩。

　　本届外(wài)滩大会以(yǐ)“科技(jì)·创造可持(chí)续(xù)未来”为主(zhǔ)题，包括(kuò)36场开放见解论(lùn)坛、10多 场(chǎng)创(chuàng)新者舞(wǔ)台
、2场AI创新赛事、1场10000平方米的展览(lǎn)以及1场绿(lǜ)色生活节(jié)和1场科技人(rén)才招聘会。据统计(jì)，三天时间内，有30余项AI新成果在本届(jiè)外滩(tān)大会发布，包(bāo)括蚂(mǎ)蚁AI生活管家“支小宝”、AI金(jīn)融(róng)管(guǎn)家“蚂(mǎ)小财”，AI健康管家等(děng)。

　　10000平方 米的展览场(chǎng)地汇集了众多(duō)企业参展，记者观察到，相比往(wǎng)年，准备各类装(zhuāng)备体验、互动的厂商越来越多了(le)，许多展台前，观众为参与体(tǐ)验(yàn)排起长队。重视人文性，成(chéng)为本届外滩(tān)大会(huì)的一大特(tè)点。除了开幕式上24岁的独臂男孩周键借(jiè)智能仿生手(shǒu)演奏钢琴的动人瞬间(jiān)，在外滩大会的展区，借助设备观众可以体验将脑电波以花朵的形式(shì)可视(shì)化，让瞬间的(de)情绪形成纪念。还有可实现“拥(yōng)抱传递”的设备，穿(chuān)戴上内
嵌人造肌肉纤维的特制(zhì)背心，当另一个人拥抱装有(yǒu)压力传感器的模型时，体验者便能感受到模拟其声(shēng)控、触觉反馈和温度调(diào)节等多种感官(guān)元素的“远程拥抱”。

　　在这(zhè)一年的外滩大会上，如何(外滩大会参会规模创新高，人们都在关注如何防止AI作恶hé)让“技术向(xiàng)善”的讨论和研发更(gèng)加被业界重视。

　　AI医疗受关 注

　　为期(qī)三天(tiān)的展(zhǎn)览中，AI医疗 的相关产品、企业展台总有(yǒu)着最多的人流量，“爸妈记(jì)忆力(lì)下降了怎么办？”“AI如何辅助癌症筛查？”这些问(wèn)题让不少观众(zhòng)不自觉就迈入(rù)了相关展区，不断(duàn)有老人加入(rù)脑健康(kāng)检测，有年轻人(rén)加入脑(nǎo)电(diàn)波的“画(huà)图(tú)”。

　　“和(hé)去(qù)年相比，今年外(wài)滩大会AI人工智能的份额感觉更高了，而且(qiě)不是像之前傻乎乎的那种，今年的很多应用是真(zhēn)的有用的(de)，明显能感觉(jué)到算法提升了很多，比如说面部(bù)识(shí)别功能或者语音交(jiāo)互功
能(néng)，都感觉上升(shēng)了一个档 次，效果变好了，所以大家体验的热情(qíng)也高。”一位参会的展商对记者(zhě)表示(shì)。

　　来不及喝口(kǒu)水，达摩院AI医疗展台的(de)工作人员就迎来了下一位咨询的观众，今年的外滩大(dà)会上，达摩院医疗AI实验(yàn)室展出了其AI医学影像分析(xī)产(chǎn)品，借助AI技术，这项产品能够从平扫CT中进(jìn)行胰腺癌、食管癌、肠癌、胃癌等八大癌症及一系(xì)列慢性病的筛查，吸引了不少观众。

　　展台的工作人员(yuán)告诉记者，通过AI识别，这(zhè)项产品能够(gòu)在肝癌、肺癌等癌症筛查(chá)中达到90%以上(shàng)的准(zhǔn)确率，提升医生的工作效率，补足一些医(yī)疗资源不均衡带来的问题。

　　“其实这(zhè)项技(jì)术主要是面向B端的，为医(yī)生服务(wù)，客户更(gèng)多是医院(yuàn)、体验(yàn)机构(gòu)、保险公司、公益组织以及软件(jiàn)厂商之类(lèi)的，但这两天(tiān)很多个人也(yě)非常感兴趣。”上述工作人员表示。尽管许(xǔ)多AI医疗产品并未(wèi)直接面向C端用户，但外滩大会的(de)观众们对AI医疗将如何改变(biàn)疾病的诊治感(gǎn)到好奇。

　　博斯腾科技的展台则吸(xī)引到了(le)大量的老年观众，许(xǔ)多老人纷(fēn)纷拿出(chū)手机通过支付宝“碰一碰”进行答题，检测自己得阿尔
兹海默病的风险指数。展区的工作人员介(jiè)绍，通过许多数据、资料的支撑，这(zhè)款产品能够通过答题测验、语音交互、动(dòng)作识别等方式检测(cè)阿尔兹海默病，并通过大模型生成用户专属的脑健(jiàn)康训练计划。

　　“我们的产品2020年成型，但借助摄像头的(de)动态(tài)识别功能是今年刚推出的，主要是借力于AI功能的发 达，包括训练(liàn)方(fāng)案的推荐，也的确在大模(mó)型出(chū)现后智能(néng)了很多。”该展区的工作人员(yuán)告诉记者。随着AI的发展，更多AI医疗产品的“进化”值(zhí)得
期待。

　　需(xū)要强调的是，目(mù)前，许多AI医疗产品的诊疗效果仍缺乏公(gōng)开数据或第三方(fāng)权威机构的验证，相关展台的(de)工(gōng)作
人员也均表示AI医疗产品无法完全代替医生诊疗需求(qiú)，以(yǐ)辅助(zhù)作用为主。不过，AI在医(yī)疗问题中的应用的确(què)被业界期(qī)待。

　　不少大厂也在(zài)押注AI医疗赛道。外滩大会上，支付宝发布AI应用新产品“AI健康(kāng)管家”，为用户提供(gōng)找医生、读报告 、陪看诊、问医保、管健康等30多项(xiàng)AI健康服务。百川智(zhì)能创始人王小川则介
绍，百川智能将重点在大医疗AI领域做投入，从(cóng)儿科医生(shēng)、全科医生两个(gè)切入点(diǎn)发力，希望在明(míng)年(nián)实(shí)现医(yī)疗的低成本和可(kě)及性，减少医院的挤(jǐ)兑现(xiàn)象。

　　全国政协常委周(zhōu)汉民在外滩大会的一场论坛中表示，随着人工智能等(děng)新(xīn)技术的不断发展和应用，医疗产业(yè)正迎来一场深刻的变革。据他观(guān)察，从最初的影像诊断、辅助诊疗、基因检测，到近年来的药物发现、临床试验、健康管理等，人工智能在提高精准度与效率、个(gè)性化治(zhì)疗、数据处理(lǐ)等方面具备显著优势。他指出，医疗健康(kāng)与人工智能的融合还延伸到了中医领域。

　　谈及人工智能在医疗产业的应用(yòng)情况，周汉民表示，人(rén)工智能在医疗健(jiàn)康产业的应用应着力提高精准性、适用性和安全性，此外，还需关注人工智能(néng)的引入(rù)是否会导致医护人员技能萎(wēi)缩、对人工智能的信(xìn)任的误判以及信息超载。

　　以AI对抗AI

　　在期待技术带来美好生活的同时，如何预防技术“作恶”也成为外滩大(dà)会讨论的热点话(huà)题。

　　今年的外滩大会上，举办(bàn)了(le)包括“afac2024金融智能创新大赛”和“全球Deepfake攻(gōng)防挑战赛”两场子赛事在内的AI创(chuàng)新大赛，由于近日韩国曝出“Deepfake”（深度伪造技(jì)术）事件，被认为是采用(yòng)新犯(fàn)罪(zuì)手段
的(de)“N号房”案(àn)件重现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观众的挑战。

　　事实上(shàng)，随(suí)着AI技术的发(fā)展，Deepfake滋生(shēng)欺诈等黑色产业链，AI换脸欺(qī)诈带来的经济财产损失、名誉受(shòu)损等事件正在成为全球挑战。

　　在外滩大会展区，许
多观众(zhòng)现场拍(pāi)照，然后利用Deepfake换脸(liǎn)模型和算法，通过视(shì)频活化、微(wēi)笑和眼镜模版对观众的真实照片进行(xíng)换脸，亲身感受
了Deepfake的逼真。

　　而在外滩大会(huì)AI创新赛·全球Deepfake攻防挑战赛的表演赛上，观(guān)众更是为(wèi)AI识别AIGC伪造图片感到激动(dòng)。在这场表演赛(sài)中，主(zhǔ)持(chí)人拿出 了9张玛丽(lì)莲梦露等(děng)女星的(de)照片，其中2张是AIGC伪造的，选手用自 己的参赛模(mó)型给出每张图片的伪造概(gài)率值，并对概率值最高的2张照片与正确答(dá)案进行(xíng)比对。最终，两支参赛队(duì)伍的模型都找到了正确答(dá)案。

　　在后续(xù)的互动中，一个有 趣的现(xiàn)象是(shì)，人类肉眼能够看出“一眼假”的(de)伪造(zào)图片，AI可(kě)能识别不出，一(yī)些肉眼真假(jiǎ)难辨的
图片，AI反而能识别。新(xīn)加坡科技研究局周天異教授分析，人类在判断(duàn)图像是否伪造会依赖直(zhí)觉和逻辑，一些人类一眼便知的(de)问题 AI无法联系相(xiāng)关背
景、情形无法识别(bié)，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地完成人类指令(lìng)的工作模式反而能找出问题。他表示，相比“一眼假(jiǎ)”的图(tú)片(piàn)，恰恰是这(zhè)些(xiē)难以识别的图片往往给人类带来更大损(sǔn)失，因此(cǐ)，用AI应对(duì)Deepfake有着重要意义。

　　“从我们现(xiàn)在(zài)看(kàn)到的(de)数据(jù)来看，我们叫Deepfake的(de)攻击也好，AIGC的生成伪造，今
外滩大会参会规模创新高，人们都在关注如何防止AI作恶年的攻(gōng)击量比去年(nián)大概增加(jiā)了10倍，去年攻击的浓度大概是1%，今年就(jiù)是10%。整个风险其实是呈指数级(jí)上升的情况，这不(bù)仅(jǐn)仅是(shì)在中国，在韩国，在菲律宾、印尼等国家都有类似的(de)情况发生。”外滩大(dà)会AI创(chuàng)新赛·全球Deepfake攻防挑战(zhàn)赛出题人、ZOLOZ技术总(zǒng)监姚伟斌表(biǎo)示(shì)，10%的浓度意味着业界发现线上的流量(liàng)有10%是Deepfake的流量，随着AIGC的发(fā)展，生成的成本(běn)会越来(lái)越低，效率越来越高，明年可能不是20%，可(kě)能是50%，这是
一个必须重视的(de)威胁(xié)。

　　更多引导AI向(xiàng)善的观点也在外滩大会被讨论，姚(yáo)伟斌坦言，研发检测算法，只是遏制Deepfake技术滥用的方式之(zhī)一。这种方式是相对(duì)滞后的。如果要从根源上防范欺诈行为，姚伟(wěi)斌认为应在标(biāo)准(zhǔn)和立 法角(jiǎo)度，要求(qiú)给A IGC 内(nèi)容建立通用标识，比如(rú)每一张AIGC生成(chéng)的视频或图片都在文件信息里带一个 签名(míng)或水印，这(zhè)样平台管(guǎn)理更有依据，也(yě)能让AIGC 可以更可(kě)信(xìn)。

　　“让人工智能帮助人弹钢(gāng)琴，而不是作恶。”是本届外滩大会反复强调的价(jià)值观。上海市数据科学重点实验室主任(rèn)肖(xiào)仰华表示(shì)，AI的大规(guī)模(mó)滥用是可(kě)能损(sǔn)害(hài)人之为人的本(běn)性的。要有所为(wèi)有所不为，但凡伤害人之为人之本性的AI应用，我(wǒ)们(men)要谨慎，要(yào)加以限制。为此，“我们要重视技术治(zhì)理，并(bìng)将治理提前(qián)考虑(lǜ)，做到未雨绸缪。”

　　浙江强脑科技创(chuàng)始(shǐ)人兼CEO韩璧丞则表示，AI伦理委员会的存在非常重要。技术前进的时候，更应该关注“走的慢”的人。“当一个足以改(gǎi)变世界的技术出现(xiàn)时，我们先用它来帮助(zhù)最需要的人”。

　　（本文来(lái)自第一财经）

责任(rèn)编辑：李桐

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 外滩大会参会规模创新高，人们都在关注如何防止AI作恶