外滩大 会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩(tān)大(dà)会正式闭幕。事实上，这一天下午，距离大会闭(bì)幕几个小时前 ，仍(réng)有观众在排队入(rù)场。官方数据(jù)显示，本届大会共吸引了5.2万人现场参会，无论是 参会规模还是国际嘉宾(bīn)的数量，均创下了(le)历史新高。除了(le)年轻人，记者注意
到，观众队伍中还有不少老人、小孩。

　　本(běn)届外滩大会以(yǐ)“科技·创(chuàng)造可(kě)持续(xù)未来(lái)”为(wèi)主题，包(bāo)括(kuò)36场开放见解论坛、10多
场创新(xīn)者舞台、2场AI创新赛事、1场(chǎng)10000平(píng)方米的展览以及1场绿色生活节和1场科技人才招聘 会。据统计，三天时间内，有30余项AI新成果在本届外滩大(dà)会发布，包括(kuò)蚂蚁AI生活管家“支小宝”、AI金融(róng)管家“蚂
小财(cái)”，AI健康管家等。

　　10000平方米(mǐ)的展览(lǎn)场(chǎng)地(dì)汇集了众多(duō)企业参(cān)展，记者观察到，相比往(wǎng)年，准(zhǔn)备(bèi)各类装备体验(yàn)、互动(dòng)的厂商越来越多 了 ，许多展台前，观众为参与体验排起长队(duì)。重(zhòng)视人文性，成为本届外滩大会(huì)的一(yī)大特点。除了开幕式上24岁的(de)独臂男孩周键借智能仿生手(shǒu)演奏钢琴(qín)的动人瞬间，在(zài)外滩大会的展区，借助设备(bèi)观众可以体验将脑(nǎo)电(diàn)波以花朵的形(xíng)式可视化，让瞬间的(de)情(qíng)绪(xù)形成纪念。还有可实现“拥抱传递”的设备，穿戴上内(nèi)嵌人(rén)造肌肉纤维的特制背心，当另一个人拥抱装有压力传感器的模型时，体验者便能感受到模(mó)拟其声控、触觉反馈和温度调节(jié)等(děng)多种感官元素的“远程拥抱”。

　　在这一年的外滩大会上，如何让“技术向善”的讨(tǎo)论和研发更加被业界(jiè)重视。

　　AI医疗受关注

　　为期三天的展览中，AI医疗的相关产品、企业展台总有(yǒu)着最多的(de)人流量(liàng)，“爸妈记忆力下降了怎么办？”“AI如何辅助癌症(zhèng)筛查？”这些(xiē)问题让不少观众不自觉就迈入了相关展(zhǎn)区，不断有(yǒu)老人加入 脑健康检测(cè)，有年轻人加入脑电波的“画图”。

　　“和去年相比，今(jīn)年外(wài)滩大会AI人工智能的(de)份额(é)感觉更高了，而且不是像之前傻乎乎的那种，今年(nián)的很多应用是真的有(yǒu)用的，明显(xiǎn)能(néng)感觉到算法提升了很多，比如说面(miàn)部识别功能或者语音(yīn)交互功能，都感觉(jué)上升了一个(gè)档次，效果(guǒ)变(biàn)好了，所以大家体验的
热情也高。”一位参会的展商对记者表示。

　　来不及喝口水，达摩院 AI医疗展(zhǎn)台的工作人员(yuán)就迎来了下一位咨询的观(guān)众，今年的外滩大(dà)会上，达摩院医疗AI实验室展出了其AI医学(xué)影像(xiàng)分析产(chǎn)品，借(jiè)助AI技术，这项产品能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌(ái)等(děng)八大(dà)癌症及一系列 慢性病的筛(shāi)查，吸引(yǐn)了不(bù)少观众(zhòng)。

　　展(zhǎn)台的工(gōng)作人员告诉记者，通过AI识别，这项产品能够在肝癌(ái)、肺癌等(děng)癌症筛查中达到90%以上(shàng)的准确率，提升 医生的工作(zuò)效率，补足(zú)一
些医(yī)疗资源(yuán)不均衡带(dài)来的问(wèn)题。

　　“其(qí)实这(zhè)项技术主要
是面向B端(duān)的，为医 生服务(wù)，客户更多是医院(yuàn)、体验(yàn)机(jī)构、保险公司、公益(yì)组织以及软(ruǎn)件厂
商之类的，但这两天很(hěn)多个人也(yě)非常感兴趣。”上述工作人员表示。尽管许多AI医(yī)疗(liáo)产品并外滩大会参会规模创新高，人们都在关注如何防止AI作恶未 直接面向(xiàng)C端用户，但外(wài)滩(tān)大会(huì)的(de)观众们对(duì)AI医疗将如何改变(biàn)疾病(bìng)的诊治感到好(hǎo)奇。

　　博斯腾科
技的展台则吸引到(dào)了大量的老年观(guān)众，许多老人纷(fēn)纷(fēn)拿出手机通过支付宝“碰 一碰”进行答题，检测自己得阿尔兹海默病的风险指数。展区的工作(zuò)人(rén)员介绍，通过许多数据、资料的支撑，这(zhè)款(kuǎn)产品能够通 过答题测验、语音交互、动作识别等方式(shì)检测阿(ā)尔兹(zī)海默(mò)病，并通过大模型生(shēng)成用户专(zhuān)属的脑健康(kāng)训练(liàn)计划。

　　“我们的产品2020年成型，但借助摄像头的(de)动态识别(bié)功能是今年刚(gāng)推出的，主要是借力于(yú)AI功能的发达，包括训练方(fāng)案的推(tuī)荐，也的
确在大模型出现后
智能了很多。”该展区的工作人员告诉(sù)记者。随着AI的发(fā)展，更多AI医疗产品的“进化”值得期待(dài)。

　　需要强调的(de)是，目前，许多AI医(yī)疗产品的诊疗效果(guǒ)仍缺(quē)乏公开数据或第(dì)三方权威机构(gòu)的验证(zhèng)，相关展台(tái)的工作人员也均表(biǎo)示AI医疗产品无法完全代替医生诊疗需求，以辅助作用(yòng)为主。不过，AI在医疗(liáo)问题中的应用的确被业界期(qī)待。

　　不少大厂也在押注AI医疗(liáo)赛道。外滩大(dà)会上，支付(fù)宝发布AI应用新产品(pǐn)“AI健康管家”，为用户提供找医生、读(dú)报告(gào)、陪(péi)看(kàn)诊、问医保、管健康等30多项AI健康(kāng)服务。百川智能(néng)创始人王小川(chuān)则(zé)介绍，百川智能将重点(diǎn)在大(dà)医疗AI领域做投入，从儿科医生、全科医生两个切入点发力，希望在明年实现医疗的(de)低成本和(hé)可及性，减少医院的挤兑现象(xiàng)。

　　全国(guó)政协常(cháng)委周汉民在外滩大会(huì)的一场论坛中表(biǎo)示，随着人工智能等新技术的不断发展和应用，医疗产业正迎来(lái)一(yī)场(chǎng)深刻的变(biàn)革。据他观察，从最初的影(yǐng)像诊断、辅助诊疗、基因检测，到近年来的药(yào)物发现(xiàn)、临床(chuáng)试验、健康管理(lǐ)等，人工智能在提高精准度与(yǔ)效率、个性化治疗、数(shù)据处理等方面具备显著优势。他指出，医疗健康与(yǔ)人工智能的融合还延伸到了中医领(lǐng)域。

　　谈及人工(gōng)智能在医疗产(chǎn)业的(de)应用(yòng)情(qíng)况，周汉(hàn)民表示，人工(gōng)智能在医疗健康产(chǎn)业的应用(yòng)应着力提高精准性、适用性和安全性，此外，还需关注人(rén)工智能的(de)引入是否(fǒu)会导致医护(hù)人员技能萎缩(suō)、对(duì)人工智能的信任的(de)误判以
及信息(xī)超载。

　　以AI对抗AI

　　在期(qī)待技术带来美好生(shēng)活的同时，如何预(yù)防技术“作恶(è)”也成为外滩大会讨论的(de)热点话题。

　　今年的外滩大会上，举办了包括“afac2024金融智能创(chuàng)新 大赛”和“全(quán)球Deepfake攻防挑战(zhàn)赛”两场(chǎng)子赛事在内的AI创新大赛(sài)，由(yóu)于(yú)近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采(cǎi)用(yòng)新犯罪手段的“N号房(fáng)”案件重现，以AI对抗AI，Deepfake攻防外滩大会参会规模创新高，人们都在关注如何防止AI作恶挑战赛(sài)尤其受到观众(zhòng)的挑战。

　　事实上
，随着AI技术的发展(zhǎn)，Deepfake滋(zī)生(shēng)欺诈等黑色产业链，AI换脸欺诈带来的(de)经(jīng)济(jì)财产损(sǔn)失、名誉受(shòu)损等事件正在成为全球挑战。

　　在外(wài)滩大会展区 ，许多观众现场拍(pāi)照，然后利用Deepfake换(huàn)脸模型和算(suàn)法，通过视频活化、微笑和眼镜模版对观众的真实照片进行换脸，亲身(shēn)感受了Deepfake的逼(bī)真。

　　而(ér)在外滩大会AI创新赛·全(quán)球(qiú)Deepfake攻防挑战赛的表演(yǎ外滩大会参会规模创新高，人们都在关注如何防止AI作恶n)赛上，观众更是为AI识别(bié)AIGC伪(wěi)造图(tú)片感到(dào)激动(dòng)。在这场表演赛中，主持(chí)人拿出了9张玛丽(lì)莲梦露等女星的照片，其中2张是AIGC伪(wěi)造的，选手用(yòng)自己的参赛模型给出每张图片的伪造概率值(zhí)，并对概率值最高(gāo)的2张照片与正确答(dá)案进行比对。最终，两支参赛队伍(wǔ)的模型都找到了正确答案(àn)。

　　在后(hòu)续的(de)互
动中，一个有趣的(de)现象是，人类肉眼能够(gòu)看出“一眼假”的伪造(zào)图片，AI可能识别不出，一些肉(ròu)眼真假难辨(biàn)的图片，AI反而能识别。新加(jiā)坡科技研究局周天(tiān)異教授(shòu)分析，人类在(zài)判断图像是否伪造会(huì)依赖直觉和(hé)逻辑，一些人类(lèi)一眼便
知的问题AI无法联系相关背景、情(qíng)形无法识别，而一些(xiē)难以(yǐ)识别的图片，AI一丝不苟、勤勤(qín)恳恳 地完成人类指令(lìng)的工作模式反(fǎn)而能找出问题(tí)。他表示，相比“一眼假”的图片，恰恰是这些难以识别的图片往 往给人类带来更大损失，因此(cǐ)，用AI应对Deepfake有着重要(yào)意义。

　　“从我们现在(zài)看到的数据来看，我们叫Deepfake的攻 击也好，AIGC的生成伪造，今年
的攻击量比去年大概(gài)增加了10倍，去(qù)年攻击的浓(nóng)度大(dà)概是1%，今年就是10%。整个风险其实(shí)是呈指(zhǐ)数级上升的情况，这(zhè)不仅(jǐn)仅是在中国，在韩国，在菲律宾、印尼等国(guó)家都(dōu)有类似的情况发(fā)生。”外滩大(dà)会AI创新赛·全(quán)球(qiú)Deepfake攻防(fáng)挑战赛出题人、ZOLOZ技术总监(jiān)姚伟斌表(biǎo)示，10%的浓度意味着业界发现(xiàn)线上的流量有(yǒu)10%是Deepfake的流量，随着AIGC的(de)发(fā)展，生成的(de)成本会越来越低，效(xiào)率(lǜ)越来(lái)越高，明年可能不是20%，可(kě)能是50%，这是 一个必须重视(shì)的威胁。

　　更多(duō)引导AI向善的观点也在外滩大会被(bèi)讨(tǎo)论，姚伟斌坦言，研发检测算法，只是遏制Deepfake技术滥用(yòng)的(de)方式之一。这种方式是(shì)相对滞后的。如(rú)果要(yào)从根源上防范欺诈行为，姚伟斌认为(wèi)应在标准和立法角度，要求给(gěi)A IGC 内容建立通用标识，比如每(měi)一张AIGC生成的(de)视频或图片都在文件(jiàn)信息里带一个签(qiān)名或水印，这样(yàng)平台(tái)管理更有依据，也(yě)能让AIGC 可以更可信。

　　“让人工智能帮助人弹钢琴，而不是作恶。”是本(běn)届外滩大会反复强调的价值观(guān)。上海(hǎi)市(shì)数(shù)据科学重点实验(yàn)室主任肖仰(yǎng)华(huá)表示，AI的大(dà)规模滥用是可能损害人之(zhī)为人的 本性(xìng)的。要有所为有所不为，但凡伤害人之(zhī)为人之本性(xìng)的AI应用，我们要谨慎，要加(jiā)以限制。为此，“我们要重视技(jì)术治理，并将治理提前考虑，做到未雨绸(chóu)缪。”

　　浙江强脑科技(jì)创始人兼CEO韩璧丞则表示，AI伦(lún)理委员会的存在非常重要。技术前进的时候，更应该关注“走的慢”的人。“当(dāng)一个足以改变世(shì)界的技术(shù)出现时，我(wǒ)们先用它来帮助最(zuì)需要的人”。

　　（本文来自第一(yī)财经(jīng)）

责任编(biān)辑(jí)：李桐

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 外滩大会参会规模创新高，人们都在关注如何防止AI作恶