周鸿祎谈大模型出错：可能会在某些时候
口 出乱言，建议用户宽容一点

专题：2024亚布力企业(yè)家第二(èr)十届(jiè)夏季年会

　　新浪科技(jì)讯(xùn) 8月31日下午消(xiāo)息，2024亚布(bù)力企业家第二十届夏季年会在广(guǎng)州(zhōu)举行(xíng)。论坛期间，在东(dōng)方甄(zhēn)选直播间，新东方教(jiào)育科技集团董事长俞敏洪
与多位企业家对话。360集团
创始人、董事(shì)长周鸿(hóng)祎在直播间谈到国内人工智能发(fā)展 面临(lín)的(de)主要挑战。

　　周鸿祎表示，有一个挑战是对错误(wù)，对(duì)创(chuàng)新(xīn)的宽容、理解和和包容(róng)。他表示，人(rén)工智能一定会出错，但不(bù)知(zhī)道它在什么情 况下(xià)会莫名其妙的(de)出错。

　　“所以这里面有两种可能，一(yī)种是(shì)大模型自身周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点line-height: 24px;'>周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点会产生幻觉，”他认为，幻觉是大模型(xíng)真(zhēn)正 有智力的一(yī)种体现，这是它先天决定的。

　　周鸿祎表示(shì)，也研究了对付幻觉的(de)方法(fǎ)，比如说用(yòng)知识(shí)对齐，也就是当大模型产生内容之(zhī)后，去找内容来做对标，但这里面又会(huì)有一
个(gè)陷阱，就是曾几何时我们都认为(wèi)网上的(de)内容都是对的，只要是印成印刷体的内容都是对的，所以用搜索引擎(qíng)来做对齐，但现在发现网上也有很多内容被(bèi)污染了或者被“投毒(dú)”了。

　　“比如，如果网上(shàng)贴了很多关于俞老师的负面(miàn)，完全是无中生有，但(dàn)这个帖子又没(méi)被删掉，就会被(bèi)当成事实(shí)，进入事实库之后，可能大模型就开始乱说俞老师的坏话。”他还谈到，Google最近也犯了这样的错误，有人在Google里问怎么吃石头，Google就认真回答说吃石头要磨细了(le)吃，咽不下的(de)时候还用(yòng)水来送服，石头有很丰富的营(yíng)养，就成为一个丑(chǒu)闻。原来谷歌是从一个社区论坛抓取的内容，那里有(yǒu)人恶搞(gǎo)，模拟科普文章，写了如何(hé)吃石(shí)头，然后就被谷歌抓取了，谷歌就认(rèn)为(wèi)这(zhè)个文章都是对(duì)的。

　　周鸿(hóng)祎指出
，以后在网上还需要解决的问题(tí)是用大模型(xíng)来判断内容到底对(duì)不对，但前提是要有一些对的内容，那就需要(yào)人工(gōng)筛选一些内容。

　　他认为，未来(lái)随着大模(mó)型(xíng)用的(de)越来越多之(zhī)后，一定会在回答(dá)某些(xiē)问题的时候可能口出乱言，碰到这种情况，建议用户还是宽容一点(diǎn)，发现漏洞可以主动通知(zhī)对(duì)方去修正(zhèng)，而(ér)不是大肆渲染，变成巨大的事件。

　　新浪声明：所有会议实录均为现场速记整理，未经(jīng)演讲
者审阅，新浪网登载此文出于传递更多信息之(zhī)目的(de)，并不意味着赞(zàn)同其观点或证(zhèng)实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点