对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力企业家第二十届夏季年(nián)会

　　8月30日(rì)消息，在2024亚布力企业家第二十届夏季年会期间，百度副总裁石清华对新浪科技表示，其实(shí)大(dà)模型的特性是很客观的，你教(jiào)他什(shén)么他就回答什么(me)，给他训练什么他就(jiù)说什么，但是里边有一些价值观的事
情要对齐。

　　“我们叫对齐，输出对齐，比如说一些普世大众的价值(zhí)标准(zhǔn)，是不能够胡说八(bā)道(dào对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐)的(de)；再比如(rú)涉(shè)毒、涉恐、涉(shè)赌等等(děng)三十几个门类敏感信息，我们需要一点点去对齐，对齐(qí)之后，文(wén)心一言 才正式发(fā)布(bù)。”

　　石清华谈到，现在百度的文心一言每天(tiān)有超 过6亿次调(diào)用，日均处理tokens超1万亿，这个量级是非(fēi)常大的，没办法人工干预，更不可能人工审核，所以大模(mó)型必须有最终输出的能力，而且(qiě)最终输出(chū)能力一定要合理、合法、合规、合价值观。

　　“大(dà)模型就是一个学生，你 教他什么他就会什么，但同时还要告诉他什么(me)是对(duì)的，什么(me)是不对的，我们的安全模块就像学 生的思想政治教育工作(zuò)，要明(míng)确什么东(dōng)西(xī)能说，什(shén)么东西不(bù)能说。”他表示，这是大模型的正常(cháng)训练，思想政治(zhì)训
练就是(shì)安全模块。

　　石清华表示，“我们是分成几层对齐的
，第一个(gè)价值观对齐，是最(zuì)大的对齐；第(dì)二个是行业对齐，不能回答一些违反行业普遍规律的(de)问题(t对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐í)。第三个是对企业的对齐，比如服务(wù)一个企业的大模型就要充分了解企业的情况(kuàng)和文化。

　　“普世价值观
对(duì)齐，行业基本逻辑对齐，特殊客群对齐，训练(liàn)大模(mó)型这些缺一(yī)不可(kě)，”石清华谈到。（刘丽丽）

　　新浪(làng)声明(míng)：所(suǒ)有会议实录均为现场速(sù)记整理，未 经演讲者审阅，新(xīn)浪网登载此文出于传递更多信息之目的，并(bìng)不意味着赞同其(qí)观点或证实其描述。

责任编辑：梁(liáng)斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐