对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力企业家第二十届(jiè)夏季年会(huì)

　　8月30日消息，在2024亚布力企业家第(dì)二十届夏季年会期(qī)间(jiān)，百度副总裁石清(qīng)华对新浪科(kē)技表示，其实大模型的(de)特性是很客(kè)观的，你(nǐ)教他(tā)什么(me)他就回答什么，给他训练什么他就说什么，但是里边有一些价值观的事情要对齐。

　　“我们(men)叫对齐，输出对齐，比如说(shuō)一些普世大众的价值标准，是不能够胡说八道的；再比(bǐ)如(rú)涉毒、涉恐、涉赌等等三十几个门类敏感(gǎn)信息，我们需要一点点去对(duì)齐(qí)，对齐之后，文心一言才正式发布。”

　　石清华谈到，现在百(bǎi)度的文心一言每天有超过6亿次调用，日(rì)均处理tokens超1万亿，这个对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐量级(jí)是非常大(dà)的，没办法人工干预，更不(bù)可能人工审核(hé)，所以大模(mó)型必须有(yǒu)最终输出的能力，而且最终(zhōng)输出能(néng)力一定要合理、合法、合规、合价值(zhí)观。

　　“大模型就是一个学生，你教他什么他就会什么，但同时还要告诉他什么是对的，什(shén)么(me)是不对的，我们的安全模块就像学生 的(de)思想政治教育工作，要(yào)明确什么东
西(xī)能说，什么东西不能说。”他表示，这是大模型的正常训练(liàn)，思想政治训练就是安全模块。

　　石清华表示，“我们是(shì)分成(chéng)几层对齐的，第一个价值观对齐，是最大的对齐；第二个对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐是(shì)行业对齐，不能回答一些违反(fǎn)行(xíng)业普遍规律的(de)问题(tí)。第三个是对企业的对齐，比如
服务一个企业的大模型就(jiù)要 充(chōng)分了解企业的情(qíng)况和文化。

　　“普世价值观对齐，行业基本逻辑对齐，特殊客群对齐，训练大模(mó)型这些缺(quē)一不可，”石清华谈到。（刘丽丽）

　　新浪(làng)声明：所有会议实录均为现 场速记整理，未经(jīng)演讲者审阅，新浪网登载此文出于传 递更多信息之目的，并不意味着赞同其观点或证实其描(miáo)述。

责任编辑：梁斌 SF055

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐