【导语】OpenAI正重组模型行为团队，14人研究小组将并入后训练团队，持续优化模型。此前GPT-5性格调整引发用户争议，OpenAI重新开放旧模型并更新GPT-5。此外，针对大模型幻觉问题，OpenAI提出新方案，鼓励模型“承认不知道”。

OpenAI 正在重组其模型行为（Model Behavior）团队。据媒体日前报道，OpenAI 的首(shǒu)席(xí)研(yán)究(jiū)官(guān) Mark Chen 透(tòu)露(lù)，大(dà)约(yuē)由(yóu)14名研(yán)究(jiū)人(rén)员(yuán)组(zǔ)成(chéng)的(de)模(mó)型(xíng)行(xíng)为(wèi)团(tuán)队(duì)将(jiāng)加(jiā)入(rù)后(hòu)训(xun)练(liàn)（Post Training）团(tuán)队(duì)，负(fù)责(zé)在(zài)模(mó)型(xíng)完(wán)成(chéng)预(yù)训(xun)练(liàn)后(hòu)持(chí)续(xù)改(gǎi)进(jìn)。

模(mó)型(xíng)行(xíng)为(wèi)团(tuán)队(duì)已(yǐ)经(jīng)成(chéng)为(wèi)OpenAI的(de)关键研(yán)究(jiū)小(xiǎo)组(zǔ)之(zhī)一，主要负责塑造模型的“性格”。今年8月推出的GPT-5减少了类似“谄媚”“过度迎合用户”的现象。

但部分用户强烈不满GPT-5的性格调整，认为其过于冷淡。最终，OpenAI 重新开放了对 GPT-4o 等旧模型的访问，并更新 GPT-5，使其回答在保持独立性的同时更温和、友好。

OpenAI近期也在最新研究中讨论如何减少大模型幻觉问题，让模型变得越来越聪明。OpenAI认为，大语言模型之所以会产生幻觉，是因为标准的训练和评估程序更倾向于对猜测进行奖励，而不是在模型勇于承认不确定时给予奖励。大多数评估方式只关注模型答对的比例，鼓励模型进行猜测，而忽略了“承认不知道”也是一种合理反应。例如，当模型被问及某人的生日，如果它随意猜测一个日期，那么它有1/365的概率猜对，而留空则肯定得零分。大型语言模型本质上总是处于“考试模式”，回答问题时似乎只有正确或错误，黑色或白色。因此，OpenAI提出了一个简单的解决方案：对自信的错误回答施加更重的惩罚，而对表达不确定性的行为给予部分分数。