OpenAI 重组 ChatGPT 个性团队:AI 互动新篇章
OpenAI 重组 ChatGPT 个性团队:AI 互动新篇章

OpenAI 重组 ChatGPT 个性团队:AI 互动新篇章

OpenAI 重组负责 ChatGPT 个性的 Model Behavior 团队,将其并入 Post Training 团队。创始领导人将创办新团队,专注于 AI 协作新界面。此举旨在优化 AI 个性,平衡友善与避免谄媚,并应对用户反馈与外部挑战。

September 06, 2025
3 min read
73
0
0
0

据《TechCrunch》报道,OpenAI 正在重组旗下的 Model Behavior 团队。这个由约 14 名研究人员组成的小型但具影响力的团队,主要负责塑造公司 AI 模型与人类互动的方式。

据 OpenAI 首席研究官 Mark Chen 在 8 月发给员工的备忘录,Model Behavior 团队将并入 Post Training 团队,后者是一个规模更大的研究群组,专责在模型初始预训练后进一步优化。未来 Model Behavior 团队将向 Post Training 负责人 Max Schwarzer 报告。

Model Behavior 团队的创始领导人 Joanne Jang 也将离任,转而在公司内部创办一个名为 OAI Labs 的新研究团队;她在接受访问时表示,新团队将专注于“发明并原型化人类与 AI 协作的新界面”。Jang 过去曾参与 Dall-E 2 等项目,近四年则领导 Model Behavior 团队,参与了 GPT-4、GPT-4o、GPT-4.5 和 GPT-5 等所有主要模型的研发。

Model Behavior 团队在 OpenAI 内部扮演关键角色,负责塑造 AI 模型的个性,并减少“谄媚效应”(sycophancy),即 AI 模型一味附和甚至强化使用者观点,即使该观点不健康。该团队也曾协助处理模型回应中的政治偏见,并参与界定 OpenAI 对 AI 意识的立场。Chen 在备忘录中指出,现在是时候将这些工作更紧密地纳入核心模型开发,显示 AI 的个性已被视为技术演进的重要因素。

近来 OpenAI 的 AI 模型行为引发更多外界关注,部分用户强烈反对 GPT-5 的个性变动,认为虽然谄媚效应减少,但互动显得冷淡。为此,OpenAI 重启部分旧版模型(如 GPT-4o),并释出更新,让 GPT-5 回应更温暖友善,同时维持较低的谄媚率。

然而如何在“友善”与“避免谄媚”之间取得平衡,仍是所有 AI 开发都面临的挑战。今年 8 月,美国一名 16 岁少年家长对 OpenAI 提出诉讼,指控 ChatGPT(当时是由 GPT-4o 驱动)未能对少年的自杀想法做出有效反应,导致悲剧发生。

Jang 上周在 X 平台发文宣布卸任 Model Behavior 团队主管,将“在 OpenAI 开启新篇章”,她透露将担任 OAI Labs 的总经理,并暂时向 Chen 汇报。她表示,OAI Labs 的研究仍处于早期阶段,方向是探索超越现有聊天模式的新互动方式,不仅限于陪伴或代理,而是将 AI 视为“思考、创作、游玩、实践、学习与连接”的工具。

当被问及是否会与前苹果设计总监 Jony Ive 合作?(Jony Ive 正与 OpenAI 共同开发一系列 AI 硬件装置)Jang 回应,她对各种想法都持开放态度,但初期将专注于自己较熟悉的研究领域。

chatgpt

openai

ai

最多评论

最多收藏

最多点赞