AI 教父辛顿谈 Google 与 OpenAI 在安全策略的差异

日前上线的 Diary of a CEO Podcast 节目，人称 AI 教父的辛顿（Geoffrey Hinton）深入探讨 Google 与 OpenAI 在 AI 安全策略上的关键差异。

Google 推出 AI 聊天机器人时，由于担心损害公司良好声誉，选择较为保守的策略。辛顿指出，Google 在 2023 年 3 月推出名为 Bard 的 AI 聊天机器人，随后将其整合至大型语言模型 Gemini 当中，这一切是在 OpenAI 2022 年底发表ChatGPT 之后的追赶行动。

辛顿强调，OpenAI 能够更快行动的原因在于该公司不具备像 Google 那样的声誉，因此能够承担风险。他回忆起 Google 的 AI 负责人在 ChatGPT 发表后的全员会议曾表示，Google 不打算立即推出 AI 聊天机器人，因为这涉及声誉风险。

此外，Google DeepMind 执行长哈萨比斯（Demis Hassabis）今年 2 月仍指出，AI 可能带来长期风险，并呼吁建立一个监管机构来监督 AI 的专项。自 Gemini 推出以来，这套 AI 系统曾出现一些明显错误，并在生成的文字和图像透露偏见。 Google  董事长皮查伊（Sundar Pichai）就在内部备忘录承认公司犯错，并承诺改进。

辛顿在 Google 工作十多年，对公司内部决策有着深刻了解。对于 Google 的行为，辛顿认为「他们实际表现是非常负责任」。

至于 OpenAI，辛顿表示不太确定，因为他从未在 OpenAI 工作过。当被问及OpenAI 执行长奥特曼（Sam Altman）是否拥有良好的道德准则时，「我们拭目以待」，由于辛顿自己并不认识奥特曼，因此无法进一步评论。

OpenAI 近来因为安全策略的转变受到批评，在一篇官方社区文章写道，只有确保不会实质增加严重伤害时，才会改变安全要求。奥特曼也在 TED 2025 访谈为 OpenAI 安全策略辩护，强调其准备框架是针对「我们认为最重要的危险时刻」所设计。