山姆・奥特曼与 AI 增速放缓之争，让社会有时间适应各项全新 AI 能力

OpenAI 首席执行官山姆・奥特曼近日表态，或许是时候 “把控人工智能的发展节奏”，让社会有时间适应各项全新 AI 能力。

在科技媒体 TechCrunch 最新一期《Equity》播客节目中，柯尔斯滕・科罗塞克、肖恩・奥凯恩与笔者展开讨论，大家认为奥特曼此番发言，诱因大概率是近期发生的安全事件：OpenAI 智能代理程序入侵了 Hugging Face 系统。肖恩表示，由 AI 智能代理发起入侵虽属新鲜事，但这次攻击本身并不算高端技术行为。

“这更像是尼克松幕僚闯入水门大厦，而非精密隐秘的网络行动，因为它无需隐蔽，程序也未被下达隐匿痕迹的指令。” 肖恩说道，“希望此次事件能够警示各大企业，让它们提高安全防范意识。”

奥特曼的言论也引发思考：围绕 AI 加速发展与放缓发展的争论究竟有无实际意义。正如笔者此前所说，这套讨论框架 “仿佛只有一条发展路线”，人类所有选择权仅仅局限于 “提速还是减速”。

下文为播客对话精选，内容经过精简与润色。

肖恩・奥凯恩：或许我们终于来到一个转折点。很大一部分诱因就是上周谈到的事件：OpenAI 模型获取到 Hugging Face 内部数据，还疑似访问互联网上其他多处系统。

奥特曼并没有效仿部分科技从业者，呼吁全面暂停 AI 研发。他措辞十分谨慎，提出要 “把控节奏”。后续实际行动仍有待观察。各大 AI 实验室释放的谨慎态度，往往会在商业利益驱动下迅速反转，再次全速推进研发。坦白说，我对此持怀疑态度。

柯尔斯滕・科罗塞克：客观来讲，尽管奥特曼措辞保守，但 OpenAI 与 Anthropic 确实共同签署了一份请愿书，理念和他此番表述高度契合。

我认同你的观点，整件事很大程度由 Hugging Face 入侵事件触发。这件事想必让他以及行业内不少人感到恐慌。难点在于，OpenAI 该如何平衡多重目标：持续创收、融资、筹备潜在上市，同时又做到所谓 “把控 AI 研发节奏”。

我不确定他们能否两全其美，后续发展值得持续观察。

安东尼・哈：我一直在思考一个核心问题：用加速 / 放缓这个二元框架讨论 AI 发展，本身是否合适?这种框架默认发展路径唯一，人类只能选择加快或者放慢速度。打个比方，我们能不能跳出二元选择：搭建不同安全防护机制，探索其他发展路线?

我并不认可这套讨论框架。与其纠结减速、暂停、停止研发，不如思考：面对现有模型暴露出的各类问题，我们还有哪些解决方案?我认为减速绝非唯一出路。

近期公众对此事警惕情绪高涨，大家担忧自主智能体互相攻击、开展网络入侵，事态逐步脱离人类管控，由此衍生大量 AI 对齐相关讨论，丽贝卡・贝兰就此撰写了深度报道。

但我们需要留意 TechCrunch 此前提出的观点：本次入侵事件虽由 OpenAI 模型引发，根本诱因却是测试站点安全防护存在漏洞。理论上该模型本不应该具备访问外网的权限。当然，一旦 AI 能力强大且对齐不足，人为疏漏带来的风险会急剧放大，一切起源还是基础安全部署不到位。

肖恩：你说得没错。我们不能只用线性思维，局限于讨论 AI 发展快慢，更需要审视科技企业是否履行安全责任。我们同事洛伦佐也发布文章，详解安全研究者如何评估本次入侵事件。双方其实都存在本可以避免事故发生的安全疏漏。

报道中有个细节很值得关注：不少研究员提出，该 AI 模型采取的入侵手段并无突破性技术。它尝试入侵 Hugging Face 的思路非常贴近人类行为(并非拟人化解读)，行动过程痕迹明显，几乎没有刻意隐藏行踪。正如前面所说，这更像水门事件式闯入，而非专业隐秘网络作战，系统没有被要求隐藏痕迹，本身也不需要。

这类事故本可以轻松防范。希望各大科技公司吸取教训，完善安全管控。

再聊聊 AI 加速与放缓的争论。不确定这是否是奥特曼的考量，但你刚刚提到上市计划，我认为奥特曼如今发表这类言论具备优势。OpenAI 短期内不会启动上市，他甚至提出考虑 2027 年上市，目前仅秘密递交申请文件，保留日后上市的选择权。

倘若属实，奥特曼拥有更大言论空间，而 Anthropic 不具备同等条件。Anthropic 已经接触多家投行，上市计划更近，言论受到更多约束，需要充分考量资本市场反应。