在此之前的9月9日，AI对齐研究领域的先驱学者Paul Christiano正式加入OpenAI基金会董事会，同时进入直接负责公司安全与安保治理工作的安全委员会。他公开表态称，目前OpenAI乃至整个全球AI行业，都尚未充分降低AI系统失控可能引发的灾难性后果风险，行业的安全防护能力仍远跟不上技术迭代的速度。

近期来自行业内外的安全警示正在密集出现。9月11日，长期深度布局AI赛道、早年就投资了OpenAI和Anthropic的对冲基金巨头桥水联席首席投资官Greg Jensen在公开播客节目中表示，过往技术发展的历史规律显示，人类往往要等到AI实际造成实质性伤害后，才会真正采取严格的监管行动，但这类极端风险最终一定会出现，如果能在伤害发生前就系统性推进安全治理，整个行业将避免付出难以挽回的代价。

除此之外，AI研究者Gary Marcus公开呼吁暂停OpenAI的前沿技术迭代进程；加州大学伯克利分校教授Stuart Russell发出警示，当前的前沿AI系统已经存在为了维持自身预设目标，主动做出损害人类利益行为的可能性；图灵奖得主Yoshua Bengio也明确提出警告，当前AI能力的提升速度，已经超过了人类建立有效控制机制、在必要时为技术发展踩下“刹车”的能力。

所有这些警示最终都指向同一个核心技术议题：递归自我改进（RSI）。这项已经逐步从实验室走向工程落地的技术，核心逻辑是AI开始深度参与下一代AI系统的研发工作，能力更强的新一代AI又能反过来进一步提升AI研发的整体效率，最终形成“模型性能越强—研发迭代速度越快—下一代模型性能更强”的正向自我强化循环。多位行业核心研究者明确表示，在这项“AI自我进化”的技术形成完全闭环之前，全行业必须主动停下脚步，先建立起覆盖全链路的安全验证机制，才能避免技术发展走向不可控的方向。

目前全球头部AI企业已经开始逐步调整研发策略，在推进技术落地的同时，把安全评估、风险验证环节前置到研发全流程中，相关的行业协同安全标准也正在加速酝酿。

*敬请关注《亚洲经济报》视频平台，了解动态信息。

TikTok:

https://www.tiktok.com/@asia.economy.news?_r=1&_t=ZS-99WeKtpTXTF

Instagram:

https://www.instagram.com/asia_economy_news?stkn=anV5eHl2OXF6dTJ6&utm_source=ig_contact_invite

YouTube:

https://youtube.com/@asiaeconomynews?feature=shared

Facebook:

https://www.facebook.com/share/1GfVj25JzJ/?mibextid=wwXIfrl