比尔·盖茨最近几个月一直在各地巡回演讲，发表对AI技术革命的看法，做客TheVerge播客节目时再次提醒人们：

· AI是人类所有发明中最危险最具影响力的技术，核武器什么的无法与之相比。

· 近期风险包括网络攻击与生物恐怖袭击，但长远来看，AI还会对白领知识型工作岗位、蓝领体力岗位、社会关系、战争形态构成颠覆性冲击。

· 尽管行业内部对此有许多探讨并就此达成某些共识，但局外人与公众甚至决策者，认识程度与重视程度仍远低于应有水平。

· 面对激烈的市场竞争，企业自身理想与道德操守无法长期维持。无论理想多美好，治理架构多么完善，在竞争压力面前会逐渐退化，让位于生存压力与盈利要求。因此，安全责任不能推给企业让它们看着办，当前事故通报全凭自觉自愿的管理方式不足以应对史上最危险大杀器。

· 对齐度仍然是一个问题，当前的训练方法仍会导致意外与欺骗行为，如何使AI遵循人类道德标准仍然存在很多问题。盖茨提出，也许有必要从根本上改变模型构建方式，寻找强化学习之外的替代方案；同时深入理解模型内部运作机制，并用强制安全层限制模型权限。

· 正如公司之间的竞争会削弱公司内部约束机制，国与国之间的竞争也可能使某一方铤而走险。盖茨对气候变化成为党争政治武器深感痛心，他担心各方也将对AI的态度化作争取支持率的武器。各党派、各国政府应秉承中立与理性立场来看待AI威胁。

如果还有人对AI威胁不以为然，可以看看最近风起云涌的逆向工程浪潮。黑客在AI工具的帮助下，不仅破解了PS5，还攻破了Switch 2，并借助强大的AI模型找到并试图利用一个历史悠久的PHP漏洞，导致许多网站下线甚至信息泄漏，得到AI加持的黑客已在0Day竞逐中取得优势。

将AI与3D打印机相结合，能帮助用户逃脱监管制造枪支零件。估计过不了多久，3D打印机将获得无人机的待遇，而开源大模型将被视为流落民间的大规模杀伤性武器。