从AI到SI：谁在害怕失控，谁又更害怕停下来？

最近的美国科技圈有点奇怪。

一边是科技巨头们不断警告，AI 可能失控，可能威胁人类社会；另一边，大家又在拼命扩张算力、训练模型、争夺市场，谁也不肯真正放慢脚步。特朗普甚至签了一道行政令，把美国政府文件中的 Artificial Intelligence 改成了 Super Intelligence。几家科技大佬又齐聚白宫，签下了一份被特朗普称为「宪法」的安全承诺。

如果 AI 真的这么危险，为什么没有人愿意停下来？

这期请来好久不见的 Johnny 老师，从最近的中美元首会晤聊起。中美关系似乎正在进入一个很微妙的阶段：两个国家依然在高速竞争，却也开始认真讨论，怎样避免这场竞争失控。AI 安全恰好成了双方一个新的对话入口。

但所谓 AI 安全，究竟是在防范什么？是模型突破人类控制的技术风险，是大型科技公司利用监管给自己筑起护城河，还是中美之间一场谁都不敢率先减速的竞赛？

我们还聊到了人工智能这个名字本身的历史。七十年前，麦卡锡提出 Artificial Intelligence，原本就是一场学术路线之争的产物。今天特朗普又想用 Super Intelligence 重新定义它。一个技术究竟叫什么名字，背后似乎也藏着我们对它的理解，以及对它控制权的争夺。

聊到黄仁勋的时候，事情变得更有趣了。他有时候告诉大家，AI 只是一个软件，是可以用工程手段解决的问题；有时候又告诉大家，这是人类前所未有的技术革命，谁也不能停止投资。作为这场算力竞赛最大的受益者之一，他当然有自己的立场。

节目最后，我们转到了另一个可能更加现实的问题：如果 OpenAI、Anthropic 这些公司的收入增速无法支撑越来越庞大的算力投入，会发生什么？当科技公司、芯片供应商、投资机构和国家战略都绑在这条产业链上，AI 会不会也变成某种意义上的「大到不能倒」？

本期嘉宾： Johnny，香港资深 VC 投资人，鸿鹄汇创始人

时间戳：

00:02 中美元首会晤之后：AI 安全为什么突然成为共同议题？

05:17 美国为什么愿意缓和关系？中期选举、中东局势与美债压力

09:24 F1 赛车的防护栏：中美可以一边高速竞争，一边防止失控吗？

11:46 从 AI 到 SI：特朗普为什么要把「人工智能」改成「超级智能」？

13:14 一场七十年前的学术争论：人工智能、控制论与神经网络的历史

17:29 AI 安全的三种立场：技术对齐、人机共生与政治利益

24:14 AI 开始突破人类的控制？从智能体安全事故到硅谷的监管呼声

27:20 监管俘获：科技巨头是在保护人类，还是保护自己的护城河？

34:09 我们究竟能否想象 AI 的风险？从福山到黄仁勋的两种判断

38:46 「AI 只是软件」背后的权力问题：谁控制算力、标准和技术的未来？

44:21 「But what about China？」为什么中美都很难在 AI 竞赛中率先踩刹车？

46:25 中国和美国担心的是同一种 AI 安全吗？国家安全、社会稳定与就业冲击

52:52 从《黑客军团》到现实：AI 如何放大网络攻击与金融基础设施风险？

54:14 AI 最大的风险可能是增长失速：算力合同、收入预期与融资压力

56:09 当 AI 变得「大到不能倒」：科技巨头会不会成为新的系统性金融风险？

59:41 结语：AI 安全、资本风险与一个越来越不可预测的未来

文字版：请见《墙裂坛》公众号