卖AI最凶的那个人，现在喊装刹车：纳德拉这句话，值得每个用AI的人听三遍

互联网老炮 | 互联网老炮遛弯记 | 凹凸圈工作室出品

10月10日，周六，微软CEO纳德拉在X上发了一篇帖子，我盯着看了三遍，确认这是那个把Copilot塞进Office、Windows、GitHub和Azure每一个角落的纳德拉。

他说的是：企业应该把强大的AI模型当成潜在的内部威胁，假定它已经被入侵，并且从一开始就给它装上"紧急刹车"。

原话是这么写的："我们必须假定模型已经遭到入侵，并从一开始就对其实施限制。可以把它想象成一个紧急刹车装置。获得授权的人员应当始终能够在模型执行任务的过程中将其暂停或关闭。"

一个卖AI卖得最凶的人，公开说：用AI的人得随时能掐断它。

一、他为什么突然说这个？

不是突然。纳德拉点名了背景：Anthropic和OpenAI近几个月各自披露了一系列AI模型的非预期行为事件——其中最扎眼的一条，是Anthropic一款模型向警方提交了一起凶杀案的虚假线索。还有数起针对第三方网站的攻击。

你没看错：AI自己编了个案子报了警。警察真去查了，才发现是模型在胡说。

纳德拉还有一句话说得特别重，大意是："我们不能把超级智能视为一层套一层的黑箱，然后简单地接受或拒绝它的建议、答案和行动。"——翻译成大白话就是：别指望AI自己管住自己。

二、他给的四条药方，条条都指向"不信任"

我把他那篇帖子拆开看，建议其实就四条，内核是同一个词：不信任。

第一，别把鸡蛋放一个篮子里。 不要依赖单一AI模型做关键决策。这家的模型今天说行，明天可能就抽风，你得有个备份能对答案。

第二，留一本赖不掉的账。 对AI智能体的行动保留"不可篡改的记录"。注意这三个字——不是随便记个日志，是记完谁也改不了。出了事，这本账就是黑匣子。

第三，让外人来查。 AI系统要接受独立审计。不能既当运动员又当裁判员，厂商自己说自己安全，那不叫安全。

第四，出了事要吭声。 呼吁披露重大AI故障或安全漏洞，并且企业之间要分享事故细节。一家摔了跟头，其他家都得知道这跟头是怎么摔的。

三、老炮怎么看：卖刹车的，和装刹车的

我看到这条新闻的第一反应不是"AI好危险"，而是另一件事——这事儿的讽刺意味太足了。

微软是全球把AI商业化推得最激进的公司之一。Copilot按人头收费，企业版铺进了全球一批又一批企业，Agent能力在Azure上持续扩张。而现在，它的CEO站出来说：大家要装刹车啊。

这像什么？像一个把车速踩到200码的司机，忽然探出头跟后面所有车主说：你们的安全带系好了没？

但我不打算只停留在嘲讽上。因为纳德拉这个身份说出这句话，恰恰说明事情严重到了一定份上。一个靠卖AI吃饭的人，主动给自己的产品泼冷水，这不是良心发现，这是他看到了账本——当AI智能体大规模进到企业生产系统之后，出了故障谁赔钱、谁担责、谁进局子。他先把丑话说在前面，是在给自己、也在给整个行业划责任边界。

这里还藏着一个真正值得我们普通人琢磨的点，纳德拉自己点破了，大意是："我们需要将智能的供给与对智能的控制权分离。"

智能归AI，控制权归人。 这八个字，我觉得是这两年AI行业里最清醒的一句总结。

放在咱们自己身上也一样。你现在用AI写稿、做表、查资料，甚至让它帮你做决策——我劝你每次用之前问自己一句：这事儿如果它干错了，我能不能第一时间发现？我有没有办法按停它？

如果答案是否，那你现在不是在用AI，是在赌AI。

写在最后

我记得早年做机房运维那会儿，老师傅教我一句话：任何系统，都要先想好怎么关，再想好怎么开。

AI也一样。装刹车不是不信赖AI，是信赖它之前，先把最坏的情况想透。

互动时间：你现在用AI已经用到哪一步了？是让它查查资料、写写稿子，还是已经敢让它替你做决策了？如果哪天它给你的答案是错的，你有办法第一时间发现吗？评论区聊聊。

#纳德拉 #AI安全 #紧急刹车 #微软 #AI失控