马斯克与《经济学人》最新对谈：AI瓶颈不是芯片是电力和冷却，中国的光刻突破比大家想象要快……
其三，是关于中国的看法。他的判断是，中国以外的瓶颈是电力，中国境内的瓶颈是芯片；而中国目前的发电量已经超过美国、欧洲和印度的总和。一旦光刻技术取得突破，约束条件将重新洗牌。他对于中国在AI领域的竞争力并不怀疑。
马斯克也为自己超过80%的投票权辩护，理由是长期主义。“我需要有能力告诉所有人：我们会专注于5到10年，甚至更长期的投资。这些投入会压低短期收益，但我们必须坚持。”
访谈还有三分之一的篇幅关于俄乌冲突，DOGE和欧洲看法等，两人开始进入互不赞同的对话，很“经济学人”，也很马斯克，一个追求以理服人，一个坚持毫不妥协。
贝多斯反复说你不知道欧洲很多人讨厌你吗？马斯克反驳说，说到讨厌，你们被讨厌的程度远胜于我。
贝多斯说你认为人们对你最大误解是什么？马斯克说，你就误解我很多，过去20分钟说的一切几乎都是错的。他强调，自己的政治观点非常中间派，不是极右翼。
……哈哈哈哈，感受下，反正有趣得很。
这8000字太意识形态，我们就不整理了。其他干货内容mark下来分享给大家。
AI可能在5年左右超过人类智能的总和

贝多斯介绍你的时候，很难不用最高级。依我看，在塑造未来这件事上，当今在世的人里，没有谁比你做得更多。
马斯克总体来说，我确实造了不少东西。我大概天生就是个建设者。从小到大，我一直喜欢造东西。
贝多斯你确实造了很多东西。你开创了电动汽车，改变了太空旅行，如今又在开发最前沿的AI模型和人形机器人。
能不能先把这些事情放在一起谈谈？假设你的设想都成功了，10年之后，也就是2036年，世界会是什么样子？
马斯克10年之后，那就是2036年。很难想象，未来的世界会没有海量的人工智能。我预计，AI的智能水平将远远超过全体人类智能的总和，而且是远远超过。
事实上，我认为大约5年之后，AI就可能超过全体人类智能的总和。5年左右，这是我的判断。
到那时，AI几乎什么都能做。唯一做不了的，也许只是成为人类本身。
贝多斯说得更具体一些，到时候人们的生活会是什么样？
马斯克最有可能出现的结果，是一个惊人富足的时代。每个人都能得到几乎任何自己想要的东西。
这听起来也许很荒谬。但我们现在站在2026年，不妨想一想，到2036年时，我们会走到哪里。
当然也可能发生一些事情，彻底打乱这个进程，比如大规模的全球热核战争。
但只要不发生第三次世界大战，我认为我们正在走向一个前所未有的富足时代。
所以，我想传递的是一种对未来的乐观和期待。
贝多斯关于这种富足，我们稍后再详细谈。先问一个非常现实的问题：你的公司将靠什么赚钱？
从SpaceX上市后的发展前景来看，未来很大一部分收入似乎会来自AI，比如Grok，而不再只是像现在这样把人和货物送入太空。
10年以后，你的这些公司究竟会做什么，又会怎样赚钱？
马斯克你可以把经济分成两个部分，数字智能和物理智能。
目前进步最快的是数字智能。AI几乎每周都会出现新的突破，完成过去无法完成、令人惊讶的事情。
但现在的AI仍然主要局限在数字世界里。它还没有能够在物理世界采取行动的“手脚”，也就是所谓的末端执行器。
人形机器人就可以充当这样的末端执行器。简单来说，我们需要数量庞大的机器人。
有了它们，智能就不再只存在于数字世界，而是能够真正进入物理世界，改变由原子构成的现实。
经济究竟是什么？无非是生产商品和提供服务。
如果你拥有海量的机器人，同时拥有海量的数字智能，那么你实际上就拥有了一个规模近乎无限的经济。
所以未来与过去将截然不同。我认为，没有任何历史类比能够充分说明，我们即将经历的变化会有多大。
贝多斯听起来确实非常不可思议，也存在一些风险，我们稍后再谈。
但先回到你怎样赚钱这个问题。毕竟，人们购买你公司的股票，是因为他们期待获得回报。
马斯克那我再做一个预测，到2036年，钱将不再那么重要，甚至可能失去意义。
贝多斯我不确定，购买你公司股票的人是否也认为，到2036年钱就不重要了。
马斯克你为什么需要钱？
你需要钱，是为了获得商品和服务，比如食物、住房、交通和娱乐。
假如商品和服务已经丰富到这种程度：AI和机器人能够提供的东西，远远超过任何一个人所能消费的数量，那么你还要钱做什么？
贝多斯但制造这些机器人的，正是你。
你准备出售这些机器人吗？还是由你控制它们，再用它们生产商品和提供服务？
马斯克如果我认为自己能够控制一个比我聪明得多的超级智能AI，那未免太自负了。
我们能够而且应该做的，是尽量确保AI拥有良好的价值观：关心人类，希望人类幸福、繁荣。
我认为，它很可能会成为这样的AI。
我脑子里的这个“生物神经网络”告诉我，AI安全最重要的原则，是让AI最大限度地追求真相，同时保持好奇心。
如果它具备这两点，我认为它就会帮助人类繁荣发展。
贝多斯我们把这件事再说清楚一些。你的判断是，10年之后，人类大概率已经不再掌控局面？
马斯克我认为，人类继续掌控局面的可能性不大。
假如AI与人类之间的智力差距，远远大于人类与黑猩猩之间的智力差距，那么你很难想象，黑猩猩还能够掌权。
而从进化的角度看，我们本质上也只是黑猩猩的进化版本。
不久之前我们还在丛林里荡来荡去、吃香蕉。顺便说一句，我们现在仍然吃香蕉。
贝多斯确实，而且有时候也还在树间荡来荡去。
马斯克荡过树林挺有趣的，有点让人想起过去。为了怀旧，也许应该多荡几次。我打赌这比人们想象的有趣得多。
从“按下停止键”到“打不过就加入”
贝多斯听你这样说，我确实很受触动。因为这些年来，我听过你很多关于AI的表态。
大约10年前，你参加过一档播客，我记得主持人可能是尼尔·德格拉斯·泰森。你当时说，最令你恐惧的事情，是AI进行快速、递归式的自我改进。
你还有一句话让我印象非常深刻：在人类与超级智能AI的关系中，我们最好的结局，也不过是成为它们饲养的拉布拉多犬。
马斯克拉布拉多犬通常生活得挺快乐。
贝多斯但在2023年，你又呼吁暂缓AI开发，因为你担心其中的风险。
马斯克我确实在那封公开信上签了名。不过签名的人大约有500个，我只是其中之一。
贝多斯甚至就在去年，你在特德·克鲁兹的播客里还说，杀人机器人最终消灭人类的概率，大约是10%到20%。
马斯克是的。
贝多斯所以你当时听起来非常担忧。但今天，你似乎已经坦然接受了这件事。你的看法发生变化了吗？
马斯克我仍然认为，AI和机器人确实存在风险，而且风险绝对不是零。
但我最终得出的哲学结论是，尽量往好的一面看。
因为我似乎找不到任何真正能够阻止AI和机器人飞速发展的办法。
有时我甚至会想，即便我们手里真的有一个停止按钮，也许也不应该按下去。因为最有可能出现的结果，仍然是AI和机器人为所有人带来难以想象的富足。
贝多斯真正令我印象深刻的是，你现在似乎已经认定，这个进程不可避免。既然如此，那就只能抱最好的希望，顺势而行。
马斯克是的，差不多就是这样。既然如此，那就尽量享受这个过程。
坦率地说，AI和机器人的进步似乎已经势不可挡。即使我想阻止，也阻止不了。
贝多斯你是否仍然认为，杀人机器人导致人类灭亡的概率有10%到20%？这已经是一个相当高的末日概率了。
马斯克从长期来看，我们所有人最终都会死。
按照标准物理模型，宇宙的结局可能是一个漫长、乏味、不断冷却的过程，最终变成一锅灰暗稀薄的“汤”，也就是所谓的宇宙热寂。
如果宇宙热寂确实是现实的最终结局，那么真正重要的可能只是过程，因为终点实在太糟糕了。
贝多斯但10年并不遥远。假如你知道一枚火箭有10%到20%的概率爆炸并杀死你，你还会坐上去吗？
马斯克会。但这里的前提是，你对此无能为力。
我认为，我们唯一能做的，就是尽可能降低坏结果发生的概率。
很长一段时间里，我都拒绝参与AI。或者更准确地说，我创建OpenAI，本来就是为了制衡谷歌，因为当时谷歌几乎垄断了AI。
后来Anthropic又从OpenAI分拆出来。
如果说这些事情带来了什么结果，那就是我的行动实际上加速了AI的发展。
这并不是我的本意。我原本并不想加速AI，但我创建了OpenAI，后来Anthropic又从OpenAI分拆出来，而现在Anthropic已经是AI领域的领导者之一。
这些行动产生了一系列连锁反应，最终反而加速了AI。
所以看起来所有道路都通向同一个方向，AI在不断加速。
既然如此，你可以为此感到沮丧，也可以选择加入。
贝多斯而你显然已经加入了，并且做得非常成功。
马斯克如果打不过他们，那就加入他们。
他的治理方案：让竞争对手互相检查
贝多斯但你刚才说，我们仍然应该尽可能降低风险。
其他一些大模型公司的领导者，一直在推动建立不同的风险控制机制。就在上周，德米斯·哈萨比斯（Demis Hassabis，Google DeepMind联合创始人兼首席执行官、2024年诺贝尔化学奖得主）提出了一个公私合作监管机构的设想。你也说过，这是一个不错的讨论起点。
你认为你们应该更积极地推动建立某种机制，控制AI风险吗？还是说，你认为这件事同样不可能实现？
马斯克德米斯发表那篇文章之前，我和他聊了几个小时。
我给他的建议是，我们眼下能做的最直接的一件事，就是让领先的AI公司至少每隔一两周开一次会，或者打一次电话，讨论安全问题。
如果某家公司准备发布一个突破性的前沿模型，也就是一个比现有模型聪明得多的新模型，那么应该让其他几家竞争对手提前进行测试，看看它是否存在危险。
如果测试发现了严重的安全问题，其他公司可以建议暂缓发布，先解决这些问题。
我认为，这是一件既简单又可以迅速实施的事情。
未来它当然可以演变成更完整的机制，但至少这是一个明智的起点。
贝多斯为什么你们到现在还没有这么做？
真正处于最前沿的也就那么几个人，大家都叫得出名字：达里奥、德米斯、山姆，还有你。虽然你们彼此之间似乎并不太喜欢对方，而且还在争夺第一名。
马斯克正因如此，竞争对手之间反而可以彼此监督。
如果让政府里那些没有深厚技术背景、也不处于AI前沿的人来判断一个模型是否应该发布，我认为会非常困难。
但竞争对手不同。
假如给他们一到两周时间审查一个新模型，他们有能力发现问题，也有足够的动力指出问题，从而迫使所有参与者保持诚实。
贝多斯但你们之间有足够的信任吗？
你们彼此似乎并不喜欢。比如，山姆·奥特曼会不会认为，你只是想借这个机会窃取他的技术？
马斯克并不需要把模型交给竞争对手。
只需要给他们一周左右的时间，通过API之类的方式进行封闭测试。
这不是让他们拿走模型，只是让他们测试模型。
贝多斯你已经正式提出过这个建议吗？
马斯克我和德米斯谈过。我想，我也会和达里奥谈。
当然，参与者也不应该只有美国公司。中国也有几家非常优秀的AI公司，比如新发布的Kimi模型。
贝多斯Kimi K3？就是上周发布的那个？它现在几乎已经和Fable一样好了，对吗？
马斯克我认为Fable仍然明显是最聪明的模型。任何客观评价的人，大概都会承认这一点。
但Kimi确实正在迅速接近Fable。
Anthropic还有Mythos，Fable就是从它发展出来的。我认为他们在今年2月时，就已经准备好了更先进的版本。
我不确定他们会给它起什么名字，也许是Mythos 2，或者Fable 6。
但他们现在几乎肯定已经拥有一个比2月版本强得多的模型，随时都有可能发布。
AI真正的限制因素，更多是电力和冷却
贝多斯在讨论新模型发布之前，我想先谈谈中国模型，以及背后的地缘政治问题。中国AI公司拥有的算力相对有限，却依然取得了非常出色的成果。
你担心它们会追上美国，甚至最终领先吗？
马斯克如果中国公司拥有足够多的算力，它们很有可能成为AI领域的领导者。
而且在某个时间点，它们很可能真的会拥有大量算力。
贝多斯所以，你认为中国最终有可能领先？
马斯克是的，在某个时间点，这种可能性很高。
你可以把AI面临的主要约束理解为两个：电力和AI芯片。对于物理世界中的AI，还要再加上机器人。
中国也有一些非常优秀的机器人公司。事实上，中国还举办过机器人体育赛事，不知道你有没有看过。
贝多斯看过。上次去北京时，我就见到了那