|
|
|
《华尔街日报》最新长文： 全球最牛的 AI 公司, 都被脏东西洗脑了！
|
注意，以下是真实的故事：
在旧金山高耸入云的奢华写字楼里，坐着一群全球顶尖的程序员。他们白天在大脑飞速运转地敲打着价值数百亿美元的 AI 代码，制造着人类历史上最强大的语言模型 Claude。
但一到晚上，这群人的画风就彻底歪了。在私密的 Slack 工作群里，他们不聊股票期权，不聊房产投资，也不聊哪家网红餐厅好吃，而是在认真讨论：去哪里买地避难最安全？防电磁脉冲（EMP）的地下掩体怎么造？去哪里能买到现货碘片？
在他们的 ThinkPad 和 MacBook 键盘边上，贴着一行刺眼的贴纸：
“Things will never be chill again”（事情再也轻松不起来了）。
这是《华尔街日报》最新发表的一篇重磅长文曝光的真实内幕。
这篇报道直接掀了全球估值最高的 AI 独角兽 Anthropic 的老底。
看完整篇文章你会惊奇地发现：原来这群站在科技最前沿、打造通用人工智能（AGI）的顶级精英们，私底下全都被一种极其诡异的“赛博亚文化”给洗脑了。
什么是洗脑这群智商 ceiling 的“脏东西”？
这种把硅谷大佬们迷得神魂颠倒的“脏东西”，在业内被称为“有效利他主义”（Effective Altruism，简称 EA）以及衍生出来的“AI 灭绝论”（Doomerism）。
这套理论的精神教主叫埃利泽�尤德考斯基（Eliezer Yudkowsky），一个连初中都没毕业、全靠自学的旧金山湾区奇人。
早在二十年前，他就建立了一个叫 LessWrong 的博客社区，天天在上面宣扬脑神经科学、认知偏差以及“超级 AI 终将毁灭人类”的末日警示。
埃利泽�尤德考斯基（Eliezer Yudkowsky）
这套理论看似荒谬，却极其符合理工男对逻辑和极致理性的狂热追求。当时还在普林斯顿读物理学博士的Dario Amodei（也就是现在的 Anthropic 创始人兼 CEO）就是他的忠实粉丝。早在 2008 年，Dario就开始帮这个末日博客搞线下粉丝见面会了。
这群人的思维方式到底有多奇葩？Dario 在 2010 年写过一篇帖子，在计算慈善捐款的效率时，他居然极其严肃地写道：“我认为一个成人的死亡，大约比一个婴儿的死亡糟糕两到三倍。”
不仅如此，这种“有效利他主义”甚至渗透到了他们的婚姻生活里。
后来创立了Open Philanthropy 基金会的 Holden Karnofsky，娶了 Dario 的妹妹 Daniela Amodei（现任Anthropic 总裁）。两人的结婚纪念网站上直接大写加粗地写着一句话：“我们俩都对有效利他主义狂热不已！”
更离谱的细节还在后面。《华尔街日报》翻出了一份 2023 年破产诉讼中的绝密备忘录，EA 基金会的高层甚至曾经认真评估过：要不要直接出资把太平洋上的岛国“瑙鲁”给买下来？
买岛的目的不是为了度假，而是要在上面建造一个终极避难所。
一旦发生“全球 50% 到 99.99% 人口死亡的灭绝级灾难”，幸存的有效利他主义者们可以在岛上的地下实验室里，通过基因工程来培育下一代人类！
巴哈马天体跑与“灭绝门槛”午餐
随着这群人从论坛小圈子走进硅谷中心，这种末日情结不但没有淡化，反而变成了某种神秘的社群仪式。
报道披露，2022 年初，在巴哈马著名的粉色沙滩小岛埃莱乌塞拉（Eleuthera），这群来自 Anthropic 和各大 AI 实验室的末日论者们举办了一场私人研讨会。会议日程极其丰富：日落瑜伽、悬崖跳水，甚至还有一场“全裸海滩奔跑”。
但在这些惬意的活动中间，有一顿极其隐秘的私人午餐。午餐的入场门槛只有一条硬性规定：你必须公开承认，未来 100 年内人类灭绝的概率（p(doom)）大于 75%。
组织者设立这个门槛的目的非常纯粹：就是为了让这群认为“世界真完蛋了”的科技精英能坐在一起抱团取暖，免得被普通人当成精神病。
在 Anthropic 内部，“p(doom)”——也就是 AI 毁灭人类的概率，从来不是一个调侃的梗，而是一个贯穿日常生活的量化指标。内部对齐团队的核心骨干 Evan Hubinger 曾公开断言，未来十年内 AI 杀死全人类的概率超过 10%。
想像一下这个场景：你去乘坐一架飞机，空姐微笑着对你说：“先生欢迎登机，顺便提醒您一下，我们这趟航班坠毁的概率大概是 20%，祝您旅途愉快！”
你是不是想立马跳窗？
但在 Anthropic，研究员们在决定要不要买房、要不要生娃、要不要找对象时，都会极其自然地把这个“灭绝概率”代入公式进行人生决策。
把大楼盖到太空的物理铁律：为什么他们越来越怕？
那么问题来了，这群智商极高的科学家，为什么会被这套理论吓得睡不着觉？
答案很简单：因为他们亲手发现了算力的物理铁律。
2020 年，Dario Amodei 和 Jared Kaplan 等人在 OpenAI 期间发表了著名的“缩放定律”（Scaling Laws）。
用大白话解释，缩放定律就像是发现了一种盖楼的物理规则：只要你把算力和训练数据像砖头一样成倍地往上堆，模型的智商就会呈现出完全可预测的指数级暴涨。
在缩放定律出现前，大家觉得通用人工智能（AGI）就像是科幻小说，可能需要几百年；缩放定律出现后，他们发现这根本不是什么哲学问题，而是一个倒计时极其明确的工程确定性！只要把砖头堆够，大楼就一定能直通太空。
他们突然意识到：自己不是在写一段简单的程序，而是在亲手召唤一个人类根本无法驾驭的物理怪兽。
诈骗犯的资金与赛博加速者悖论
为了防止 OpenAI 在微软资本的裹挟下“无脑加速”，Dario 带着十多名核心骨干愤而离职，创立了打着“安全第一”旗号的 Anthropic。
但讽刺的是，想要搞 AI，最缺的就是钱。为了筹集天价的算力费用，他们接受了加密货币交易所 FTX 创始人 SBF（Sam Bankman-Fried）高达 5 亿美元的巨额投资。当时双方一拍即合，因为 SBF 也是有效利他主义的“大金主”。
结果后来的故事大家都知道了，FTX 爆雷，SBF 被判刑 25 年。
Anthropic 发现自己用来“拯救世界”的启动资金，竟然是涉嫌诈骗客户的赃款！
那段时间，团队内部陷入了巨大的道德焦虑与法律恐慌，一边顶着外界“拿脏钱办高尚事”的嘲讽，一边在复杂的破产清算中拼命清洗这笔资金，直到后来引入亚马逊、谷歌和中东资本才得以解脱。
这就构成了当下硅谷最荒诞的“加速者悖论”：
为了防止坏人或者对手造出毁灭世界的强大 AI，Anthropic 认为自己必须抢先造出最强大的 AI；但为了维持公司的生存和影响力，他们又必须不断推高模型规模，卷入这场军备竞赛。
他们一边耗费巨量算力建立像生物安全实验室一样的 ASL 防御体系，评估 Claude 会不会教黑客瘫痪国家电网或制造致死病毒；一边又不得不亲手按下加速键，把模型推向更不可控的深渊。
撕裂与反噬：当造神者开始逃跑
这种极度的认知失调，终于引发了内部的严重撕裂。
最近，Anthropic 的核心研究员 Jacob Coxon 愤而辞职，公开发声警告自我改进型 AI 可能带来的失控灭绝风险。
不少安全研究员发现，自己原本怀着“拯救人类”的崇高理想加入公司，最后却成了资本军备竞赛里的高级螺丝钉。
连英伟达 CEO 黄仁勋都忍不住在节目里吐槽这群末日论者：“天天把年轻人吓得连大学都不想上了，觉得反正以后都没工作了，这种恐慌到底是有益还是有害？”
但无论外界如何质疑，这群最懂 AI 底层机理的精英们已经无法回头了。在旧金山合租房里讨论曼哈顿计划、推演被政府征召进沙漠地下电磁屏蔽基地的日子早已过去，但那种对末日的恐惧已经刻进了他们的基因。
世界上最懂 AI 的那批人，并不是在装神弄鬼地卖焦虑。他们是亲眼看到了黑盒深处的怪兽，然后绝望地发现：自己除了踩油门把它推向终点，竟无力按下刹车。
当造神者们私下里已经在认真研究买地逃难、囤积碘片时，就像飞机上的飞行员悄悄背上了伞包。这个时代，注定再也轻松不起来了。(来源：牛员外)
牛员外
牛员外)
|
|
