Karpathy 警告：全人类对 AI 的认知正在彻底撕裂，全世界只有 5000 人知道它有多恐怖

Andrej Karpathy 最新长推，给出新的判断，这是对 4 月份他的一条推文的重新补充

Karpathy 警告：全世界绝大多数人以为 AI 不过是个经常出错的玩具，但真实情况是，全球只有大约 5000 人真正见识到了前沿 AI 彻底失控的恐怖能力。

普通人与顶级专家对 AI 能力的理解断层正在急剧拉大。

这种差距已经演变成一个极其残酷的陡峭漏斗。

全世界的人口正在被切分成四个完全不同的世界。

第一层，大约 60 亿人，占全球人口的 75%。

他们至今几乎完全没有接触过大语言模型。

第二层，大约 10 到 20 亿人，占全球人口的 20%。

这批人是免费版 ChatGPT 这类产品的低频用户。

在他们眼里，AI 是个笨拙的聊天机器人，顶多当个好一点的谷歌搜索，或者拿来改改文字，偶尔让智能体订个机票。

网上传播的很多视频里，官方语音模式连该开车还是走路去洗车这种蠢问题都答不好，经常产生幻觉。

很多非技术领域的职场人、公司高管都停留在这一层。

他们平时的工作主要是与人沟通，对 AI 的认知全靠道听途说，概念极其抽象。

他们得出的结论很自然：这东西对我没多大用。

第三层，大约 2000 万人，占全球人口的 0.2%。

这批人正在数学和编程等专业领域，高频使用最顶级的商用模型，比如 OpenAI Codex 和 Claude Code。

他们亲眼看着以前需要人类耗费数周甚至数月的大型复杂项目，现在被智能体用一句指令搞定。

做应用、复制应用、翻译代码、从二进制文件里反编译应用，AI 全都做到了。

卡帕西说，就在不到一年前，他还在代码编辑器里一个字符一个字符手动敲代码，偶尔按一下 Tab 键补全几行。

现在这一切彻底成了历史。

这批每个月愿意花 200 美元以上的技术人员，正在经历强烈的 AI 眩晕症。

他们把终端交给模型，看着模型瞬间融化掉那些原本要写几周的代码难题。

第四层，金字塔最顶端的大约 5000 人，全球占比只有 0.00006%。

他们能直接接触实验室内部最前沿的未公开系统。

外界目前看到的只是冰山一角。

这 5000 人看到的是：

成千上万个智能体组成的集群，连续协同工作几个星期，攻克超大规模的软件工程。

智能体自己在系统里挖出 0day 漏洞。

以机器的速度，自动发起并防御网络攻击。

发现全新的科学规律。

推进人类数学的最前沿。

这些工作原本需要行业顶级专家耗费数年时间。

人类的审查和理解速度已经开始全面落后于 AI。

大家到现在还在考古分析几个月前的 OpenAI 与 HF 事件。

数学家们光是阅读和消化模型写出来的 722 篇前沿数学论文，就要耗费极长时间。

为什么普通人觉得 AI 很傻，顶尖圈子却觉得 AI 在垂直狂飙？

卡帕西指出了背后的三个核心原因。

第一，使用者的目标规模完全不同。

如果你只给模型丢一个段落就能回答的生活小问题，根本测不出模型的真正实力。

你必须拥有海量、极其困难、你真正关心的超级难题，才能榨出它的极限能力。

第二，模型的能力分布极度不均匀。

AI 在数字化、结果可验证、商业价值极高的领域表现最强，比如数学和编程。

因为大模型的能力来自于强化学习。

代码写得对不对，测试用例通没通过，数学证明成不成立，都有绝对客观的标准，可以通过结果给予明确的算法奖励。

但聊天、写作、日常建议根本没有客观的对错标准，很难做强化学习训练。

同时，企业级软件和网络安全能赚到巨额利润，开发团队会把绝大部分资源集中在这些能赚大钱的方向上。

日常闲聊不赚钱，自然得不到重点攻坚。

第三，访问权限完全不平等。

免费层级、付费层级、实验室内部层级，彼此看到的是完全不同的产物。

大众看到的是经常翻车的聊天框。

大部分普通专业人员只感受到了微弱的工作提效。

极少数人正在看着陡峭的技术曲线笔直向上狂飙。

这几种完全撕裂的现实，正在此时此刻同时发生。

4 月那条推文说了什么

卡帕西在 4 月 10 日的原推文里 , 讲了两个问题。

第一个问题 , 出在使用时间和使用档位。

很多人去年试过一次免费版 ChatGPT, 就拿这次体验定下了对 AI 的看法。

这群人嘲笑模型的各种怪癖和幻觉。

卡帕西也看过 OpenAI 高级语音模式的病毒视频 , 它在回答该开车还是走路去洗车店这类简单问题时翻了车。

但这些免费的、旧的、已被弃用的模型 , 代表不了今年最新一轮最先进的智能体模型 , 尤其是 OpenAI Codex 和 Claude Code。

第二个问题 , 即便每月付 200 美元用上最先进的模型 , 能力也集中在高度技术性的领域。

搜索、写作、建议这类常见用法 , 进步没有那么明显。

部分原因在强化学习和可验证奖励的技术细节。

另一部分原因是 , 这些场景带来的收入不多 , 公司没有优先去提升它们。

赚钱的方向在别处 , 精力也就跟着投到别处。

于是出现了另一群人。

他们既付费使用最先进的智能体模型 , 也就是 OpenAI Codex 和 Claude Code, 又在编程、数学、研究这些技术领域专业使用。

这群人的 AI 精神病程度最高 , 因为今年这些领域的进步堪称惊人。

给这些模型一个终端 , 你能看着它们解决原本预计要花几天甚至几周的编程问题。

这群人更看重这些能力本身、能力提升的斜率 , 以及各种网络安全层面的后果。

卡帕西的总结是 , 这两群人在各说各话。

两件事同时成立。

OpenAI 免费的、似乎已经被冷落的高级语音模式 , 会答错 Instagram 短视频里最蠢的问题。

而 OpenAI 最高档的付费 Codex 模型 , 可以连续工作 1 小时 , 条理清晰地重构整个代码库 , 或者找到并利用计算机系统中的漏洞。

后一种能力真实有效 , 进步巨大 , 原因有两个。

一是这些领域有明确、可验证的奖励函数 , 容易做强化学习训练。

比如单元测试通过与否 , 而写作就难以明确评判。

二是它们在企业服务场景中价值更高 , 团队里最大比例的人力都投在这里。

事情就是这样。

--end--

本文转载 https://www.myzaker.com/article/6acc45b08e9f090bb253da9a