Andrej Karpathy
周末黑客实践：HackerTube。我对 YouTube 的推荐机制感到厌烦，于是让 Claude 从 20 年来 Hacker News 的 4300 万条评论中，筛选出了持续被推荐的 6,454 个视频。观看体验有了*质的飞跃*，使用 Opus 5.5 大约耗时 2 小时：
https://t.co/JIhXN7OSh1
- 无需登录即可享受极佳推荐（状态保存在浏览器本地会话中）
- 封面图采用视频中间的代表性帧，而非那些经过极端 A/B 测试、过度优化的标题党封面
- 提供评论分析的底层数据（一个 zip 文件），你可以直接丢给自己的 Claude 来生成专属版本
- HackerTube 万岁 ✊
关于过程的补充：
我使用的是 Claude Code（Mac 桌面应用），默认使用中等强度的 Opus 5.5。我全程只通过对话指挥 Claude 完成所有工作，唯一配合的“手动操作”是在浏览器里进行的（让人想起 MenuGen）：1) 在 Google Cloud UI 创建 API 密钥以查询 YouTube 视频元数据；2) 启动了一个 VPS 用于托管服务；3) 买了个域名。服务器上线后，我把 IP 给 Claude，让它负责更新、安全加固、部署和优化代码，它全搞定了。
许多以前需要数周甚至数月才能完成的优秀项目，现在早餐时间通过少量提示词（few-shot）就能搞定。我们还有哪些尚未挖掘的可能？
重提四月份的这条推文，因为人们对大模型（LLM）能力的认知差距正在*不断扩大*。现在的状况不再是“两拨人各说各话”，而更像是一个陡峭的漏斗：
- 粗略估算，约有60亿人（占总人口约75%）几乎从未接触过大模型。
- 约有10亿至20亿人（占20%）是类似ChatGPT免费版的轻度、低频用户。在他们眼中，大模型只是些笨拙的聊天机器人，被当作更高级的谷歌搜索、写作助手等工具。或许也会让智能体帮着订个机票。我有一些非技术背景的朋友，他们（在我看来很合理地）觉得这东西没什么用。许多非数学和编程领域的专业人士也处于这一层级。例如，高管及许多其他职能部门的人大部分时间都在与人沟通，因此尽管他们在理智上理解技术变革，但这种认知仍是间接且抽象的。
- 接下来是数学和编程领域中前沿大模型的专业用户。约有2000万人（占0.2%）亲眼见证了原本需要数周或数月才能完成的大型复杂项目，现在只需一个提示词（prompt）就能由智能体完成。构建应用、克隆应用、转换应用、从二进制文件中反编译应用……这一切发生得非常迅速且就在近期——不到一年前，我还在手动编写代码，在编辑器里一个字符一个字符地敲入记下的指令，偶尔按一下 Tab 键进行一点自动补全。
- 最后是大约5,000名...
很酷的评测方式：只需向大模型输入经纬度文本并询问“陆地还是海洋？”。重复 16,200 次后绘图，模型确实知道——因为它们在训练中“压缩”了整个互联网。
我们将投入更多时间去理解语言模型的输出。分享一些心得与技巧：
**写作。** 我尝试过的一个成功经验是：让 LLM 使用 ASD-STE100 标准来解释内容。这是一种最初为航空航天维修文档开发的受控语言规范。LLM 对这种语言非常精通，它对写作风格有严格的约束，能让文字变得极其简洁易读。有时我会稍微放宽一点要求，比如“达到 ASD-STE100 标准的 80%”，因为原规范非常严苛。但更棒的是：
**图表/图像。** 与其写文字，不如让 LLM 生成图表。这通常更容易处理、解析和理解。但更棒的是：
**网页。** 要求以“HTML 格式”输出，即可获得精美且具交互性的网页。LLM 的前端能力正在飞速提升，可以创造出极佳的视觉体验和动画效果。但更棒的是：
**解说视频。** 我最看好的输出形式是针对任何主题生成的完全定制化的解说视频。你可以尝试这样的指令：“制作一个关于 X 的 3b1b 风格解说视频，并使用我的 ElevenLabs API Key 进行音频旁白。”（后者需要 API Key，或者你可以让 LLM 帮你找一些利用本地算力的优质免费替代方案）。这套流程已经开始奏效了！
**总结：**
随着 LLM 的不断进化，它们将自主完成越来越多的基础工作，而我们的工作重心也将向更高层级的抽象迈进……
关于 @simonw 的“自行车上的鹈鹕”测试，更多内容请见：
https://simonwillison.net/2025/Jun/6/six-months-in-llms/
我把源码传到了这里，方便在浏览器中直接运行、fork 等：
https://karpathy.ai/lotr-movie/
留意一下，《GTA 夏尔》会不会比《GTA VI》先出 :)
我们正在超越那种仅通过“画一个骑自行车的鹈鹕的 SVG”来测试大模型的阶段。为了探索其泛化能力，我尝试给 Opus 5 《指环王》的第一段文字、100 万 token 的预算（约 10 美元），并要求它用 Three.js 进行渲染。Opus 运行了约 2 小时，写下了 5500 行代码来（通过程序化方式）渲染这个故事。虽然效果有点粗糙，但很有趣。令人惊叹的是，大模型居然能完成这一切：在 (x,y,z) 坐标系中布置和编排各种多边形资产，并编写代码驱动所有动画。
我也喜欢这类案例，因为正常人绝不会花时间去写如此高度定制的内容，但 LLM 拥有无穷的精力和耐心。这体现了一种转变：从“没人会去做这种事”变成了“当然可以，反正几乎不要钱”。这种情况可能还会有很多。我非常期待能创造出那种高度定制的世界，让玩家直接沉浸其中——比如作为旁观 NPC 或某个角色参与《指环王》的故事。就像是按需生成的、临时的“X 版 GTA”。
最后一点是，世界与游戏的领域暴露了 LLM 的一个弱点：它们很难审计自己的成果，因为它们无法高效、原生地感知视频或在其中进行游戏。在这个案例中，Opus 5
与 LLM 协作时，我发现一个很有用的模式：进行一场长时间的“意识流漫谈”。有时为了让模型理解你的意图，需要提供更多细节，但你又懒得打字。这时我会靠在椅背上，切换到语音模式，随性地漫谈个 10 分钟——毫无逻辑、想到哪说到哪。有时我会先打个招呼，比如：“现在切换到语音模式了，如果有错别字请见谅……”；有时我也会通过几轮对话把它变成一场小型“访谈”。但我发现，LLM 非常擅长重构这些冗长且不连贯的碎碎念；它们对你那团乱麻般的想法所做的回应，往往比你的原始表达要清晰得多。这样一来，你与模型的“思维同步”会变得更好，之后也就不需要反复纠错。
这是一种与 Claude 交互的新范式，它能更自然地融入公司内部的所有日常工作流。只要完成了幕后的工程化工作（如跨工具集成、计算环境、记忆管理及安全性等）以实现“开箱即用”，Claude 就能无缝地加入团队——你可以像与真人交流一样与它对话，并让它协助处理各种复杂的工作。
在我看来，这是大模型 UI/UX 的第三次重大变革。第一种范式是将 LLM 视为一个需要主动访问的网站；第二种是将其作为下载到电脑上的应用。而第三种范式，则是让它成为一个具备全公司工具权限和上下文感知能力的、独立且持久的异步实体，与人类团队并肩协作。虽然这需要时间去消化理解，但它确实行之有效，而且非常出色。
对 SpaceX 的过去、现在与未来深感敬畏。它的故事有着无数种解读方式，每一次思考都让人惊叹不已。向团队表示热烈祝贺！🚀
这次发布太令人兴奋了——Claude Fable 5 的底层模型与 Mythos 一致，但增加了安全防护。基准测试表现极佳，在各项指标上都以显著优势达到 SOTA 水平。但我想补充的是，从*定性*角度来看，这是一次足以匹配大版本更新的跨越式进步（在我看来，其量级不亚于去年 11 月发布的 Claude 4.5），尤其在处理极难问题的长程逻辑推理时表现最为出色。你可以给它布置比以往更宏大的任务，模型能“秒懂”并直接开干；它的表现甚至让你忍不住想完全不再去检查代码（但生产环境千万别这么做！）。模型仍有一些小毛病，且为了发布而设置的安全防护有些过于敏感（容易误触发），希望后续能逐步优化。
随着可用软件变得触手可及，我感到许多事情正在发生改变。杰文斯悖论（Jevon's paradox）开始显现，我个人对软件的需求也在大幅增长。你可以要求任何东西——解释器、可视化工具、仪表盘、定制化的单次使用应用（例如专门为你的项目打造的 wandb）、让测试套件规模扩大 10 倍、自动优化代码、运行带有自定义 HTML 结果展示的大型研究项目，应有尽有！“释放你的思想吧”（致敬《黑客帝国》）。
个人近况：我已加入 Anthropic。我认为未来几年大语言模型（LLM）的前沿领域将是极具塑造意义的关键时期。很高兴能加入这里的团队并重新投身研发工作。我依然对教育充满热情，并计划在适当的时候恢复相关研究。
顺便提一下，这招挺好用：在提问末尾要求 LLM “以 HTML 格式组织你的回答”，然后直接用浏览器查看生成的文件。我也尝试过让 LLM 以幻灯片等形式呈现输出，效果也不错。
更广泛地说，我认为音频是人类偏好的 AI 输入方式，而视觉（图像/动画/视频）则是更偏好的输出方式。我们大脑约三分之一是专门用于视觉处理的大规模并行处理器，它是进入大脑的信息“十车道高速公路”。随着 AI 的进步，我认为我们会看到一种利用这一特性的演进过程：
1) 纯文本（阅读费力）
2) Markdown（加粗、斜体、标题、表格，视觉体验稍好）<-- 当前默认
3) HTML（底层仍是程序化代码，但在图形、布局甚至交互性方面灵活得多）<-- 尚处早期，但正在成为新的优质默认选项
...4,5,6,...
n) 交互式神经视频/模拟
我认为这种推演（尽管技术尚未实现）最终会指向由扩散神经网络直接生成的某种交互式视频。如何将精确/程序化的“软件 1.0”产物（如交互式模拟）与神经生成内容（扩散网格）有机结合，目前仍有很多悬而未决的问题；但总体方向会趋向于最近走红的这个：https://t.co/z21CP5iQfu
输入端也需要改进。单纯依靠音频、文本或视频都不够，例如，我觉得有必要在屏幕上进行指点/手势……
这就是我最近经常引用的那句话。
大约一周前在 Sequoia Ascent 2026 的炉边谈话。要点如下：
我首先想强调的是，LLM 不仅仅是现有流程（如编程）的加速器。以下是三个新领域的例子：
1. **menugen**：一个完全由 LLM 驱动、无需传统代码的应用。输入图片，输出图片，LLM 可以原生完成这一过程。
2. **用 .md 技能取代 .sh 脚本**。既然可以用文字写出安装步骤并让 LLM “直接执行”，为何还要编写复杂的 Software 1.0 bash 脚本？LLM 是高级的英语解释器，能智能适配你的环境并进行实时调试。
3. **LLM 知识库**：这是传统代码无法实现的功能，因为它涉及对来自任意来源、任意格式（如纯文本文章等）的非结构化数据进行计算。
我强调这些是因为在每一次范式变革中，显而易见的变化往往只是加速或改进现有事物；但在这里，我们看到了有些功能是“本不该存在”的（例子 1、2），或者在以前根本无法实现（例子 3）。
第二个（正在探讨的）主题是解释 LLM 能力分布的“锯齿状”特征。即为什么同一个模型可以同时做到：1) 有条理地重构 10 万行代码库，且 2) [此处原文中断]...
最近有人向我指出，OpenClaw 时刻之所以如此轰动，是因为它让大量非技术人员（此前仅将 AI 等同于 ChatGPT 网站）首次体验到了最新的智能体模型。
从我的时间线来看，人们对 AI 能力的认知正出现日益扩大的差距。
我认为第一个问题在于使用的时效性和版本等级。很多人去年试用了 ChatGPT 的免费版，并过度以此来定义对 AI 的看法。这类人的反应通常是嘲笑模型的各种怪癖、幻觉等问题。我也看到了 OpenAI 高级语音模式在处理“我是开车还是走路去洗车房”这类简单问题时表现笨拙的病毒式视频。但问题在于，这些免费且陈旧/过时的模型，根本无法代表今年最新一代最顶尖的智能体模型的能力，尤其是 OpenAI Codex 和 Claude Code。
但这引出了第二个问题。即便人们每月支付 200 美元使用最顶尖的模型，很多能力在高度技术化的领域表现也呈现出“极不均衡”的特征。搜索、写作、建议等典型查询，并不是能力提升最显著、最剧烈的领域。部分原因是强化学习的技术细节及其对可验证奖励的使用；部分原因则是，在模型能力的迭代过程中，公司并不太重视这些用例，因为它们带来的商业价值不够高。真正的金矿在别处，研发重心也随之转移。
所以这引出了第二类人，他们既 1) 付费使用最前沿的智能体模型（OpenAI Codex / Claude Code...
GitHub Gists 的评论质量高得惊人。更有用、更有见地、更有建设性，而且 AI 痕迹少得多……是因为用户社区？Markdown 格式？还是因为（缺乏）激励机制？
突然觉得我也该多发点 Gist 了。
@github 考虑和 X 竞争一下吗 (?)
Farzapedia 是 Farza 的个人维基百科，是我之前关于 Wiki LLM 推文的一个极佳实践案例。
与那种号称“越用越聪明”的 AI 现状相比，我非常喜欢这种个性化实现方式，原因如下：
1. **显性化**。记忆载体是显性的且可查阅的（即维基百科）。你可以精准地看到 AI 知道什么、不知道什么，并能检查和管理这些内容，即便你并不直接编写文本（由 LLM 完成）。关于你的知识不再是隐晦不明的，而是显性且可见的。
2. **归你所有**。数据就在你的本地电脑上，属于你个人。它不会被困在某个 AI 厂商的系统中无法提取。你拥有信息的主控权。
3. **文件胜于应用 (File over app)**。这里的记忆只是通用格式（图像、Markdown）的文件集合。这意味着数据具有互操作性：因为它们只是文件，你可以使用各种工具、命令行界面（CLI）等来处理这些信息。智能体可以利用整个 Unix 工具集来操作它们，并能原生读取和理解。任何数据都可以作为输入导入为文件，任何界面都可以作为输出进行查看。例如，你可以用 Obsidian 查看，或者自己随性写个程序来用。搜索“File over app”可以了解这一理念。
4. **自带 AI (BYOAI)**。你可以使用任何你喜欢的 AI 来“接入”这些信息——无论是 Claude、Codex 还是 OpenCode。你甚至可以考虑……
我一直在思考一件事：我非常看好人们（在 AI 的赋能下）提升政府透明度、可理解性与问责制的能力。
历史上，通常是政府通过手段让社会变得“可读”（例如常说的“视如国家”），但有了 AI，社会可以显著提升这种“反向操作”的能力。政府问责制的瓶颈不在于获取数据（政府各部门已发布海量数据），而在于“智能”——即处理大量原始数据、结合专业知识并从中提取洞察的能力。以一份 4000 页的综合法案为例，它在原则和法律意义上是“透明”的，但对大多数人而言，在实际层面绝非如此。类似的还有：法律、支出法案、联邦预算、信息自由法响应、游说披露等。过去，只有少数受过高度专业训练的人（如调查记者）能处理这些信息。而现在，这一瓶颈可能正在消失——不仅专业人士将获得更强的能力，更多的人也能参与其中。
具体例子包括：详细的支出与预算账目、立法变更追踪、个人投票趋势与其公开立场或演讲的对比、游说与影响力分析（例如：游说者 $\rightarrow$ 公司 $\rightarrow$ 客户 $\rightarrow$ 立法者 $\rightarrow$ 委员会 $\rightarrow$ 投票 $\rightarrow$ 法规的关系图）、采购与合同、监管俘获预警、司法……
哇，这条推文火了！
我想通过“想法文件”（idea file）分享一个可能稍作改进的版本。“想法文件”的核心理念是：在 LLM Agent 时代，分享具体的代码或应用已不再那么必要，你只需分享想法，对方的 Agent 就能根据其特定需求进行定制和构建。
这是该想法的摘要：https://t.co/NlAfEJjtJV
你可以把这个交给你的 Agent，让它为你构建专属的 LLM 维基并指导你如何使用。我特意写得比较抽象，因为它的发展方向非常广泛。当然，大家也可以在讨论区完善这个想法或贡献自己的见解，这很棒。
LLM 知识库
最近我发现一个非常实用的方法：利用 LLM 为各种研究兴趣话题构建个人知识库。通过这种方式，我最近的大部分 Token 消耗不再用于处理
这次是 npm axios 遭到了供应链攻击，它是最流行的 HTTP 客户端库，每周下载量高达 3 亿次。
扫描系统时，我发现几天前在测试 gmail/gcal cli 时，从 googleworkspace/cli 导入了一个包。幸运的是，安装的版本解析到了未受影响的 1.13.5，但由于项目依赖未锁定版本，如果我是今天才操作，代码就会解析到最新版本，那我直接就中招了。
虽然可以通过本地设置（如限制发布时间、使用容器等）在一定程度上进行个人防御，但我认为包管理工具（如 pip、npm 等）的默认机制最终必须改变，以防止单次感染（由于安全扫描，这类感染通常持续时间较短）通过未锁定的依赖项在用户间随机且大规模地扩散。
详细文章请见：
https://t.co/EJAZbqAPIQ
- 写了一篇博文
- 花了 4 个小时用大模型精雕细琢论点
- 哇，感觉太棒了，非常有说服力！
- 突发奇想，让它反驳一下
- 大模型直接把整个论点拆解得体无完肤，甚至让我相信反面才是真理
- 笑死
大模型在被问及观点时可能会给出某种立场，但它们极其擅长从几乎任何角度进行辩论。这其实是形成个人观点的极佳工具，只要记得尝试不同的论证方向，并警惕模型的“迎合倾向”即可。
大约一年前我开发 menugen 时，我发现最难的部分绝非代码本身，而是为了让它落地，你必须像组装宜家家具一样，去拼凑海量的服务。也就是 DevOps：支付、鉴权、数据库、安全、域名等等。
我非常期待有朝一日，我只需对我的 AI Agent 说：“开发 menugen”（参考此帖），它就能搞定一切，直到完成网页部署。Agent 需要浏览各种服务、阅读文档、获取 API 密钥、让一切运转起来、在开发环境调试，最后部署到生产环境。这才是真正的难点，而非代码本身。或者更准确地说，整个 DevOps 生命周期都必须代码化，并配备符合 Agent 操作习惯的 CLI/API 接口。人类无需再访问网页、点击按钮或进行任何类似操作。
说起来容易，目前技术上虽勉强可行，
(我轮流测试过各种大模型，它们似乎都有这种倾向，说明这并非特定实现的问题，而是更深层的原因。例如，可能在训练时，上下文窗口中的信息大多与任务相关，导致模型形成了“倾向于使用给定信息”的偏见，从而在测试时会对任何通过记忆功能(?)经由 RAG 检索到的内容产生过拟合。)
所有大语言模型在个性化方面都有一个共同问题：记忆似乎会干扰模型。哪怕是两个月前问过的一个话题，模型也可能一直将其误认为我的深度兴趣，没完没了地提及，显得有些用力过猛。
软件噩梦：litellm PyPI 供应链攻击。
只需简单的 `pip install litellm`，就足以窃取 SSH 密钥、AWS/GCP/Azure 凭据、Kubernetes 配置、git 凭据、环境变量（所有 API 密钥）、shell 历史记录、加密
谢谢 Sarah，很高兴能参加你的播客！也欢迎在评论区继续提问。
必须立刻去看《挽救计划》（改编自安迪·威尔的作品，他也是《火星救援》的作者）。很高兴也很欣慰：1) 电影在内容和基调上都非常贴近原著；2) 制作水准极高。
在刻画外星人方面，这本书是我的最爱之一，因为它在异质生物化学、进化史、感官系统、心理、语言、技术树等科学细节上显然下了很大功夫。它既有足够的差异性，显得极具创意且合理；又保留了足够的相似性，从而构建了一个引人入胜的故事，以及科幻史上最棒的“兄弟情”。更不用说那些（单细胞）外星生物了。在虚构作品中，能把外星人刻画得如此深刻的寥寥无几。书中的许多细节在电影中只是点到为止——读过书的人能察觉到，但没读过的人可能觉得电影没时间把这些细节讲透。
我个人觉得，电影在节奏、俏皮话和情感突变等方面有点过于趋向超级英雄电影的套路了，少了点《星际穿越》的宏大感，也少了点《火星救援》的科学感，但考虑到原著的基调，我觉得这也可以接受。而且它在关键点上做得非常出色——尤其是洛奇（Rocky）和那段兄弟情。