云端只读镜像
本机离线时仍可阅读
↗
𝕏 X
›
田渊栋 Yuandong Tian
田
田渊栋 Yuandong Tian
打开 X 主页 ↗
★
Star on GitHub
博主对机制可解释性乐观愿景持保留态度,主张从描述性行为转向基于梯度下降的数学理论框架
2026-10-17 · X · 3312 字
LLM 时代,务实的中国学生为何更有优势
LLM时代技术驱动转型,务实执行者因能快速验证与修正成为核心优势
2026-07-18 · X · 2325 字
Learning Mechanics 并非新概念:深度学习训练动力学的研究脉络
博主回顾多年深度学习训练动力学研究,列举六大非平凡可解案例以揭示学习机制的历史脉络
2026-04-25 · X · 2823 字
👉👉 使用我们的 Recursive Flint-40B-A2B 进行 AI 科学发现演示!🪨🪨
2026-10-21 · X · tydsh ·
打开 ↗
感谢 @ziv_ravid 的采访!聊得很愉快 😀
2026-10-06 · X · tydsh ·
打开 ↗
这周五下午会去参加 CoLM 会议。虽然因为太忙没法做演讲,但我仍会参加这个环节的圆桌讨论:https://wdlctc.github.io/efficient-reasoning-2026/。到时见~
2026-10-06 · X · tydsh ·
打开 ↗
我们发布 Coconut 时也收到了完全一样的评论😀。但即便有了显式的思维链(CoT),模型仍能学会隐藏真实的思考过程。终极的解决之道始终是理解模型的运作原理。
2026-09-02 · X · tydsh ·
打开 ↗
😅 所以我们的 StreamingLLM(最初那篇 attention sink 论文)又杀回来了?😅 —— 注意:这是在训练后(post-training)场景下。
2026-09-01 · X · tydsh ·
打开 ↗
我们的自动化系统有了有趣的发现😆 它检测到部分 FlashInfer kernel 存在数值问题,并自动提交了 PR,最终通过了专家审核🤓
2026-08-28 · X · tydsh ·
打开 ↗
赠Zeyuan Allen-Zhu🫡 世言大模惟精调,君执初心问真章。 动力学中观涨落,表达性里辨行藏。 万里独征云和月,所慕岂在功与赏。 他年若问登临处,格物致理照新航。 突き破れ、扉の向こうへ! (source: 鋼の錬金術師 ED,《扉の向こうへ》)
2026-08-21 · X · tydsh ·
打开 ↗
我们正在招聘沙箱与 LLM 推理方向的工程师。有意者请将简历发送至
[email protected]
2026-08-18 · X · tydsh ·
打开 ↗
🚨大模型后训练强化学习的新方法! 受此前 path-not-taken 研究的启发,我们深入探究了强化学习的学习轨迹,发现仅需优化权重矩阵的奇异向量(即旋转)即可获得良好的强化学习效果。这种“等谱优化”能以大幅减少的训练步数达到同等评分。 @zhu_hanqing666 及其合作者的出色工作!
2026-07-25 · X · tydsh ·
打开 ↗
😂历史上这种情况发生过无数次。人类+智能手机=超人;人类+大语言模型=超级超人。我们早已远胜20年前那些可怜的智人。
2026-07-25 · X · tydsh ·
打开 ↗
非常赞同。人类面临的最坏局面,莫过于少数精英掌控着最顶尖的模型(及其 API),而其他人只能将其奉为“神明”并祈求使用权。那才是真正的反乌托邦……
2026-07-24 · X · tydsh ·
打开 ↗
今天在 AMD AI 大会现场。
2026-07-22 · X · tydsh ·
打开 ↗
哇……看起来没问题啊?!
2026-07-20 · X · tydsh ·
打开 ↗
欢迎 @ChengleiSi 加入团队!让我们一起大干一场吧😆!
2026-07-20 · X · tydsh ·
打开 ↗
明天旧金山见! https://t.co/UVwCU72TX0
2026-07-17 · X · tydsh ·
打开 ↗
很荣幸受邀前往纽约观看世界杯 VIP 席位(7月4日-7月6日)。期间可能还有时间见见大家,想聊聊的朋友欢迎私信!
2026-06-29 · X · tydsh ·
打开 ↗
我们推出了 TAPA (https://t.co/YpO34Q4Zyp),它在位置编码中实现了幅值与角度贡献的解耦。相比原生 RoPE,TAPA 在 OOD(长文本)场景下表现更佳。我们还对其有效性提供了理论分析。 感谢 @yusidwang 及各位同事的出色工作!
2026-06-26 · X · tydsh ·
打开 ↗
我们超棒的队友 @cong_ml 为大家详细解读了我们的首批成果!
2026-06-12 · X · tydsh ·
打开 ↗
在 GPU 算子优化领域,我们的框架在 NVIDIA 的 SOL-ExecBench 中取得了整体 SOTA 成绩,并在全部 4 个子类别中均达到 SOTA。其表现甚至超越了:(1) GPU 人类专家设计的方案,以及 (2) 由 GPU 专家设计的其他 AI 系统生成的方案。 我们的系统具有通用性。目前我们团队并没有专门的 GPU 专家(不过在内部,我被戏称为算子“专家”😆)。 🔍 详情请见 NVIDIA 官方排行榜:https://t.co/0TILBEF5uk
2026-06-12 · X · tydsh ·
打开 ↗
干得漂亮 @YujieZhao455906!在这项工作中,我们构建了: 1️⃣ AMA-Bench:用于评估真实任务中长程记忆能力的基准; 2️⃣ AMA-Agent:通过追踪长轨迹中的因果关系和客观信息,实现了优于现有智能体设计的性能。 论文已被 #ICML2026 接收。欢迎使用😀 项目链接:https://t.co/MtGoJUzrSn。
2026-05-26 · X · tydsh ·
打开 ↗
CEO @RichardSocher 的最新博文!
2026-05-13 · X · tydsh ·
打开 ↗
很高兴能与 @_rockt 一路同行!
2026-05-13 · X · tydsh ·
打开 ↗
《纽约时报》关于 @Recursive_SI 的报道! https://t.co/5zrtbXQmJz
2026-05-13 · X · tydsh ·
打开 ↗
今天,Recursive 正式发布。 我们正在构建能够自动发现知识并实现递归自我改进的 AI。这一开放式过程将从根本上改变科学与技术的进步方式。 我们分布在旧金山和伦敦的 25 位顶尖研究员与工程师拥有多元化的专业背景,涵盖智能体 AI 科学家、架构与算法设计、世界模型、优化及可解释性等领域。我们怀揣着共同的信念:这是当今人类最值得攻克的课题。 欢迎加入我们,请将简历发送至
[email protected]
。关注我们 @Recursive_SI!
2026-05-13 · X · tydsh ·
打开 ↗
还有一点想说,在 Meta 的这五年里,作为经理或总监,我一直面临一个困境:不能过度亲力亲为,去干涉下属的工作范畴。 我甚至在绩效评估中因此收到了警告。在 OpenGo 项目中,我写了 90% 以上的代码,结果却被告知:“研究员应该做研究,工程师应该做工程。” 因此,通过承担第一作者或独立完成工作,是我保持端到端掌控感、了解项目实况的一种方式。 现在我非常开心,这种束缚终于彻底消失了,这都要归功于 AI 编程工具。
2026-04-30 · X · tydsh ·
打开 ↗
Prism is open source ·
⭐ Star on GitHub
·
about