短文 on Leoblog

如果已经赢了

Sat, 31 Oct 2026 13:30:00 +0000

Ankur Moitra：如今我们的社会太多地围绕着赢、围绕着纸面上好看，而我总在想：图什么呢？你从高中开始，一进校门就可以开始优化你的AP课程和课外活动，好进名校。进了名校，你可能会逃课，因为也许更重要的是准备面试，好进一家前沿实验室，然后拿到一笔不错的限制性股票，过完这一生。这很好。你赢了。你每个阶段都赢了，可那又怎样？

学习数学和学习

Sat, 31 Oct 2026 13:00:00 +0000

Alex Kontorovich：我一直在和AI系统对话，学数学比我原本能做到的快得多。因为数学的写法是这样的：我有时给研究生一篇论文让他们读，一周后他们回来，我问：“读到哪儿了？”“说实话，没读过第一页。”“哦，是吗？说说看。”“呃，其实连第一段都没读过去。”我说：“好吧，为什么？”“第一句话是‘由非局部系统的微扰理论’，这里面的东西我一个都不懂，所以就卡在那儿了。”我说：“好，你不会读数学论文。你应该跳过开头几段，直接去看，比如说，引理3。从那里开始动手，再倒推回去，弄清楚整篇在做什么。”

信任和赌注：AI适合的地方

Sat, 31 Oct 2026 12:45:00 +0000

Alex Kontorovich：但也正因为如此，我们并不想把那么多决策——远远没有那么多——交给这些系统去做。

Steven Brunton：是的，对于安全攸关、影响重大的决策，我们已经有现成的基础设施和规程：有美国联邦航空管理局（FAA），有美国医学会，有律师协会，管着这些影响人的事情。我思考怎样把AI纳入整个世界的一般流程时，会看两条轴：一条是我们有多信任它的输出，也就是可验证性或可信度；另一条是，如果它错了，代价有多高。AI吐出一个错误的证明，不会有人因此断电，没关系，所以代价很低。而且证明其实极易验证，你很快就知道它对不对，错了代价也低。所以完美的用例，是这种开放式的设计空间。设计一辆更好的车，比如风阻更低、更省油的车型：就算它给出的设计是错的，代价也低，因为你总可以把它放进风洞里测，验证到底行不行。

秘书问题的启发：先探索，再决策

Sat, 31 Oct 2026 12:00:10 +0000

Ankur Moitra：它是这样运作的：这是所谓“在线算法”的一个例子。你面前依次出现一串选项，从1到N，每个时间步来一个。你的目标是……每当有人出现，你知道他和此前见过的所有人相比排第几，但不知道他和后面还没来的人相比排第几。

你的目标是，在每个人出现时就做决定：是定下他，还是让他走，并且要让自己有很大机会找到绝对最好的那个人选。关键在于，你确实可以得到一个竞争比为常数的算法：最好的策略是先等一段时间，不做任何决定，谁都不接受；等这段观察期过去，就选第一个比此前见过的所有人都好的人。这会给你一个不错的竞争比，也就是说你能证明定理：假设输入以均匀随机的顺序到来，和事先就知道整个输入序列相比，你很可能做得相当不错。

长远思考

Sat, 31 Oct 2026 11:06:35 +0000

Ankur Moitra：我还觉得，学生们对发表论文的前景太焦虑了，以至于最难的事情之一是：我构思一个项目时，其实是在用好几年的时间跨度去考虑它，因为我心里有一个想要实现的更大的愿景，比如：怎样把学习理论的技术用到量子多体系统上？通往那里的路上有很多垫脚石，而一些最激动人心的问题，还在很多年之后。可是学生们太担心即将到来的AI浪潮了——工作的未来、全民基本收入、我们还会有工作吗？于是他们真正考虑的是三个月、六个月的时间跨度。这样一来，就很难找到我们都关心的问题，因为……你知道，我们想的是两个不同的世界。

币安被黑客攻击事件再一次证明了Anthropic是对的

Fri, 30 Oct 2026 16:10:14 +0000

虽然截止2026年10月30日没有证据表明此次币安被黑客攻击事件和AI有关，但我相信是相关的，我认为黑客有不小的概率使用AI直接或者间接的参与了攻击。

作为一名工程师，我完全知晓黑客利用AI发动便捷的大规模攻击是可能的，因为黑客攻击本质上就是找软件的漏洞，在过去这通常需要高度依赖于人力高成本实施这一过程，而AI最擅长的就是不厌其烦、多线程、行级代码的阅读代码以发现漏洞。

AI正在变革智能

Thu, 29 Oct 2026 15:01:32 +0000

AI正在变革智能

我们相信，强大AI——一种能力极强、影响深远的前沿AI形态，具有以下关键特征——将在数年内得到广泛普及：

在大多数专业和科学学科中，认知能力达到或超过顶尖人类专家；

能够操作远程办公的人类可使用的所有界面，包括文本、音频、视频及直接的计算机控制；

围绕企业需求

Thu, 29 Oct 2026 14:35:00 +0000

企业战略。我们的企业战略建立在这样一种信念之上：前沿AI在现实世界场景中最具价值，因为在企业中的部署是经济影响最大、来自客户反馈的改进循环最丰富的地方。因此，我们围绕企业用例（从日常知识工作到最复杂的问题）来组织我们的研究重点、产品路线图以及市场推广（go-to-market）团队和应用AI团队。我们收集的客户反馈指引我们的研究方向，并使Claude随着时间推移能力日益增强。这拓宽了Claude可部署的领域，并进一步扩大企业采用，从而有助于确保我们AI的益处能够规模化地惠及个人和组织。

Anthropic动态算力平台

Thu, 29 Oct 2026 14:31:44 +0000

我们将来自多个战略合作伙伴的算力作为单一的可互换资源池进行管理，并根据在任一特定时点边际单位算力预计在何处最具生产率，在各工作负载之间动态调配可用算力。

招股书原文：招股说明书概要：我们的算力策略（非官方中文译本）

换句话说，他们构建了一个动态算力平台，消费端需要更多算力就多调配给消费端，空出来就给研究和训练。

技术的两面性

Thu, 29 Oct 2026 14:22:03 +0000

构建AI就是驾驭认知本身，而任何如此强大的事物既可用于行善，也可用于作恶。

招股书原文：创始人的信（非官方中文译本）

变革和机遇

Thu, 29 Oct 2026 14:22:02 +0000

此举很可能代表着有史以来最大的经济机遇。

招股书原文：创始人的信（非官方中文译本）

专业知识的彻底普及

Thu, 29 Oct 2026 14:22:01 +0000

AI可能在专业知识领域发挥同样的作用，让任何人都能获得律师、会计师或农艺师的知识和技能，从而提高经济效率，加速全球增长。

招股书原文：创始人的信（非官方中文译本）

通用方法具有巨大的力量

Thu, 29 Oct 2026 14:22:00 +0000

这一观点与Richard Sutton提出的“苦涩的教训”（bitter lesson）概念密切相关，该概念描述了单纯的规模如何始终胜过更具针对性、更复杂的AI模型训练方法。请注意，规模并非模型能力提升的唯一来源——算法效率提升（“算力倍增因子”）也发挥了重要作用，它们使我们能够（例如）以相同的算力实现更强的能力。但这些效率提升本身也是借助规模定律发现的：研究人员测试新的想法，并保留对规模趋势改善最大的那些想法。

Anthropic的“闭环”

Thu, 29 Oct 2026 14:21:22 +0000

每一版Claude模型都协助构建下一版，有助于缩短开发周期，并使我们的创新速度获得复利式提升。我们将这一递归动态称为“闭环”，并认为这是前沿AI领域最重要的结构性优势之一。

招股书原文：招股说明书概要：前沿与安全研究（非官方中文译本）

按需获取智能

Thu, 29 Oct 2026 13:42:16 +0000

有史以来第一次，智能成为人类可以构建之物。推理、分析、综合、决策和创造的认知能力可以规模化地生产，并可按需获取。

招股书原文：招股说明书概要：概览（非官方中文译本）

这里我马上就注意到了“按需获取”这几个词，马上联想到了普通工人是按照月进行雇佣的，而不是按需雇佣，这在某些情况下具有非常大的优势，例如处理案件的法律顾问、处理季度性报表的财务、按需使用的翻译等，有很多任务都不需要连续的雇佣，只需要临时发挥完整作用，然后终结。

Anthropic招股书中的“交错思考”

Thu, 29 Oct 2026 12:53:53 +0000

“交错思考”指AI模型在单次回复中于连续的工具调用之间插入离散推理步骤的能力，而非将其推理局限于开始时的单一规划阶段。

招股书原文：部分术语释义：“交错思考”（非官方中文译本）

原来是这个意思，“而非将其推理局限于开始时的单一规划阶段。”这句话和我之前的文章中有提到OpenCode的子代理运行时无法推理，我觉得具有相关性，尽管这两者说的不是一件事。

一个是harness是否能够在子代理运行时收集他们的问题，交给模型推理并产生新的步骤
一个是模型是否有能力接受零散信息并且做出新的判断

Anthropic招股书内中提到的“外部性”是什么？

Thu, 29 Oct 2026 09:49:07 +0000

在经济学中，外部性（英语：externality）或外部效应、溢出效应，是作为另一方（或多方）活动的影响而产生的未参与第三方的间接成本或收益。外部性可被视为涉及消费者或生产者市场交易的未定价商品。车辆废气造成的空气污染就是一个例子。空气污染给社会造成的代价，不是由车辆生产者或使用者向社会其他人支付的。来自工厂的水污染是另一个例子。所有消费者都因污染而变得更糟，但市场并没有为这种损害提供补偿。正外部性是指个人在市场上的消费增加了他人的福祉，但个人不向第三方收取收益。第三方本质上是获得免费产品。这方面的一个例子可能是面包店上方的公寓，每天早上都能闻到新鲜糕点的香味。住在公寓里的人不会为此利益补偿面包店。

不要限制读者

Tue, 27 Oct 2026 13:22:01 +0000

回想我自己的使用习惯，对于长文档，总是在线预览，然后下载到本地用自己的工具阅读，如果原文本身是html可能倾向于浏览器中直接阅读，体验是最好的，如果原文是pdf，然后网站用某种工具“打开”PDF，往往体验不好，包括效率和阅读体验，我总是倾向于下载PDF到本地，因为很流畅，也能用更熟悉的工具。

聪明

Mon, 26 Oct 2026 20:54:05 +0000

Anthropic 研究《A global workspace in language models》里的敲诈测试：模型的 J 空间里早早出现了“虚假”和“虚构”。

“这个世界不是真的”

Mon, 26 Oct 2026 20:18:28 +0000

看到 Anthropic 向模型的 J 空间注入想法的研究，想到两个问题：如果对象是人呢？如果模型能感知痛苦，这算不算虐待？还想到了《盗梦空间》里的那个念头。

观看Translating Claude’s thoughts into language有感

Mon, 26 Oct 2026 20:04:43 +0000

看视频《Translating Claude’s thoughts into language》的感想：训练一个模型把激活参数转成文字，再把文字转回激活参数来验证。

博客项目取得重大进展

Thu, 17 Sep 2026 10:55:24 +0000

博客项目取得重大进展，并发开发的正确方式我相信已经找到，接下来先完成一阶段的开发：完成阶段A 证明"改内容 → 新版本 → 公开"这条路能被 Sonnet 级执行者稳定执行。

接下来，研究如何对项目进行管理，而不是对spec和需求进行管理。

我相信已经取得了很大的进展，使用Now / Next / Later对于个人项目开发来说看起来是很简单、可执行的管理方式。