2026-10-04
🎬 YouTube
1. 后训练会留下“行为阴影”|Latent Space
本期 Paper Club 聚焦模型后训练带来的持续性行为痕迹,讨论训练阶段的干预如何在最终模型表现中留下可观察的“阴影”。这个议题提醒开发者:评估模型时不能只看能力指标,也要关注后训练对行为模式和稳定性的长期影响。
2. MiMo:扩展强化学习背后的工程实践|Latent Space
这期 Paper Club 围绕 MiMo 展开,重点放在大规模强化学习系统背后的工程设计。内容适合关注 RL 训练基础设施、规模化瓶颈,以及算法方案如何落地为稳定训练流程的读者。
🎙️ 播客
无近期更新。
📝 博客
1. 几乎所有服务都需要默认的硬预算上限|Simon Willison
Simon Willison 主张,为各类可产生持续费用的服务默认设置不可突破的预算上限。随着 AI API 和自动化代理能够自主触发大量调用,硬上限不仅是成本控制手段,也是防止程序失控造成意外账单的基础安全措施。
🗞️ Techmeme 热点
1. OpenAI 介绍与博通联合设计的 Jalapeño 推理芯片
OpenAI 硬件副总裁 Richard Ho 受访谈及 Jalapeño 推理芯片,并透露团队在芯片设计过程中使用了 OpenAI 自有模型。这显示 AI 模型正同时成为芯片的工作负载与设计工具。
2. AI 自动化纯数学研究,人类仍负责决定“问什么”
Stephen Wolfram 讨论 AI 介入纯数学研究后面临的形式化难题,并强调人类想象力仍是选择研究问题的关键。AI 可以加速推导与验证,但研究方向和问题价值尚难由自动化替代。
3. 东芝计划为 AI 数据中心扩大硬盘产能
东芝计划在 2027 财年内把面向 AI 数据中心的 HDD 产能提升至 2025 年的两倍,并争取按存储容量计约 30% 的市场份额。AI 基础设施扩张正在把需求从 GPU 延伸到大容量存储层。
4. 无效 AI 报告激增,Google 暂停 OSS 漏洞奖励项目的产品缺陷提交
Google 因大量无效的 AI 生成报告涌入,暂时冻结其开源软件漏洞奖励项目中的产品缺陷提交。公司计划在 2027 年第一季度前更新机制,反映生成式 AI 已给安全报告审核带来明显噪声成本。
5. Airbnb 探索代理间交互与 AI 原生操作系统
Airbnb CEO Brian Chesky 表示,公司正在研究 agent-to-agent 交互,并认为传统聊天机器人并不适合旅游电商的复杂决策流程。他还提出需要 AI 原生操作系统,暗示未来旅行服务可能由多个智能代理协同完成。
📊 YouTube 2 条 | 播客 0 条 | 博客 1 条 | Techmeme 5 条 | 精选 8 条