2026-06-23
🎬 YouTube
无近期更新。
🎙️ 播客
Latent Space: Red-Teaming after Mythos — Zico Kolter & Matt Fredrikson, Gray Swan
这一期请到 OpenAI 董事会成员 Zico Kolter 和 Gray Swan CEO Matt Fredrikson，重点讨论 Mythos/Fable 之后 AI red teaming 的新现实：AI 安全不是“传统网络安全 + AI”，而是 agent、工具调用、权限和非可信输入交织出的新攻击面。节目详细讲了 indirect prompt injection、Gray Swan Arena、Shade 自动化红队工具、Cygnal guardrail，以及 Simon Willison 所说的“lethal trifecta”：非可信数据、私有数据、外泄通道同时出现时风险急剧上升。对使用 Codex、Claude Code、computer-use agent 的团队尤其相关，因为这里的核心问题已经从“模型会不会说错话”变成“模型能不能被诱导去操作真实权限”。
🔗 链接
📝 博客
Simon Willison: Prompt Injection as Role Confusion
Simon 摘要了一篇关于“role confusion”的论文：模型并不能稳定区分系统/开发者等 privileged text 和用户输入中的仿写文本，而且会过度依赖文本风格来判断“这段话属于哪个角色”。论文里的实验显示，把攻击文本改写成更不像内部思考/角色标签的风格后，攻击成功率从 61% 降到 10%，说明模型对格式和语气非常敏感。这个结论对 prompt injection 防御很不乐观：只靠更强提示词或标签包装，很可能仍是在打地鼠。
🔗 链接
Simon Willison: Porting the Moebius 0.2B image inpainting model to run in the browser with Claude Code
Simon 把 Moebius 0.2B 图像修复模型从原本依赖 PyTorch/CUDA 的形态，迁移到浏览器里用 ONNX Runtime Web + WebGPU 运行，并上线了 GitHub Pages demo。过程里他把 Claude.ai 用作前期可行性研究，把 Claude Code 用作并行实现 agent，还要求它维护 research/plan/notes 文件和频繁 commit，形成了一个很清晰的 agentic coding 工作流案例。关键工程点包括 1.24GB ONNX 权重发布到 Hugging Face、前端从 GitHub Pages 加载，以及浏览器缓存大模型权重这类真实部署问题。
🔗 链接
🗞️ Techmeme 热点
Nvidia 医疗 AI 负责人谈 AI 如何减轻医生负担
Financial Times 采访 Nvidia 医疗业务 VP Kimberly Powell，主题是 AI 如何缓解医生工作量和受训医护人员短缺。重点落在医疗工作流自动化和临床辅助，而不是单纯模型能力展示。
🔗 链接
房产从业者越来越多使用 AI 虚拟布景，可能误导租售房源
The Verge 报道，Stuccco、BoxBrownie 等 AI 虚拟 staging 工具被更多房产从业者用于生成更吸引人的房屋/公寓照片。问题在于这些图片可能让房源状态显得比真实情况更好，带来透明度和消费者误导风险。
🔗 链接
高通据称接近以约 40 亿美元估值收购 Modular
Bloomberg 称，高通正与 AI 芯片创业公司 Modular 进行深入收购谈判，交易估值约 40 亿美元，明显高于其 2025 年 9 月的 16 亿美元估值。若成行，这会加强高通在 AI 编译器、芯片软件栈和加速生态上的布局。
🔗 链接
Oracle 一年内员工减少 2.1 万，称 AI 采用带来岗位缩减
Bloomberg 根据文件报道，Oracle 全球员工数在过去 12 个月减少 21,000 人，截至 5 月 31 日为 141,000 人。公司将部分缩减归因于 AI 采用，这是一条很直接的企业级 AI 替代/效率化信号。
🔗 链接
Sakana AI 发布 Fugu，多智能体编排系统通过单一模型 API 提供
VentureBeat 报道 Sakana AI 推出 Fugu，一个可通过单一模型 API 使用的 multi-agent orchestration 系统。Sakana 声称 Fugu Ultra 在 benchmark 上可匹配 Fable 和 Mythos，值得关注其是否能把多 agent 能力产品化为更稳定的开发者接口。
🔗 链接
📊 YouTube 0 条 | 播客 1 条 | 博客 2 条 | Techmeme 7 条 | 精选 8 条