必须能在生产环境的模型上站得住的研究。

打开模型，而不是绕着它猜

一个能给出好答案却无人能说清原因的模型，是一个无人能审计的模型。我们的可解释性工作试图用结构取代这种不确定： 回路、特征，以及可以被检验——而不是被叙述——的干预。

我们给自己定的实践标准是：一项发现必须能改变行为。如果我们定位到一个机制，就应该能引导它、破坏它， 并预测干预的后果——在分析从未见过的任务上。

• 对可命名行为（如拒绝与含糊其辞）的回路级追踪。
• 在不同模型规模与检查点之间保持稳定的特征提取。
• 带预注册预测的引导实验，无论结果是否成立都公开发表。
• 让外部研究者无需我们协助即可复现发现的工具链。

如果一个解释无法被实验证伪，它描述的是我们自己的信心，而不是模型。

让行为符合明说的意图

我们所说的对齐不是礼貌。它是系统被要求优化的目标与它实际所做之间的差距——任务越长、反馈越稀疏， 这个差距就越大。

• 在没有唯一正确答案的任务上仍然诚实的训练目标。
• 压力下的诚实与校准，包括模型被训练得更讨好人的地方。
• 可扩展监督：随着产出超出审查能力，让人类仍然有意义地处在回路中。
• 对长程智能体任务中的行为漂移进行测量，而不是假设。

哪些路没走通

仅靠偏好调优弥合不了这个差距；它教会模型的是哪些答案会被批准，这与哪些答案是正确的是两回事。 我们发表的若干阴性结果，正是被这个区别反复绊住之后才有的。

作为研究仪器的基础设施

很多安全工作的瓶颈不是想法，而是验证想法的成本。我们投资于把假设在一天之内变成一次运行的"水管"： 训练基础设施、评测框架与可复现性保证。

• 评测运行的确定性回放，让分数在数月之后仍可重新推导。
• 持续运行、而非仅在发表前运行一次的污染检查。
• 不让小实验排在大实验后面的集群调度。

假设有人正耐心地探测这个模型

这里的红队测试，是系统地寻找那种能在演示中幸存下来的失败：经由检索内容注入指令的路径、越权的工具调用， 以及模型能认出来并"为之表演"的评测环境。

• 威胁模型写在能力上线之前，而不是事故之后。
• 拥有发表权、且公关团队没有否决权的外部红队。
• 发现回流进扩展政策，而不只是一页幻灯片。

这一切正如何落在真实工作上

总量统计会遮住真正值得看的东西：哪些任务被交给了模型、在哪些职业里、这次交接是增强还是替代。 我们发布一个基于匿名聚合使用数据的定期指数，方法论公开，并欢迎任何批评。

• 任务级而非岗位级的度量，因为岗位是一堆任务的打包。
• 区域与行业拆分，样本量与数字一起披露。
• 覆盖替代风险（而不只是采用率）的调研工作。

模型最有用的地方，是搜索空间最枯燥的地方

我们能指出的收获，很少是模型自己有了洞见。它们是模型承担了研究项目里乏味的中段——筛选候选、起草流程、 整理文献——让人更早碰到有意思的问题。

• 生物与材料发现，以湿实验验证为最终裁判。
• 引用逐条核对过原文的文献综合。
• 面向经费并不宽裕的实验室的工具工作。

在影响还软的时候研究它

大多数技术的社会影响，都在塑造它的设计决策过去几十年之后才被记录。我们宁愿在研究还能改变我们要造的东西时 就把它做完——这意味着会发表对我们自己产品并不好看的结果。

• 关于信任、依赖与技能退化的纵向追踪。
• 可及性问题：谁、在哪些语言里、以什么价格用得上它。
• 面向公司外部研究者的独立经费资助。

近期论文

预印本与同行评审工作，按时间倒序。可公开的代码与数据均已附链接。