MxS
2025年Peregrine报告
已完成

2025年Peregrine报告

AI安全 研究 政策

假设你不受资金限制,可以获得世界上所有的人才:在未来2年内能产生实质性影响的顶级干预措施是什么?这些项目应该让你对人类在变革性AI方面的发展轨迹感到明显更乐观,觉得”我们正在正确的道路上”。

这是我们向来自OpenAI、Anthropic、Google DeepMind、欧盟AI办公室、多个AI安全研究所、METR、RAND等机构的48位专家提出的问题。

当前沿AI实验室的CEO们开始公开预测变革性AI将在2026-2027年到来时,我们注意到一个空白:没有一份全面的资源来梳理在这些压缩的时间表下哪些干预措施可能真正有效。所以我们去问了那些最接近问题的人。

结果:跨八个领域的208项具体项目提案,从技术对齐研究到国际协调再到危机准备。

最让我惊讶的是其广度之大。这不是一个在等待理论突破的领域。有很多旋钮可以转动,人们想要去转动它们。

我的角色

我设计了方法论,主导了大部分访谈,并推动了综合分析。该项目最初是为Halcyon Futures静修活动做准备,资深参与者在活动中对提案进行了压力测试和优先级排序。MxSchons GmbH负责运营后台。

合作者

Samuel Hargestam(协调、报告定稿),Gavin Leech(访谈处理),Raymund Bermejo(运营)。

报告去向

已与OpenAI FoundationCoefficient Giving及其他资助方分享,作为AI安全投资组合的规划资源。


在riskmitigation.ai阅读完整报告