跳到正文
原文
arXiv cs.CY·· 13 天前AI 评分12

风险上限与发展截止期限:安全生产率不确定下如何为 AI 发展定速

Risk Ceilings and Development Deadlines: Pacing AI under Uncertain Safety Productivity

AI 导读

针对安全生产率未知时监管者能否同时承诺风险上限与发展截止期限的问题,研究指出若最终模型未受保护的风险高于上限,则需具备最低安全知识存量,两项承诺只有在能排除低效研究时才成立。在仅含状态风险、安全产出恒定且知识完全迁移的校准下,先学习再重放开发、并为安全预留闲置算力,所需生产率仅比必要下限高 3.3%。固定算力分配的规则锁定的是日期而非风险。

来源:arXiv cs.CY · arxiv.org