哈萨比斯提议前沿AI模型部署前独立安全审查
Google DeepMind CEO Demis Hassabis 在 X 平台发布题为《A Framework for Frontier AI and the Dawning of a New Age》的提案,呼吁设立仿照美国金融业监管局(FINRA)模式的独立标准机构,对前沿 AI 模型发布进行审查。提案设想前沿实验室在公开发布前最多 30 天自愿向该机构提交模型进行评估,待评估协议被验证有效后转为强制性要求,通过审查的前沿模型才能进入美国市场。该机构计划由 AI 行业出资、美国政府背书并独立运作,人员包括开源社区代表和行业技术专家,可将特定风险评估外包给专业 AI 安全组织。此建议建立在特朗普政府对 Anthropic Mythos 与 OpenAI Sol 模型临时审查的基础上,针对外界对政府审查技术专业性不足与决策不透明的批评作出回应;与此同时,白宫 AI 顾问 Sriram Krishnan 此前已明确表示不会出现针对 AI 的食药监局类监管机构。 Demis Hassabis(Google DeepMind 联合创始人兼 CEO)在《The Economist》采访中提出借鉴 FINRA 模式的前沿 AI 安全审查框架,主张在最强模型发布前进行安全测试,而非依赖传统政府监管。Hacker News 讨论围绕多条主线展开:一是质疑 AGI 临近叙事缺乏可验证性,认为真正的风险是就业冲击与社会分配而非模型失控;二是质疑 FINRA 式方案可能沦为美国单边标准,并抬高门槛、加固大公司护城河;三是批评该提议本质是前沿实验室借"AI 安全"为自身议程争取资源与监管俘获;四是从后稀缺经济、智能体权利等角度提出更长期的制度与伦理问题。