Anthropic称接近递归自我改进
摘要
Anthropic在最新S-1A文件中提到，公司已非常接近做出具备递归自我改进能力的模型，并表示用AI帮助构建更强AI可能带来较大安全风险，相关风险纳入其“负责任扩展政策”进行监控。
原文片段
Anthropic招股书称已接近递归自我改进模型 虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上，但这家人工智能实验室在细则中又抛出了一颗小炸弹 —— 公司已经非常接近做出具备递归自我改进(RSI)能力的模型。 该公司在上述文件中指出，其在研发中大量使用人工智能，但同时提醒：“用 AI 去帮助构建能力更强的AI，也可能带来相当大的安全风险，尤其是在它急剧加快进展速度的时候。” 这类风险被纳入公司的“负责任扩展政策”（RSP）加以监控。“该政策阐述了我们在推进所谓 ‘递归式自我改进’ 的过程中，如何监测和降低风险的计划，”文件补充道。 —— 财联社