Anthropic可能已触及AI加速红线
摘要
METR评估称Anthropic模型能力进步速度约为此前2倍，两年的进展约一年即可完成，加速或主要来自Claude参与AI研发，7月可能已触及预警门槛，但双方多数研究人员倾向认为尚未越线。
原文片段
Anthropic警告AI可能失控式提速，METR：7月就已经跨过红线！ 动察 Beating AI 快讯，Anthropic 几天前刚在 IPO 招股书中警告，AI 可能很快跨过自我加速研发的安全门槛。现在，独立评估机构 METR 公布调查结果：这条预警线早在今年 7 月就可能已经被触及。 METR 花了 11 周调查 Anthropic 的内部研发数据，包括模型训练、算法改进、未发布模型的测试成绩和员工访谈。研究人员估计，截至今年 10 月，Anthropic 的模型在有明确评分标准的任务上，能力进步速度约为此前的 2 倍。相当于过去两年取得的进步，现在约一年就能完成。 这种加速主要…