美议员呼吁立法禁AI自我改进
摘要
民主党议员Alex Bores呼吁国会今年立法禁止AI递归自我改进（RSI），称AI的错误与对齐偏差会逐代放大；OpenAI称2028年3月实现，Anthropic员工称2027年可达成。
原文片段
美民主党议员呼吁国会今年立法禁止 AI 递归自我改进 美国民主党议员 Alex Bores 发文呼吁美国国会今年立法禁止 AI 递归自我改进（RSI），即让 AI 自动构建下一代 AI，并称这已是桑德斯、班农、本吉奥等多方支持的共识。他认为当前 AI 的任何错误或对齐偏差都会在每一代中放大。 OpenAI 称计划于 2028 年 3 月实现，Anthropic 员工则称 2027 年即可达成；Bores 认为 METR 报告显示这些预测很可能准确，因此禁令刻不容缓。 Alex Bores(@AlexBores) 🌸 科技圈· 茶馆 · 投稿