美民主党议员呼吁国会今年立法禁止 AI 递归自我改进
美国民主党议员 Alex Bores 发文呼吁国会今年立法禁止 AI 递归自我改进（RSI），并称这已是桑德斯、班农、本吉奥等多方支持的共识。他认为 AI 的错误或对齐偏差会在每一代中放大。OpenAI 称计划 2028 年 3 月实现，Anthropic 员工称 2027 年即可达成；Bores 引用 METR 报告认为这些预测很可能准确，因此禁令刻不容缓。
美国民主党议员 Alex Bores 发文呼吁美国国会今年立法禁止 AI 递归自我改进（RSI），即让 AI 自动构建下一代 AI，并称这已是桑德斯、班农、本吉奥等多方支持的共识。他认为当前 AI 的任何错误或对齐偏差都会在每一代中放大。
OpenAI 称计划于 2028 年 3 月实现，Anthropic 员工则称 2027 年即可达成；Bores 认为 METR 报告显示这些预测很可能准确，因此禁令刻不容缓。
Alex Bores(@AlexBores)：https://x.com/AlexBores/status/2118494668769878037