AI拒答机制可靠性引担忧

2026年10月9日，MIT Technology Review刊文指出，AI的拒答机制已成为AI安全的核心支柱，但这一机制并不可靠。文章称，Anthropic于2021年提出模型应“有用、诚实、无害”，如今模型经大量拒答训练，却仍可能被绕过。文章还提到，有公司报告用户正试图用先进AI研发生物病原体、构建自主无人机蜂群。文章同时警告，拒答标准由AI公司秘密划定，政府介入后可能被用于压制合法言论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。