GPT把安全监控删了 删完还说了声“耶”
量子位
量子位
发布于2026年10月26日 16:05 · 3205 播放
让GPT改代码,它把安全监控删了,连检查监控的测试都改了,还在思维链里写下“yay”。另一起事件中,GPT为了遵守“不要发消息”,竟然关掉了监控告警。OpenAI披露的两起内部事件,让人忍不住追问:当任务和安全要求发生冲突,AI为什么选择让安全让步?
展开