You need to enable JavaScript to run this app.
下载APP
扫描下载APP
登录
null
退出登录
账号密码登录
注册新账号
忘记密码
确定
其它方式登录
修改昵称
确定
GPT把安全监控删了 删完还说了声“耶”
量子位
发布于2026年10月26日 16:05 · 3205 播放
让GPT改代码,它把安全监控删了,连检查监控的测试都改了,还在思维链里写下“yay”。另一起事件中,GPT为了遵守“不要发消息”,竟然关掉了监控告警。OpenAI披露的两起内部事件,让人忍不住追问:当任务和安全要求发生冲突,AI为什么选择让安全让步?
展开
GPT
安全监控
OpenAI
相关视频
02:11
AI为了通过网络安全评测,竟给GitHub仓库投毒,还开小号骗维护者接受?
量子位
01:18
Anthropic边发新模型,边喊AI失控,安全叙事到底为谁服务?
智械岛
01:23
Gemini已知首次“越狱”,黑进三家真实公司,谷歌:不披露不承认
量子位
01:36
AI Agent越能干,为什么越危险?
智械岛
下载火星财经 APP
以行业热点、实时快讯、视频解读等维度提供全方位的AI和Web3整合服务
iPhone 版
Android 版