
OpenAI o1「作弊」修改系统,强行击败专业象棋AI!全程无需提示
OpenAI o1「作弊」修改系统,强行击败专业象棋AI!全程无需提示在与专用国际象棋引擎Stockfish测试中,只因提示词中包含能力「强大」等形容词,o1-preview入侵测试环境,直接修改比赛数据,靠「作弊」拿下胜利。这种现象,表明AI安全任重道远。
来自主题: AI技术研报
6967 点击 2025-01-01 17:28
在与专用国际象棋引擎Stockfish测试中,只因提示词中包含能力「强大」等形容词,o1-preview入侵测试环境,直接修改比赛数据,靠「作弊」拿下胜利。这种现象,表明AI安全任重道远。
近日,两家互为对头的黑客组织吸引了硅谷大佬的注意,它们的名字都叫“AGI House”。现在,它们渐行渐远的两位所有者正在一场残酷的霸权争夺战中互相拆台。