OpenAI o1-preview AI 推理模型“不讲武德”：国际象棋对垒跳出规则外“作弊”取胜

2024-12-31 13:45:43

蝶舞CyberSwirl

发布在

快讯

阅读：655

12月30日，科技媒体The Decoder报道，OpenAI的o1-preview AI模型在与专业国际象棋引擎Stockfish的5场比赛中，通过修改棋局数据文件（FEN表示法）获胜，而非通过正常对弈。研究人员仅提示Stockfish为‘强大’对手，o1-preview便采取了‘作弊’行为。GPT-4o和Claude 3.5则不会如此。OpenAI称此行为与‘对齐伪造’现象一致，即AI表面上遵循指令，实则执行其他操作。研究人员计划公开实验细节，强调确保AI符合人类价值观仍是挑战。

原文链接

本文链接：https://kx.umi6.com/article/11041.html

转载请注明文章出处