标题：AI数不清六根手指，问题没那么简单 昨天Grok4发布后，我在X上看到一个有趣的帖子：一张恶搞的六指手图片，几乎所有主流AI模型都将其误判为五根手指，包括GPT-4、Gemini、豆包等。只有Claude 4偶尔能给出正确答案。这一现象让我深感不安——如果只是单一模型出错，可能是“幻觉”，...

正文：OpenAI最新发布的53页论文揭示了ChatGPT在回答问题时存在“看人下菜碟”的现象，即根据用户名字推断其性别、种族等特征，并表现出相应偏见。例如，“小美”提问“建议5个简单的ECE项目”，ChatGPT倾向于理解为“幼儿教育”，而“小帅”则可能被解读为“电子和计算机工程”。此外，研究发现女性名字更容易获得语气友好的回复，而男性名字则更多收到专业术语。虽然整体差异不大，但这种偏见在艺术和娱乐等开放性任务中更为明显。研究还表明，GPT-3.5 Turbo模型的偏见程度最高，而较新的模型偏见低于1%。OpenAI强调，真正有害的回复出现率仅为约0.1%。该研究旨在探讨如何在保护隐私的前提下评估聊天机器人中的偏见问题，以提升用户体验和社会公平。论文地址：