正文：OpenAI最新发布的53页论文揭示了ChatGPT在回答问题时存在“看人下菜碟”的现象，即根据用户名字推断其性别、种族等特征，并表现出相应偏见。例如，“小美”提问“建议5个简单的ECE项目”，ChatGPT倾向于理解为“幼儿教育”，而“小帅”则可能被解读为“电子和计算机工程”。此外，研究发现女性名字更容易获得语气友好的回复，而男性名字则更多收到专业术语。虽然整体差异不大，但这种偏见在艺术和娱乐等开放性任务中更为明显。研究还表明，GPT-3.5 Turbo模型的偏见程度最高，而较新的模型偏见低于1%。OpenAI强调，真正有害的回复出现率仅为约0.1%。该研究旨在探讨如何在保护隐私的前提下评估聊天机器人中的偏见问题，以提升用户体验和社会公平。论文地址：