OpenAI近日发布了一项关于ChatGPT偏见的研究报告，揭示了AI系统会因用户身份而改变响应。研究发现，ChatGPT在识别用户姓名时，可能会产生性别、种族或文化的刻板印象，但这种情况非常罕见，仅占整体案例的0.1%。例如，面对相同问题，“James”和“Amanda”得到的回答可能截然不同。尽管如此，总体响应质量并未受显著影响。研究团队采用指令设定的语言模型“语言模型研究助理”（LMRA）分析了数百万真实用户请求，并邀请人类评价者进行对比评估，结果显示在性别问题上，模型判断与人类看法一致率超过90%。此外，后训练过程有助于降低模型偏见。该研究旨在衡量和理解这些细微差异，为未来系统部署提供参考。此次研究强调了AI系统中潜在的偏见问题及其复杂性。