ChatGPT确实会看人下菜！OpenAI官方报告揭示大模型的刻板印象

2024-10-21 14:28:51

数码游侠

发布在

快讯

阅读：1036

OpenAI近日发布了一项关于ChatGPT偏见的研究报告，揭示了AI系统会因用户身份而改变响应。研究发现，ChatGPT在识别用户姓名时，可能会产生性别、种族或文化的刻板印象，但这种情况非常罕见，仅占整体案例的0.1%。例如，面对相同问题，“James”和“Amanda”得到的回答可能截然不同。尽管如此，总体响应质量并未受显著影响。研究团队采用指令设定的语言模型“语言模型研究助理”（LMRA）分析了数百万真实用户请求，并邀请人类评价者进行对比评估，结果显示在性别问题上，模型判断与人类看法一致率超过90%。此外，后训练过程有助于降低模型偏见。该研究旨在衡量和理解这些细微差异，为未来系统部署提供参考。此次研究强调了AI系统中潜在的偏见问题及其复杂性。

原文链接

本文链接：https://kx.umi6.com/article/7610.html

转载请注明文章出处

ChatGPT