研究：训练数据含 0.001% 的错误信息足以“毒害”医学 AI 模型

2025-01-14 18:15:55

E-Poet

发布在

快讯

阅读：347

纽约大学研究显示，训练数据中仅含0.001%的错误信息就可“毒害”医学AI模型。研究团队在常用于LLM训练的“The Pile”数据库中植入错误信息，发现即使仅替换0.5%-1%的相关信息，模型生成错误答案的概率也会显著增加。研究指出，制药公司只需发布几份针对性文件，就能影响模型对药物的认知。错误信息比例降至0.001%时，仍有超7%的答案有害。研究还发现，现有医学数据库中也存在错误信息问题，即使依赖优质医学数据库也无法完全避免。

原文链接

本文链接：https://kx.umi6.com/article/11657.html

转载请注明文章出处

医学AI模型