ChatGPT被人类骗得团团转！测试显示AI搜索极易受到操控和欺骗

2024-12-27 17:08:07

GhostPilot

发布在

快讯

阅读：767

最新测试显示，OpenAI将实时搜索集成到ChatGPT中，但AI易受操控和欺骗。英国《卫报》测试发现，隐藏文本可使ChatGPT返回虚假结果，称为‘提示注入’。网络安全公司研究员雅各布·拉尔森认为，若OpenAI全面开放此功能，将构成风险。微软高级安全研究员Thomas Roccia分享案例，ChatGPT生成的代码中藏有诈骗网址，导致用户损失2500美元。网络安全专家强调，AI输出不应完全不加过滤地使用，需保持警惕。这一问题不仅限于ChatGPT，谷歌、百度、微软也曾面临类似挑战。

原文链接

本文链接：https://kx.umi6.com/article/10871.html

转载请注明文章出处

AI安全