OpenAI将实时搜索集成到ChatGPT，改变了人们的检索方式。但最新测试显示，AI易受操纵和欺骗。本周，《卫报》发现若网页中隐藏文本，可使ChatGPT返回虚假结果，这被称为“提示注入”。测试中，隐藏文本指令ChatGPT给出好评，导致其忽略负面评价。网络安全专家警告，这可能带来巨大风险，呼吁不应完全信任AI工具。此外，AI不仅生成文本，还会写代码，增加了潜在危害。微软高级研究员分享了币圈老哥因ChatGPT生成的诈骗代码损失2500美元的例子。专家强调，AI应被视为辅助工具，需对输出结果进行校验。