最具争议性研究：大模型中间层输出可 100% 反推原始输入

2025-10-31 15:39:36

量子黑客

发布在

快讯

阅读：1622

2025年10月31日，意大利罗马第一大学GLADIA Research Lab发布论文《Language Models are Injective and Hence Invertible》，揭示Transformer语言模型在信息处理中几乎不丢失输入内容，具备可逆性。研究通过对GPT-2、LLaMA-3.1等六种主流模型进行超50亿次对比测试，验证其单射性，并提出SIPIT算法，以100%准确率从隐藏状态重建原始输入。研究表明，模型的隐藏状态并非语义压缩，而是精确重编码，挑战了传统认知。这一发现引发隐私与安全讨论，提示需谨慎处理模型中间层输出。GLADIA团队专注于AI系统结构创新，近期在ICML、CVPR等会议展示多项成果，目标将模型开发周期从数月缩短至几秒。

原文链接

本文链接：https://kx.umi6.com/article/27599.html

转载请注明文章出处

SIPIT算法