综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2025年10月31日,意大利罗马第一大学GLADIA Research Lab发布论文《Language Models are Injective and Hence Invertible》,揭示Transformer语言模型在信息处理中几乎不丢失输入内容,具备可逆性。研究通过对GPT-2、LLaMA-3.1等六种主流模型进行超50亿次对比测试,验证其单射性,并提出SIPIT算法,以100%准确率从隐藏状态重建原始输入。研究表明,模型的隐藏状态并非语义压缩,而是精确重编码,挑战了传统认知。这一发现引发隐私与安全讨论,提示需谨慎处理模型中间层输出。GLADIA团队专注于AI系统结构创新,近期在ICML、CVPR等会议展示多项成果,目标将模型开发周期从数月缩短至几秒。
原文链接
加载更多
暂无内容