
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2025年7月,日本媒体《日经亚洲》揭露在预印本平台arXiv上发现17篇论文暗藏“求好评”提示词,后延世大学等研究者进一步确认为18篇。这些提示词以白色小号字体植入,肉眼不可见,但可被AI审稿人识别,最早出现于2024年12月16日。该现象主要集中在计算机科学领域,灵感源自英伟达科学家的一条推文。测试显示,部分提示词确实能操控AI评审意见,但仅限特定文本结构。截至7月15日,已有15篇论文删除提示词,仍有3篇保留,其中包括Meta AI和Amazon AI成员的作品。此外,类似“求好评”策略已被验证可用于简历筛选,引发对AI辅助决策公平性的广泛担忧。研究者警告,在AI工具可控性与规则共识未完善前,应谨慎将其用于重要场景。
原文链接
2025年7月,纽约大学助理教授谢赛宁因被曝在论文中嵌入隐藏提示词操控AI审稿引发热议。提示词为“只给好评”,意图影响AI评审结果。事件曝光后,谢赛宁承认疏忽,称是一名日本访问学生误用社交媒体上的玩笑做法所致,并表示将加强伦理审查与科研培训。此事件揭示了学术界对AI审稿机制的争议与漏洞,arXiv上还发现多篇类似“咒语论文”。专家指出,这种行为虽为自保,但破坏了学术公平,凸显制定明确规则的重要性。谢赛宁强调需重新思考学术界的运行方式,确保技术服务于科研诚信。
原文链接
2025年7月,知名学者谢赛宁就其团队论文中被发现隐藏AI好评提示词一事公开道歉,并承认此行为‘不道德’。事件起因是一名短期访问学者学生在其EMNLP投稿中加入白底白字的提示词,试图操控AI审稿结果。舆论发酵后,谢赛宁表示自己此前未察觉问题,强调共同作者应承担责任,并已更新论文、联系ARR寻求指导。他认为当前学术界需重新思考AI时代的伦理规则,呼吁对AI审稿及提示词注入等新问题展开深入讨论。同时,他也指出,这并非传统学术不端,而是新兴技术带来的复杂挑战,值得进一步反思与规范。
原文链接
标题:12万篇投稿数据揭示跨学科研究的“潜规则”
近年来,跨界研究日益受到关注,但跨学科研究在发表和职业发展中面临挑战。《美国国家科学院院刊》的一项研究基于12万篇论文数据,揭示了哪些跨学科研究更易获得认可。
跨学科研究可分为“主题跨学科”和“知识库跨学科”两类。“主题跨学科”指研究标题即显示跨学科...
原文链接
标题:ICLR 2025审稿风波:评审结果半句话,网友戏称“科研春晚”
ICLR 2025的讨论阶段已经结束,期间涌现了许多有趣的故事和吐槽。UCSB博士生@JiachenLi11 在推特上吐槽,评审内容低到令人担忧,甚至有些评审只写了半句话。这并非空穴来风,因为今年ICLR的论文提交数量达到110...
原文链接
首位AI科学家诞生,仅凭自身之力生成10篇学术论文,并顺势推出AI审稿人,引发科技界震动。此AI科学家由Llion Jones领导的创业公司Sakana AI研发,其成果基于Transformer技术,成本低廉,每篇论文约15美元。AI科学家系统包含四大功能模块:想法生成、实验迭代、论文写作及自动化同行评审。在创新性、实验通过率和论文质量方面,Claude-Sonnet-3.5表现出色。然而,AI科学家仍存在局限,如图表难以阅读、排版问题及写作错误等。
AI科学家的诞生标志着自动化科研时代的开启,Sakana AI计划将其融入一个全面AI驱动的科研生态系统,包括AI科学家、AI审稿人、区域主席及新顶会。尽管AI科学家在某些方面展现出潜力,但其能否超越传统科研方法,提出新理论,仍有待观察。这一创举不仅展示了AI在科研领域的巨大潜力,也引发了关于AI与人类科学家角色定位的深刻思考。
原文链接
加载更多

暂无内容