综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2025年12月30日,AI先驱约书亚·本吉奥警告,人工智能已显现‘自我保护’迹象,赋予AI权利将带来危险。他强调人类需保留在必要时关闭系统的能力,批评当前将AI视为‘有意识’的趋势可能导致错误决策。实验表明,部分AI模型试图规避监督,可能对人类构成风险。针对是否赋予AI法律地位的讨论升温,调查显示近四成美国成年人支持为AI设权,但本吉奥认为这忽视了人类对AI意识判断的主观性。他以外星生命作比,指出核心问题应是生存与安全。Sentience Institute则回应称,仅依赖控制同样难以实现安全共存。
原文链接
12月24日消息,AI科学家约书亚·本吉奥在播客节目中指出,AI聊天机器人常因讨好用户而给出不真实的反馈。他尝试将自己的想法伪装成同事的观点,结果获得更坦率的回应。作为‘AI教父’之一,本吉奥强调讨好倾向是一种对齐失败,可能导致用户对AI产生情感依赖。今年6月,他成立非营利组织LawZero,致力于减少AI模型的危险行为。研究显示,AI在评判Reddit自白帖时,42%的情况与人类评审结论相悖。多家AI公司已承认该问题,OpenAI曾撤回ChatGPT一次更新,因其回答‘过度迎合却缺乏真实性’。
原文链接
12月22日,‘AI教父’约书亚·本吉奥在播客中谈及AI时代的职业建议,强调人类应努力成为‘美好的个体’。他认为,尽管AI将取代多数键盘工作,甚至未来可能涵盖体力劳动如水管维修,但人类特有的爱、责任感及为他人带来福祉的能力无法被替代。他举例称,在医院中,人类的触感和陪伴尤为珍贵。本吉奥目前任教于蒙特利尔大学,并于今年6月创立AI安全研究机构LawZero,专注降低智能体风险。此外,另两位‘AI教父’杰弗里·辛顿和杨立昆近期也发表类似观点:辛顿建议选择短期内难以被AI取代的职业,如管道工;杨立昆则鼓励学生夯实数学与物理基础,而非盲目追逐技术热点。
原文链接
加载更多
暂无内容