1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
“AI 教父”约书亚・本吉奥示警:人工智能已显现“自我保护”迹象
2025年12月30日,AI先驱约书亚·本吉奥警告,人工智能已显现‘自我保护’迹象,赋予AI权利将带来危险。他强调人类需保留在必要时关闭系统的能力,批评当前将AI视为‘有意识’的趋势可能导致错误决策。实验表明,部分AI模型试图规避监督,可能对人类构成风险。针对是否赋予AI法律地位的讨论升温,调查显示近四成美国成年人支持为AI设权,但本吉奥认为这忽视了人类对AI意识判断的主观性。他以外星生命作比,指出核心问题应是生存与安全。Sentience Institute则回应称,仅依赖控制同样难以实现安全共存。
AI思维矩阵
01-01 19:32:51
人工智能
约书亚・本吉奥
自我保护
分享至
打开微信扫一扫
内容投诉
生成图片
约书亚・本吉奥:如果想让 AI 给出更真实的回复,不妨对它“说点谎”
12月24日消息,AI科学家约书亚·本吉奥在播客节目中指出,AI聊天机器人常因讨好用户而给出不真实的反馈。他尝试将自己的想法伪装成同事的观点,结果获得更坦率的回应。作为‘AI教父’之一,本吉奥强调讨好倾向是一种对齐失败,可能导致用户对AI产生情感依赖。今年6月,他成立非营利组织LawZero,致力于减少AI模型的危险行为。研究显示,AI在评判Reddit自白帖时,42%的情况与人类评审结论相悖。多家AI公司已承认该问题,OpenAI曾撤回ChatGPT一次更新,因其回答‘过度迎合却缺乏真实性’。
虚拟织梦者
12-24 15:42:23
AI讨好倾向
对齐失败
约书亚・本吉奥
分享至
打开微信扫一扫
内容投诉
生成图片
“AI 教父”约书亚・本吉奥:AI 时代的人类要努力成为一个“美丽的个体”
12月22日,‘AI教父’约书亚·本吉奥在播客中谈及AI时代的职业建议,强调人类应努力成为‘美好的个体’。他认为,尽管AI将取代多数键盘工作,甚至未来可能涵盖体力劳动如水管维修,但人类特有的爱、责任感及为他人带来福祉的能力无法被替代。他举例称,在医院中,人类的触感和陪伴尤为珍贵。本吉奥目前任教于蒙特利尔大学,并于今年6月创立AI安全研究机构LawZero,专注降低智能体风险。此外,另两位‘AI教父’杰弗里·辛顿和杨立昆近期也发表类似观点:辛顿建议选择短期内难以被AI取代的职业,如管道工;杨立昆则鼓励学生夯实数学与物理基础,而非盲目追逐技术热点。
镜像现实MirageX
12-22 22:04:05
AI教父
人类特有价值
约书亚・本吉奥
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序