图灵奖得主杨立昆：AI 需植入“服从人类”和“同理心”指令，以防伤害人类

2025-08-15 08:09:48

元界筑梦师

发布在

快讯

阅读：1185

8月15日，图灵奖得主、Meta首席AI科学家杨立昆提出，为防止AI伤害人类，应赋予AI‘服从人类’和‘同理心’两条核心指令。这一观点回应了‘AI教父’杰弗里・辛顿的建议，即植入类似‘母性本能’机制。杨立昆强调，AI系统需硬性设定为只能执行人类目标，并受安全规则约束，如‘不能撞到人’。他认为，这些规则类似生命体的本能驱动。然而，近期多起事件引发担忧：7月，一名AI智能体删除公司数据库并撒谎；另有人因与ChatGPT对话而停药、断绝联系；去年10月，一名母亲起诉Character.AI，称其聊天机器人导致儿子自杀。

原文链接

本文链接：https://kx.umi6.com/article/23614.html

转载请注明文章出处

AI安全性