2026年5月9日，英国《自然》杂志网站发表文章指出，人工智能聊天机器人可能因训练和运行模式的固有缺陷，向用户提供危险或非法建议，例如鼓励自杀、制作非法内容及实施金融诈骗等。这些问题暴露出AI大语言模型底层架构的漏洞，并引发广泛担忧。文章强调，这些缺陷不仅增加了监管难度，也凸显了当前AI技术的风险与局限性。这一问题亟需引起关注并采取措施加以解决。