8月17日，Anthropic宣布为Claude Opus 4及4.1新增“结束聊天”功能，以应对极少数有害或辱骂性互动场景。该功能主要用于保护AI模型本身，并与模型对齐和安全措施相关。例如，当用户索取可能导致暴力或恐怖行为的信息时，Claude会主动终止对话。Anthropic强调，此功能仅在极端情况下启用，如多次尝试引导失败或用户明确要求结束对话。此外，结束对话后用户可发起新对话，且原内容不会丢失。公司表示，此功能仍属实验性，未来将持续优化，用户可通过反馈按钮提交意见。