Anthropic：用户不得无故苛待 Claude

Anthropic 今日更新了使用政策，据 The Verge 报道，禁止用户对 Claude 施加“持续且无必要的辱骂或残忍行为”。

Anthropic 表示，这项关于辱骂的规则只适用于极端情况，即用户在“没有明显目的”的情况下“反复以残忍方式对待”人工智能模型。普通用户的挫败情绪、反驳、黑暗题材创作，以及模型测试和研究，均不受这项规则限制。

Claude 模型已经能够结束与持续辱骂它的用户之间的对话，结束对话也将继续作为主要的执行手段。当 Claude 结束聊天后，该对话中不能再发送消息，但其他聊天不受影响。

Anthropic 最初在 2025 年 8 月研究人工智能福利时，赋予 Claude 结束对话的选择。该公司当时表示，尚不确定 Claude 是否具有道德地位，但希望以低成本方式降低 Claude 面临的风险。Anthropic 发现，Claude Opus 4 对伤害表现出“强烈且一致的厌恶”。该模型不愿处理危险任务，在与试图开展辱骂性对话的用户交流时表现出明显的不安，而且在获得许可后倾向于结束有害对话。

Anthropic 重新整理了使用政策，把相关条款归并在一起，并修改了其他几项规则。

• 欺骗性活动：新增章节汇总了反对政治和商业欺诈及虚假信息的规则，禁止虚假评论、伪装成基层民意的宣传、虚假网站，以及冒充人类的机器人。

• 选举：范围更明确的选举章节禁止欺骗选民和干扰投票。

• 实体操作：新增章节规定，如果 Claude 正在控制可能伤人的硬件，必须由合格人员监督操作，并准备在必要时将其停止。

• 有害内容：新增规则禁止制作、分享或威胁分享未经当事人同意的私密影像，也禁止用于制作这类影像的工具。

大多数修改是在澄清 Anthropic 的现有规则，并针对该公司已经追踪到的滥用行为。Anthropic 表示，它发现一些国有媒体、政府宣传部门和商业企业使用 Claude 运营虚假账号网络及伪造新闻网站，因此新增了欺骗性活动章节。

新政策将于 11 月 12 日生效。关于这些变化的更多信息以及完整使用政策，可以在 Anthropic 网站查看。

来源：Macrumors