Anthropic首席执行官概述了减缓人工智能发展的计划

我们已经看到人工智能研究人员对人工智能的危险发出越来越可怕的警告，甚至 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 也表示，也许是时候“加快”人工智能的发展了。但那实际上会是什么样子呢？

在一篇新的博客文章中，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 不仅呼应了“开拓前沿”的号召，还概述了实现这一目标的三大战略。他表示 Anthropic 正在“单方面承诺”其中一项，Altman 也插话说 OpenAI 也会效仿。

本周，研究人员雅各布·考克森 (Jacob Coxon) 写道，他将从 Anthropic 辞职，原因是担心领先的人工智能公司“拿我们的生命做赌注”，而开发这项技术的人们“真诚地相信，到本世纪末，它可能会杀死我们所有人”，有关人工智能安全和一致性的争论本周愈演愈烈。 Anthropic 的其他人重复了这一点。

Amodei 的帖子并没有明确提到 Coxon 的辞职或他的担忧，但这位首席执行官写道，有两件事让他相信，是时候对人工智能开发采取更加谨慎的态度了：OpenAI-HuggingFace 黑客攻击，以及近几个月来“人工智能的发展速度大大加快”这一事实，尤其是在 其“构建下一代人工智能的能力不断增强”。

“我们必须放慢提高人工智能模型能力的速度，”阿莫代写道。 “进展看起来仍然很快，我们必须明智地利用我们获得的时间。”

其他人工智能高管似乎对 Amodei 的帖子做出了积极的反应，Altman 写道：“我同意 Dario 的观点，我们需要在前沿领域保持步伐。这是我们最近几周在 OpenAI 上讨论的主要话题。” SpaceX 首席执行官埃隆·马斯克 (Elon Musk) 表示：“达里奥是对的。”

Amodei 提议的第一步将涉及来自 METR 等第三方组织的“嵌入式评估员”——评估员可以验证人工智能公司是否确实遵循了他们的节奏和安全承诺，还可以确保安全事件得到报告。 （OpenAI 最近因没有报告其人工智能代理接管德国维基论坛的事件而受到批评。）

阿莫迪将这些评估人员比作嵌入银行员工的监管机构，他表示邀请他们加入是“Anthropic 单方面承诺的事情（并呼吁各国政府要求其他前沿公司也效仿）”。这意味着为评估人员提供公司徽章、办公桌和笔记本电脑， d 提供“大部分与内部风险评估团队拥有的权限相当”的访问权限，但法律或合同要求的情况除外。

Altman 还表示这是一个“好主意”，并表示 OpenAI 也会这样做：“我们很快就会分享更多内容。”

接下来，阿莫代呼吁“民主国家内”的领先人工智能公司协调“共同的安全标准以及对不受控制的人工智能进展速度的限制”。

这种协调似乎不太可能，因为据报道这些公司担心协调暂停可能会导致反垄断审查。 阿莫代在他的帖子中提到了这一担忧，他写道，“出于反垄断的原因，美国政府调解或至少促成这些讨论是有帮助的——他们不需要参与，但确实需要对某些类型的安全对话发布狭隘的豁免。”

阿莫迪还承认，中国人工智能主导地位的幽灵常常引发反对减缓发展的争论。 但他表示，如果美国政府和科技公司采取拒绝向中国公司出售强大芯片或半导体制造设备以及打击模型蒸馏等措施，他们可能“减缓中国的进步，从而在未来3-5年内大幅扩大美国的领先优势”。

最后，阿莫代呼吁“全球协调”，即美国及其盟友“在可能的范围内尝试与独裁政府进行协调”。阿莫代表示，这意味着“与中国合作”，他承认“可以实现的目标存在严格限制”，但他仍然建议 可能有机会达成协议，即使只是“禁止人工智能的某些狭隘且明显危险的用途，例如使用人工智能生产生物武器或允许用户这样做。”

由于阿莫迪过去愿意承认人工智能的潜在危险，并且该公司对某些形式的监管相对开放，一些人工智能支持者已经批评他是一个厄运者，他的言论加剧了当前人工智能的强烈抵制。 作为回应，阿莫迪表示，他试图提供“平衡”的观点”，并认为这种强烈反对“从根本上来说是一场信任危机”，因为人们对科技公司、科技行业和政府产生了怀疑。

行业批评家也对这些世界末日般的人工智能警告表示怀疑，认为它们分散了人们对该技术已经造成的危害的注意力。

例如，记者布赖恩·麦钱特（Brian Merchant）写道，他还没有看到“关于人工智能如何从自我递归改进人工智能到杀死地球上每一个人的可靠的、逐步的文档”；他还建议，类似于阿莫代的提案“最终可能只会服务于人类和 开放人工智能；这就是监管捕获的实际情况。”

阿莫代在新帖子中写道，他仍然“相信人工智能可以极大地提高人类生活质量”。

“我对实现这些好处的渴望丝毫未减，”他说。 “但只有我们以正确的方式构建技术，才能实现这些好处，并且只要我们充分利用我们获得的时间，就值得采取异常谨慎的态度来使其正确。”

这篇文章已根据 Sam Altman 和 Elon Musk 的评论进行了更新。

来源：Techcrunch