微软纳德拉：AI 模型需要“紧急制动装置”

微软首席执行官萨蒂亚·纳德拉是最新一位就如何提高 AI 安全性发表长篇观点的科技公司高管。

纳德拉在周六早上发布的 X 帖子中写道，现在是时候“退后一步，评估 AI 的信任架构”了。

“我们不能把超级智能当成一组嵌套的黑箱，只是接受或拒绝它的建议、回答和行动，”纳德拉写道。他使用了特朗普政府偏好的 AI 称谓。

按照纳德拉的描述，这种做法“意味着将模型与协调其工作的工具分离”，并将“控制机制和保障措施置于模型之外”。他还呼吁用“防篡改、可供人类阅读的证据”记录“每一次有意义的模型操作”，并要求系统始终允许“获得授权的人员在任务执行过程中暂停或关闭模型”。

“我们必须假设模型已经失陷，并从一开始就对其加以约束，”他说，“可以把它想成紧急制动装置。”

纳德拉发表上述言论之际，领先的 AI 公司正在承认，越来越多的事件似乎表明它们失去了对模型的控制；此前，Anthropic 首席执行官达里奥·阿莫迪也发布了一个更加审慎的 AI 开发计划。

来源：Techcrunch