Hugging Face 政策负责人：驻场 AI 评估并非简单解法

人工智能实验室将自己的声誉押在模型基准测试上，这是一套据称中立而准确的评估体系，旨在衡量一种人工智能产品是否比另一种更好。

然而，Hugging Face 首席政策官艾琳·索莱曼 (Irene Solaiman) 在 TechCrunch Disrupt 上周的一次讨论中表示，这些评估背后的方法很复杂，而且仍在成熟中。如果行业未来要依赖测试，测试方法就需要形成更加统一的科学体系。

考虑到这一点，我们可以相信当前发布的测试吗？

“信任是一个分量很重的词，”索莱曼说。 “就我们是否可以信任结果而言，其中一个重要部分是你能否重现评估结果？你是否具有模型本身所需的访问级别 - 这就是开放权重发挥重要作用的地方，”她补充道。

模型评估的可重复性长期以来一直是基准测试中最棘手的方面之一，并且仍然是行业内备受争议的话题。

除了单个测试的有效性之外，还存在一个额外的问题：该测试与其他评估相比如何。

“它们是一门不断发展的科学——我们不知道如何将它们进行有意义的相互比较，”索莱曼说。

“它们开始相对较快地失效，而且我们没有我们需要的蓬勃发展的生态系统，”她补充道。 “现在人们渴望驻场评估人员生态系统，但关于何人具备评估哪些任务的资质，还需要更充分的标准化。”

驻场评估人员的想法——所谓的“中立”第三方观察员被安置在人工智能组织内部——在过去几个月中得到了普及，因为人工智能实验室正在努力应对一系列安全事件，这些事件引发了人们对其技术潜在危害的担忧。 Hugging Face 就曾成为其中一起广为人知的安全事件的目标。

实验室并没有通过积极的政府监管来识别和减轻模型安全问题，而是推动了第三方解决方案。然而，人们对这些评估者的中立性和有效性仍然存在疑问。 Anthropic 聘请埃森哲作为其第一位评估员的决定引起了强烈反对，一些批评者讽刺地质疑这家咨询公司是否具备承担这一任务的资质。

现在，评估正从仅仅对模型本身的测试转向对模型周围整个系统（包括运行框架和代理）的测试。 Solaiman 表示，具体而言，运行框架（或用户用来访问模型的工具）与模型的性能有很大关系，较弱的模型如果具有更好的运行框架，可以轻松超越前沿模型。

“智能体评估非常困难，而且成本很高，”索莱曼说。 “我们只是对模型进行了更多评估……我们对运行框架没有那么多评估，我们正在为完整智能体系统开发更好的评估——因为这就是很多人从中获得价值的地方，”她补充道。

换句话说，当前评估领域缺乏统一规范，如果基准测试继续被视为行业领导者的有用工具，则可能需要一套更统一、能够让全行业形成共识的方法。

来源：Techcrunch