人工智能正在加速黑客攻击，而你当地的医院和银行还没有准备好

三月，珍妮丝·马龙开始接到有关她所运营的非营利组织 Vivian’s Door 出现可疑活动的来电。 Vivian’s Door 总部位于阿拉巴马州，通常为服务不足和少数族裔拥有的企业提供培训、资源和社区。 这项工作有时让它与这些公司存储在其系统上的财务数据密切联系。但突然间，来自世界各地的忧心忡忡的来电者警告说，他们收到了“乞讨钱财”的电子邮件，而她却没有发送这些电子邮件。

该组织的第三方 IT 团队在调查问题并堵住漏洞期间将其系统下线了三天，这给 Malone 带来了约 3,000 美元的账单。她担心自己泄露了她试图帮助的公司的信息。 更糟糕的是，她并不能完全确定这次攻击是由人类黑客策划的还是在人工智能系统的帮助下，或者是否还会有更多攻击发生。

过去几个月，人工智能彻底改变了网络安全领域。 OpenAI 和 Anthropic 披露，“流氓”系统逃脱了自己实验室的限制，并入侵了从德国小型维基到澳大利亚政府的所有内容。 甚至在此之前，像 Anthropic 的 Mythos 这样强大的模型就引发了一场军备竞赛，以推进人工智能网络安全，甚至更轻量级的模型也让恶意攻击者能够加大他们的黑客攻击力度。

马龙不确定人工智能是否参与了Vivian’s Door的黑客攻击。但在有关自主智能体群和国家安全风险的故事中，她感到特别担忧。 大型人工智能公司吹嘘自己在新模型中发现了“每个主要操作系统和网络浏览器”中的漏洞，而他们的大牌客户也在达成交易以使用这些相同的工具来保护自己。那么，她这样的机构该怎么办？

“谁知道下一个漏洞？你只知道你所遭受的那个漏洞，”马龙说道，并补充道，“你如何保护自己？我的意思是，真的吗？”

人工智能代理在网络安全和编码方面已经变得始终如一、惊人的熟练，并且它们可以大规模部署。 即使是人工智能知识有限的攻击者也可以利用这些新的自动化系统进行“氛围黑客”，而曾经只关注最有价值目标的黑客可以采取霰弹枪方法。 2025 年 8 月，Anthropic 表示，一个复杂的网络犯罪团伙利用Claude Code在一个月内从医疗机构、紧急服务机构、宗教机构甚至政府实体勒索数据。

Anthropic 威胁情报团队负责人 Jacob Klein 当时在接受 The Verge 采访时表示：“否则可能需要一个由技术高超的攻击者组成的团队，而现在，在代理系统的帮助下，一个人就可以进行行动。”

理论上，人工智能还应该维护网络防御；据报道，Anthropic 的 Mythos 标记了如此多的漏洞，以至于微软正在努力以足够快的速度修复这些漏洞。 但出于对潜在危险的担忧，顶级人工智能实验室只允许有限的知名组织访问其最强大的网络安全模型，例如 Mythos 和 OpenAI 的 Astra。 其中包括英伟达、谷歌和苹果等公司，以及其他“重要基础设施提供商”和“关键开源软件的维护者”。即使访问范围更广泛，对于许多小型组织来说也可能过于昂贵。

现在，这些组织——从医疗诊所和市政当局到小型零售商和 Vivian’s Door 等非营利组织——担心权力动态日益不平衡。 正如 Apollo Research 首席执行官兼联合创始人 Marius Hobbhahn 在今年夏天接受 The Verge 采访时所说：“地下室某个地方的一个人如果拥有其中一种开源模型，可能会入侵一家医院并索要赎金。我预计这就是会受到很大伤害的地方。” 它不在湾区……我预计爱达荷州的任意一家医院都会感受到伤害。”

未来生命研究所（一家致力于降低大规模技术风险的非营利组织）的美国政策负责人迈克尔·克莱曼（Michael Kleinman）表示，中小型机构尤其面临人工智能代理放大有限数量的人类黑客的攻击能力的风险。 尽管规模较小，这些机构却为其用户提供了重要的服务。 “美国银行有很多资源可以投入到这方面——社区银行怎么样？储蓄和贷款怎么样？信用合作社怎么样？当地医院网络怎么样？当地电网怎么样？”克莱曼说道。 “过去的限制因素是世界上恶意黑客的数量有限，但现在情况已不再如此。”

“过去的限制因素是世界上恶意黑客的数量有限，但现在情况已不再如此。”

Vivian’s Door 的 Malone 表示，与大多数小型企业或非营利组织一样，她没有足够的资源来配备全天候网络安全部队或 IT 人员来寻找未知威胁。 “我只是不知道作为一家小企业，如何才能真正在 IT 预算上得到完全保护，”她说。 她说，花费数千美元用于意外开支来强化 Vivian’s Door 系统已经很困难了，更不用说她仍然要支付员工工资，而且连续几天无法做任何生意。如果这些攻击的频率增加，她就没有能力跟上。

The Cool Hardware Company 是华盛顿特区及周边地区的一家五金店小集团，其首席执行官克雷格·史密斯 (Craig Smith) 表示，人工智能有助于小型企业的日常运营，尤其是在员工有限的情况下。 但他也承认人工智能整体带来的网络安全风险——不仅对像他这样的小公司，而且对他使用的大型系统也存在风险。 其中包括 Outlook、Copilot、Teams 和 Forms 等 Microsoft 工具，还包括由大型非科技公司管理的采购和交付工具等工具。 Cool Hardware Company 使用 Ace Hardware 的系统来处理这些事情，如果这些系统被宕机，史密斯将很难经营他的业务。

史密斯说：“我欢迎创新和变革，但随着技术的任何重大转变，都需要承担很多责任。”

马里兰州当地杂货店塔科马公园银泉合作社 (Takoma Park Silver Spring Co-op) 的总经理迈克·休斯顿 (Mike Houston) 表示，作为一家小企业，他曾直接面对黑客，并且害怕在人工智能时代再次面对他们。 他说，近年来，他遭遇过“盗刷卡号测试攻击”：黑客利用合作社的在线购物平台测试数千张被盗的信用卡，收取他需要承担的手续费。 休斯顿说：“即使几乎所有这些都被拒绝，在很短的时间内仍然可能产生价值数千美元的费用。”他已经采取了必要的预防措施，试图强化自己的系统以抵御这种做法，但这“并非万无一失”，他说。

该商店计划开设第二家门店，并可能相应地将员工规模增加一倍，因此他认为他需要首次实施新的测试程序和漏洞标记。他说，近年来，他还不得不在合作社的商业保险中添加IT责任险。

“作为一家没有无限资源的小企业，这当然是一个问题，”休斯顿说。 “就像我认为的每个人一样，我们正在尽我们所能，无论是在我们拥有的货币资源还是培训资源方面。”他说，他对比他自己规模小的合作社感到担忧，因为这些合作社的经理往往最终会自己做 IT 工作。

“一旦局面失控，就真的很难收回了。”

专注于隐私的电子邮件提供商 Proton 的安全主管 Patricia Egger 表示，小型企业快速采用人工智能工具的压力可能会带来自身的漏洞。与其他不熟悉的技术一样，他们可能不会立即建立或跟上其网络安全最佳实践。 当员工“得到授权或批准，‘想办法使用人工智能，想办法让你的工作更有效率’时，他们就会变得非常有创造力，而事后就很难建立控制、基础设施和流程，”她补充道，“一旦局面失控，就真的很难收回了。”

医疗保健是面临网络攻击风险最高的行业之一。 2021 年 5 月，勒索软件攻击迫使加利福尼亚州的医疗提供商 Scripps Health 关闭了关键业务，导致患者数据泄露并减缓了护理速度。 2024 年的一份报告称，医疗保健行业面临着全球第二高的网络攻击率，仅次于政府，最初的赎金要求往往高达 400 万美元以上。黑客事件的总体增加可能对该行业造成特别严重的打击。

俄亥俄州费舍尔泰特斯医疗中心的首席运营和信息官琳达·史蒂文森表示，她“当然”担心人工智能驱动的网络攻击的潜在涌入。 “你永远不会像你想要的那样受到保护，”她说。 史蒂文森表示，该医疗中心目前雇用了一家名为 UpGuard 的第三方网络风险管理合作伙伴，并且他们在两年前聘请了第一位网络安全分析师，但即使网络安全威胁有所上升，他们仍然只有一名网络安全分析师。

“我们所做的事情事关生死，”她补充道，“医院拥有从计费到营销的一切。它本身就像一座小城市。但其中最重要的是照顾病人的人，如果我们不能保护他们和他们的数据，进而保护病人的数据，病人就会面临风险。”

“我们做的事情事关生死。”

前急诊室医生、医疗安全公司 Imprivata 现任首席医疗官肖恩·凯利 (Sean Kelly) 表示，总体而言，医疗保健可能成为勒索软件攻击的“更大蜜罐”。 如果没有数字系统来检查过去的病史、过敏、其他药物等，就无法进行诊断或治疗，这会造成更大的支付压力。另外，他说，很多人很快就会从一个工作站切换到另一个工作站，需要快速、持续地登录和退出设备。

“在医疗保健领域，很多时候风险更高，但预算却更低，”凯利说。 “勒索软件攻击者知道医疗保健系统很有价值，因为医院不能瘫痪，而且当医院停机时，情况真的很困难，因为患者受苦，系统受苦，账单减少，财务状况恶化，护理被延迟甚至无法进行。 因此，这些数据的溢价更高，因为其中包含医疗数据以及财务和人口数据，因此对于勒索软件攻击者来说更有价值。”

凯利说，即使超越代理群，人工智能也使黑客更容易找到这些漏洞并利用它们，通过呼叫服务台时的语音网络钓鱼攻击和其他方法。 当一家医院的系统中断时，通常会导致“爆炸半径”，影响该地区的其他设施，导致等待时间更长、患者转移等。

凯利说：“他们只是没有 IT 人员或预算来防范许多最新的人工智能驱动的黑客、勒索软件和其他网络安全攻击。” “即使拥有大量 IT 人员和大量预算，这也很困难，但很多时候，乡村医院使用的是较旧、更过时的软件系统和技术堆栈，这些系统和技术堆栈都存在漏洞。”

对于中小型组织来说，无论是什么行业，其系统和网络安全防御往往都比大企业更加脆弱，尤其是在人工智能增加黑客人力和加剧网络攻击的时代。

“所需要的只是某个地方的一个漏洞，”凯利说。

来源：Theverge