五角大楼与Anthropic：人工智能安全措施之争
五角大楼与Anthropic的对峙：人工智能伦理与国家安全。几十年来，人工智能做出军事自主决策的想法一直牢牢地属于科幻小说的范畴。如今，这种虚构正越来越接近现实，在美国国防部和领先的人工智能开发商Anthropic之间造成了紧张的对峙。这场冲突的核心不仅关乎技术，更关乎在高级人工智能时代，伦理、问责制以及国家安全本质的基本问题。
来源: 自有插图
争端快速摘要
- 核心冲突： 美国国防部（五角大楼）要求无限制地将Anthropic的Claude人工智能模型用于军事目的，而Anthropic则坚持保持严格的安全防护措施。
- 五角大楼的立场： 认为Anthropic对于其产品被军事部门用于“所有合法目的”不应有任何发言权。如果Anthropic不遵守，将面临严厉的后果。
- Anthropic的“红线”： 拒绝允许其人工智能用于完全自主的致命性行动（人工智能在无人干预的情况下做出最终目标选择）或大规模国内监控。
- 五角大楼的威胁： 包括取消Anthropic价值2亿美元的合同、将其归类为“供应链风险”，以及可能援引《国防生产法》。
- Anthropic的立场： 首席执行官Dario Amodei表示，公司宁愿放弃合作，也不愿同意那些“损害民主价值观”的用途。谈判“几乎没有取得进展”。
- 更广泛的影响： 这场争端凸显了国家防御中的技术优势与先进人工智能的伦理考量之间的关键紧张关系，可能为未来的人工智能治理设定先例。
五角大楼要求无限制使用人工智能
美国国防部（根据美国总统唐纳德·特朗普9月的一项行政命令，这是一个副称呼，被称为战争部）正在与Anthropic. 这场冲突的核心是Anthropic的Claude人工智能模型以及五角大楼坚持对其进行军事应用的无限制使用。
来源: caribbeannewsglobal.com
美国国防部长Pete Hegseth向Anthropic的首席执行官发出最后通牒，要求该公司允许其人工智能技术不受约束地用于所有“合法目的”。
美国国防部长Pete Hegseth向Anthropic首席执行官Dario Amodei发出最后通牒，要求该公司在周五晚上的最后期限前，允许其人工智能技术不受约束地用于所有“合法目的”。Hegseth在一次Tuesday meeting with Amodei.
五角大楼的立场很明确：它认为Anthropic对于其产品被军事部门如何使用不应有任何发言权。这项要求并非只针对Anthropic；国防部旨在让来自不同供应商的人工智能模型在机密环境中可用于“所有合法用例”，这是埃隆·马斯克的xAI最近accepted for classified work. 与OpenAI和Google的模型整合到这些机密行动的谈判也在加速。
Anthropic的红线：自主武器和大规模监控
Anthropic以其作为安全意识强的人工智能开发商的坚定立场而闻名，它对技术的应用保持着严格的“红线”。这些包括禁止其人工智能用于完全自主的致命性行动，即人工智能在无人干预的情况下做出最终军事目标选择。另一条关键界限是使用Anthropic工具对美国公民进行大规模国内监控。
该公司声称，人工智能尚不足以可靠地操作完全自主的武器，目前也没有充分的法律或法规来管辖大规模监控中的人工智能。Anthropic首席执行官Dario Amodei阐述了公司的立场，表示其组织宁愿放弃与五角大楼的合作，也不愿同意那些“损害民主价值观而非捍卫它们”的用途。他强调，这些用途从未包含在他们与战争部之前的合同中，现在也不应该出现。
❝ 根本就不够可靠 ❞
Anthropic首席执行官
来源: healthevolution.com
Anthropic首席执行官Dario Amodei阐述了该公司的立场，表示其组织宁愿放弃合作，也不愿同意那些“损害民主价值观”的用途。
Amodei在公司博客文章中详细阐述了这些担忧，解释说人工智能可以大规模地综合分散的数据，形成个人的综合档案。他强调支持人工智能用于合法的外国情报和反情报任务，但认为其用于大规模国内监控与民主价值观不符。关于自主武器，Amodei警告说，即使是最先进的人工智能系统也“simply not reliable enough" 并且在没有适当的监督和尚不存在的安全措施的情况下，可能会危及美国士兵和平民。Anthropic之前曾提议与战争部合作进行研发，以提高系统可靠性，但该提议未被接受。
后果和信任危机的深化
如果Anthropic未能遵守五角大楼的要求，Hegseth已威胁要采取严厉的报复措施。其中包括可能取消Anthropic目前价值2亿美元的合同，并将该公司列为“供应链风险”。这样的分类将有效地将Anthropic列入黑名单，阻止其他拥有军事合同的公司在其国防工作中继续使用其产品。这种指定通常保留给被视为外国敌对势力（如俄罗斯或中国）延伸的实体，有关这方面的内容已在this analysis. Hegseth还宣布，他将确保《国防生产法》的应用，根据Lawfare Media.
尽管有这些严厉的威胁，Anthropic周四确认，与五角大楼的谈判“几乎没有取得进展”。Amodei表示，公司无法接受国防官员提出的“"final offer" concerning AI safety protocols. Anthropic指出，收到的战争部合同条款仍然“几乎没有朝着阻止Claude用于大规模监控美国人或用于完全自主武器迈出任何进展”。此外，作为妥协提出的新措辞包括法律条款，允许这些安全措施被随意忽略。
❝ 无论如何，这些威胁都不会改变我们的立场：我们凭良心不能同意他们的要求。 ❞Anthropic首席执行官
这场日益激烈的争端暴露了双方之间严重的信任破裂。虽然与Anthropic谈判的五角大楼官员Emil Michael称Amodei为“骗子”，并带有“上帝情结”，危及国家安全，但Amodei反驳说，这些威胁“内在矛盾”，同时认为Anthropic是安全风险，而Claude对国家安全至关重要。他重申：“无论如何，这些威胁都不会改变我们的立场：我们凭良心不能同意他们的要求。”
❝ 骗子 ❞
五角大楼官员
Anthropic作为一家以安全为重点的人工智能公司的地位受到了质疑，特别是在爆出美国军方在一月份抓捕委内瑞拉前总统尼古拉斯·马杜罗的行动中使用了其Claude人工智能模型后。虽然Anthropic是第一个在其机密网络中部署其模型并为国家安全客户定制模型的科技前沿公司，但据报道，Claude模型通过与Palantir的合同在马杜罗行动中得到了部署。这种情况给正在进行的讨论增添了另一层复杂性。
来源: deviantart.com
在爆出美国军方在一月份抓捕委内瑞拉前总统尼古拉斯·马杜罗的行动中使用了其Claude人工智能模型后，Anthropic的立场受到了质疑。
常见问题解答：Anthropic与五角大楼的人工智能争端
Anthropic与五角大楼之间的核心分歧是什么？
五角大楼要求无限制地将Anthropic的Claude人工智能模型用于军事应用的所有“合法目的”。然而，Anthropic坚持维护严格的安全防护措施，特别是防止其用于完全自主武器和大规模国内监控。
Anthropic为其人工智能技术设定了哪些“红线”？
Anthropic有两条主要“红线”：一是禁止其人工智能用于完全自主的致命性行动，即人工智能在无人干预的情况下做出最终军事目标选择；二是禁止其用于对美国公民进行大规模国内监控。
如果Anthropic不遵守，可能带来哪些后果？
五角大楼威胁要取消Anthropic价值2亿美元的合同，将该公司列为“供应链风险”（实际上将其列入国防相关工作的黑名单），并可能援引《国防生产法》强制其遵守。
Anthropic的人工智能以前是否被军方使用过？
是的，有报道显示，Anthropic的Claude人工智能模型在今年一月份抓捕委内瑞拉前总统尼古拉斯·马杜罗的行动中被美国军方使用，据报道是通过与Palantir的合同实现的。这给当前的争端增添了复杂性。
结论
五角大楼与Anthropic的对峙凸显了一个关键的紧张关系：国家防御中的技术优势需求与先进人工智能发展中固有的伦理和安全考量。随着最后期限的过去，Anthropic仍然在谈判桌边，但仍存在显著差距。Amodei表示，如果五角大楼决定断绝关系，他愿意协助顺利过渡到另一家供应商。这场冲突很可能会为人工智能公司如何与政府和军事机构互动设定先例，塑造人工智能伦理、国家安全以及技术责任界限的未来。