ChatGPT 五角大楼协议:泄密、细节和道德困境
强大的人工智能开发者与美国国防部之间不断演变的关系引发了激烈辩论。这种动态充满了道德困境,并对公民自由产生了深远影响。围绕这些合作的快速变化和激烈的公众讨论揭示了技术进步与社会保障需求之间的深刻矛盾。
主要发展快速摘要
- OpenAI 修订后的协议: 在公众压力下,OpenAI 修改了与五角大楼的合同,明确禁止将其 AI 系统用于对美国公民和国民的国内监控。
- 萨姆·奥特曼的评论: OpenAI 首席执行官萨姆·奥特曼称最初的协议“投机取巧、草率”,并承认谈判十分仓促。
- Anthropic 的原则性立场: Anthropic 始终拒绝妥协其道德原则,拒绝允许其系统用于国内监控或致命自主武器,导致与五角大楼产生重大摩擦。
- 公众强烈反对: OpenAI 与五角大楼的合作导致 ChatGPT 应用程序卸载量增加了 200%,并引发了抗议,而 Anthropic 的 Claude 应用程序则大受欢迎。
- 监控担忧: 参议员和公民自由组织对人工智能大规模监控的潜力以及政府合同中提高透明度的必要性发出了警报。
- 法律模糊性: 法律专家呼吁公布 OpenAI 与五角大楼之间的完整合同,理由是对所声明保障措施的可执行性存在担忧。
OpenAI 与五角大楼的合作
OpenAI 是一家著名的人工智能开发者,最近对其与美国国防部的合同进行了重大修订。正如一份声明中所述,此举是在相当大的公众压力之后发生的。
Sam Altman on X. 这些修订的核心是确保 OpenAI 的 AI 系统不用于对美国公民和国民的国内监控。修订后的协议现在明确规定,“AI 系统不得有意用于对美国人和平民的国内监控。”奥特曼在重申了这一点。another X post.OpenAI 首席执行官萨姆·奥特曼坦率地称最初的协议“投机取巧、草率”,他在一份声明中表达了这种看法。
post on X.
来源: geekwire.com
OpenAI 首席执行官萨姆·奥特曼称该公司与美国国防部的最初协议“投机取巧、草率”。
他进一步澄清,国防部情报机构,如美国国家安全局,明确禁止使用 OpenAI 的服务。OpenAI 国家安全合作主管 Katrina Mulligan 在她的声明中证实了将国家国防情报部门排除在合同之外。 X post. OpenAI 还发布了一篇博客文章,声称其协议提供了防止其技术用于自主武器和大规模监控的保护。该公司声称其与五角大楼的协议包含“比以往任何分类人工智能部署协议更多的保障措施,包括 Anthropic 的协议”。
公众反应与内部动态
OpenAI 与国防部合作的消息引发了公众的强烈反对。Sensor Tower 报告称,ChatGPT 应用程序的日均卸载率比正常水平惊人地上升了 200%。抗议活动还在 OpenAI 旧金山总部外爆发,敦促员工质疑该公司的条款,并呼吁在 #CancelGPT 或 #QuitGPT 等标签下抵制。与此形成对比的是,Anthropic 的 Claude 应用程序在消息传出后不久,人气飙升,登上了 Apple App Store 的榜首。
萨姆·奥特曼本人承认,与五角大楼的谈判“确实很仓促”,正如他在一份声明中所述。
X post. OpenAI 坚称并未同意允许五角大楼无限制地使用其技术。OpenAI 员工 Boaz Barak 表示,该公司可以将“红线”——禁止大规模监控和未经人工干预控制武器系统——直接嵌入到模型的行为中。然而,OpenAI 针对军事用户和标准用户的保护规则的具体差异仍未公开。乔治·华盛顿大学政府采购法副院长 Jessica Tillipman 指出,公布的摘录并未赋予 OpenAI 独立禁止其他合法政府使用的权利,正如她在她的博客上所讨论的。
blog. 这种模糊性促使法律专家要求提高 OpenAI 与五角大楼之间完整合同的透明度。AI 安全中心的 Brian McGrail 在承认这些变化是“朝着正确方向迈出的一步”的同时,也要求提供完整的合同。Anthropic 的原则性反对
与 OpenAI 最终的妥协形成鲜明对比的是,Anthropic 始终拒绝为了与美国国防部的协议而牺牲其道德原则。该公司坚决拒绝允许其系统用于国内监控或控制致命自主武器。据报道,Anthropic 在拒绝放弃禁止其技术用于全自主武器的公司原则后被特朗普政府列入黑名单。牛津大学的 Mariarosaria Taddeo 教授对此表示担忧,指出 Anthropic 的退出意味着“最注重安全的参与者”退出了五角大楼潜在的合作。
然而,尽管此前有禁令,但据报道,Anthropic 的 Claude 仍在美国与伊朗的冲突中被使用,尽管这种有原则的立场未能完全阻止这种情况。例如,Palantir 宣布建立合作关系,向美国政府情报和国防行动提供人工智能模型,详见一份报告。
press release. 五角大楼方面拒绝就其与 Anthropic 的交易发表评论。“供应链风险”争议
Anthropic 的有争议立场招致了战争部长 Pete Hegseth 的尖锐批评,他在一份 X 帖子中公开将该公司的立场称为“傲慢和背叛”。
X post.
来源: idcrawl.com
战争部长 Pete Hegseth 在一份 X 帖中公开批评 Anthropic,称其立场为“傲慢和背叛”。
Hegseth 更进一步,威胁要将 Anthropic 列为“供应链风险”。这种分类将有效禁止所有美国军方承包商和合作伙伴与该公司进行商业活动。Anthropic 对此回应称,如果这种威胁成为现实,将提起诉讼,正如一份声明中所述。
statement on its website. 值得注意的是,OpenAI 已公开反对将 Anthropic 列为供应链风险。五角大楼此后已分配六个月时间,用 OpenAI 和埃隆·马斯克的 xAI 的模型替换 Claude。然而,据报道,Claude 在禁令发布数小时后就被部署在伊朗冲突中,这凸显了立即替换的实际困难。Anthropic 和五角大楼之间持续的争端反映了信任的明显破裂:Anthropic 不信任五角大楼负责任地使用其技术的能力,而五角大楼则质疑 Anthropic 对其技术在国家安全应用中的承诺。
对政府人工智能监控和监视的更广泛担忧
围绕这些人工智能交易的讨论延伸到对政府人工智能监控和监视的更广泛担忧。参议员罗恩·怀登批评五角大楼未能同意 Anthropic 的数据隐私担忧。他发出了严厉警告,指出人工智能有能力根据商业数据建立美国人的详细档案,称其为“大规模监控的可怕扩张”,正如一份声明中所强调的。
press release. Anthropic 的 Dario Amodei 强调,国防部需要对监控美国人做出更坚定的承诺,并指出当前的法律难以跟上人工智能发展的快速步伐。研究表明,即使是所谓的匿名数据,也可能通过人工智能系统重新识别个人,正如一份报告中所指出的。study on arXiv.国防部政策文件《国防部指令 3000.09》概述了自主武器系统开发和使用的政策和职责,可以在网站上找到。
DoD website.
来源: publicintelligence.net
国防部政策文件《国防部指令 3000.09》阐明了自主武器系统开发和使用的关键政策。
该文件进一步强调了在人工智能部署中伦理考量的重要性。像
Algorithmic Justice League, the ACLU, and Brookings 这样的组织广泛详细阐述了对人工智能大规模监控潜力及其对隐私和权利影响的担忧。OpenAI 和五角大楼的协议于 2 月 27 日签署,值得注意的是,就在前总统唐纳德·特朗普发布指示停止联邦机构使用 Anthropic 的 Claude 之后几小时。
常见问题
OpenAI 与五角大楼协议的主要争议是什么?
主要争议集中在对 OpenAI 的 AI 系统可能被用于对美国公民的国内监控和自主武器的担忧上。公众压力导致 OpenAI 修改了合同,明确禁止了这些用途。
Anthropic 的立场与 OpenAI 有何不同?
Anthropic 始终拒绝妥协其道德原则,拒绝允许其 AI 系统用于国内监控或致命自主武器。这导致与五角大楼发生重大争执,而 OpenAI 最终修订了合同,纳入了类似的禁令。
对 Anthropic 发出“供应链风险”威胁的意义是什么?
战争部长威胁要将 Anthropic 列为“供应链风险”,这将有效禁止所有美国军事承包商和合作伙伴与该公司开展业务。这突显了五角大楼对 Anthropic 拒绝在某些条款上合作的不满。
这些协议对人工智能和公民自由的更广泛影响是什么?
这些协议引发了对人工智能扩大大规模监控的可能性及其对隐私和基本权利影响的重大担忧。它们强调了需要健全的道德准则、政府合同的透明度以及与人工智能发展同步的法律。
ChatGPT 的替代品
对于担心 OpenAI-五角大楼协议影响的用户,有几种替代的人工智能平台可用。“QuitGPT”活动特别建议探索这些选项:
| 人工智能平台 | 开发商 | 备注 |
|---|---|---|
| Confer | 各种 | 专注于协作人工智能。 |
| Alpine | 各种 | 常用于企业解决方案。 |
| Lumo | 各种 | 新兴人工智能解决方案。 |
| Gemini | 谷歌 | 谷歌的高级人工智能模型。 |
| Claude | Anthropic | 以其反对军事用于监控/武器的强烈道德立场而闻名。 |
相反,该运动强烈建议不要使用埃隆·马斯克 X 平台开发的 Grok,因为存在各种担忧。
结论
人工智能与美国军方合作的不断变化的格局对科技公司和政府机构来说都代表着一个关键时刻。公众对合同中健全的道德准则和透明度的需求,特别是关于监控和自主武器的方面,无疑将继续塑造这些不断发展的关系。这种持续的对话对于确保技术进步造福人类而不损害基本权利和自由至关重要。
版权所有 © Zerlo.net