OpenAI与五角大楼的交易引发了关于人工智能和大规模监控的新问题
(SeaPRwire) – 周五，在公开支持竞争对手Anthropic坚决抵制五角大楼的要求仅数小时后，OpenAI首席执行官山姆·奥特曼宣布，他的公司已与五角大楼达成了自己的协议。此举发生在美国政府采取了极为罕见的举措，将Anthropic指定为“供应链风险”之后不久。 OpenAI的决定遭到了众多人工智能研究人员和科技政策专家的批评，尽管OpenAI表示，其在协议中对美国公民监控和致命自主武器方面实现了限制，这些限制是Anthropic希望在其合同中纳入但被五角大楼拒绝的。 争议的关键问题之一是国内大规模监控。专家们长期以来一直警告称，先进的人工智能能够收集分散的、单个无害的数据，如一个人的位置、财务状况、搜索历史等，并自动大规模地将其整合为任何人生活的全面图景。Anthropic首席执行官达里奥·阿莫迪表示，这种监控对人们的“基本自由”构成了严重且新颖的风险，而且“法律尚未跟上人工智能迅速增长的能力”。 尽管OpenAI在一篇博客文章中表示，它已与五角大楼达成协议，其技术不会用于国内大规模监控或直接的自主武器系统，这是Anthropic拒绝放弃的两个严格限制，但一些法律和政策专家对法律中可能存在的漏洞提出了质疑。 部分争议取决于对美国人数据进行大规模分析的模糊合法性，根据美国现行法规，这种分析是合法的，尽管它感觉与大规模监控难以区分。 “目前，根据美国法律，政府当局从数据经纪商和其他第三方购买商业可用信息是合法的，”民主与技术中心政策副总裁萨米尔·贾恩表示。“如果你购买大量数据并让人工智能进行分析，你最终可能实际上通过这个过程对美国人进行大规模监控。目前它不受法律限制或禁止。” OpenAI表示，其“红线”通过计划构建的技术系统以及与五角大楼合同中的条款来执行。根据该公司发布的一篇博客文章，合同允许国防部将人工智能“用于所有合法目的，符合适用法律、作战要求以及既定的安全和监督协议”，同时明确禁止对美国人私人信息的无限制监控。 问题在于，什么算作“合法”可能会改变。OpenAI的合同指向现有法律和国防部政策，但这些政策未来可能会被修改。“他们发布的内容中没有任何东西能阻止这些政策在未来被改变，”贾恩说。 一些批评者认为，现有的情报机构已经允许OpenAI声称禁止的监控形式。Techdirt的创始人迈克·马斯尼克指出，该协议“绝对允许国内监控”，他提到了第12333号行政命令，这是一项长期有效的授权，允许情报机构收集美国境外的通信，其中可能包括美国人的数据，只要是偶然获取的。 部分辩论围绕美国法律中管辖不同国家安全活动的具体部分展开。美国军方的行动一般受美国联邦法规第10编管辖。这包括国防情报局和美国网络司令部为支持军事行动所做的工作。但国防情报局的一些工作属于美国法律的另一部分，即美国法典第50编，该编一般管辖秘密情报收集和秘密行动。中央情报局和国家安全局的工作一般也属于第50编。一些最敏感的第50编活动，特别是秘密行动，大多在幕后进行，需要总统的批准。 在周末发布的一篇博客文章中，OpenAI分享了其与五角大楼协议的详细情况，根据OpenAI一位知名研究人员诺姆·布朗在社交媒体上的一篇帖子，该公司国家安全合作负责人卡塔琳娜·穆利根告诉布朗，OpenAI的合同不涵盖情报界的第50编工作，这是批评者主要担忧的问题之一。OpenAI的代表没有立即回应[具体媒体名称]的置评请求。 但法律学者指出，第10编和第50编活动之间的区别越来越模糊。实际上，两者可能看起来非常相似，并都可能涉及分析有关外国行为者的数据或跟踪模式。但这种重叠给像OpenAI这样的公司造成了一个灰色地带：一份禁止第50编工作的合同并不能自动阻止像国防情报局这样的第10编机构使用人工智能来分析商业可用或未分类的数据集。 “如果他们说他们的系统不能用于任何第50编活动，那么这就缩小了人工智能系统可用于的活动范围。”贾恩说，“但这并不能解决问题。” 本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。 分类: 头条新闻,日常新闻 SeaPRwire为公司和机构提供全球新闻稿发布，覆盖超过6,500个媒体库、86,000名编辑和记者，以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。
