美国政府计划如何确保人工智能技术的安全保障

第四节——保障人工智能技术安全。

4.1.制定人工智能安全指南、标准和最佳实践。 (a) 在本命令发布之日起 270 天内，为了帮助确保安全、可靠和值得信赖的人工智能系统的开发，商务部长通过国家标准与技术研究所 (NIST) 主任行事，与能源部长、国土安全部长以及商务部长认为适当的其他相关机构负责人的协调应：

(i) 制定指导方针和最佳实践，以促进达成共识的行业标准，以开发和部署安全、可靠和值得信赖的人工智能系统，包括：

(A) 为生成式人工智能开发人工智能风险管理框架 NIST AI 100-1 的配套资源；

(B) 开发安全软件开发框架的配套资源，以纳入生成式人工智能和两用基础模型的安全开发实践；和

(C) 发起一项倡议，为评估和审计人工智能能力制定指南和基准，重点关注人工智能可能造成损害的能力，例如在网络安全和生物安全领域。

(ii) 建立适当的指导方针（作为国家安全系统组成部分的人工智能除外），包括适当的程序和流程，使人工智能的开发者，特别是军民两用基础模型的开发者能够进行人工智能红队测试，以实现部署安全、可靠且值得信赖的系统。这些努力应包括：

(A) 协调或制定与评估和管理两用基础模型的安全性、安保性和可信性相关的指南；和

(B) 与能源部长和国家科学基金会 (NSF) 主任协调，开发并帮助确保测试环境（例如测试床）的可用性，以支持安全、可靠和值得信赖的人工智能技术的开发，以及根据本命令第 9(b) 节支持相关 PET 的设计、开发和部署。

(b) 在本命令发布之日起 270 天内，为了了解和减轻人工智能安全风险，能源部长应与能源部长认为适当的其他部门风险管理机构 (SRMA) 负责人协调，在法律和可用拨款允许的范围内，制定并实施开发能源部人工智能模型评估工具和人工智能测试平台的计划。部长应尽可能使用现有解决方案开展这项工作，并应开发这些工具和人工智能测试平台，以便能够评估人工智能系统能力的近期推断。部长至少应开发工具来评估人工智能的能力，以产生可能代表核、防扩散、生物、化学、关键基础设施和能源安全威胁或危害的输出。部长开展这项工作的目的只是为了防范这些威胁，并且还应开发减少此类风险的模型护栏。部长应酌情咨询私人人工智能实验室、学术界、民间社会和第三方评估人员，并应使用现有解决方案。

4.2.确保人工智能安全可靠。 (a) 在本命令发布之日起 90 天内，根据经修订的《国防生产法》50 USC 4501等，确保并验证安全、可靠和有效的人工智能的持续可用性，包括国家国防和关键基础设施的保护，商务部长应要求：

(i) 正在开发或表明有意开发潜在的双重用途基础模型的公司，以便持续向联邦政府提供有关以下方面的信息、报告或记录：

(A) 与培训、开发或生产两用基础模型相关的任何正在进行或计划的活动，包括为确保培训过程的完整性以应对复杂威胁而采取的物理和网络安全保护措施；

(B) 任何双重用途基础模型的模型权重的所有权和占有，以及为保护这些模型权重而采取的物理和网络安全措施；和

(C) 根据 NIST 根据本节第 4.1(a)(ii) 款制定的指南，任何已开发的两用基础模型在相关 AI 红队测试中的性能结果，以及公司任何相关措施的描述已采取措施来实现安全目标，例如采取缓解措施来提高这些红队测试的性能并加强整体模型的安全性。在 NIST 根据本节第 4.1(a)(ii) 小节制定红队测试标准指南之前，此描述应包括公司为降低障碍而进行的任何红队测试的结果非国家行为者进入开发、获取和使用生物武器；发现软件漏洞并开发相关漏洞；使用软件或工具影响真实或虚拟事件；自我复制或传播的可能性；以及实现安全目标的相关措施；和

(ii) 收购、开发或拥有潜在的大规模计算集群的公司、个人或其他组织或实体报告任何此类收购、开发或拥有，包括这些集群的存在和位置以及总量每个集群中可用的计算能力。

(b) 商务部长应与国务卿、国防部长、能源部长和国家情报总监协商，确定并随后根据需要定期更新一套技术受本节第 4.2(a) 小节报告要求约束的模型和计算集群的条件。在确定此类技术条件之前，部长应要求遵守以下报告要求：

(i) 使用超过 1026 次整数或浮点运算的计算能力进行训练的任何模型，或者主要使用生物序列数据并使用超过 1023 次整数或浮点运算的计算能力进行训练的模型；和

(ii) 任何计算集群，其具有一组物理上位于单个数据中心的机器，通过超过 100 Gbit/s 的数据中心网络传递连接，并且理论最大计算能力为每台 1020 次整数或浮点运算第二个用于训练人工智能。

(c) 因为我发现必须采取额外措施来处理与 2015 年 4 月 1 日第 13694 号行政命令中宣布的重大恶意网络活动相关的国家紧急状态（封锁参与重大恶意网络活动的某些人的财产）活动），经 2016 年 12 月 28 日第 13757 号行政命令（针对重大恶意网络活动采取额外措施解决国家紧急状态）修订，并经第 13984 号行政命令进一步修订，以解决美国基础设施的使用问题外国恶意网络行为者提供的服务（IaaS）产品，包括对外国交易施加额外的记录保存义务，并协助调查涉及外国恶意网络行为者的交易，我特此指示商务部长，在 90 年内自本命令发出之日起的天数，至：

(i) 提出法规，要求美国 IaaS 提供商在外国人与美国 IaaS 提供商进行交易时向商务部长提交报告，以训练具有可用于恶意网络活动的潜在功能的大型人工智能模型（“训练运行”）。此类报告至少应包括外国人的身份以及是否存在符合本节规定的标准或部长在法规中定义的其他标准的人工智能模型的任何训练运行，以及任何附加的信息。秘书确定的信息。

(ii) 在根据本节第 4.2(c)(i) 款提出的法规中纳入一项要求，即美国 IaaS 提供商禁止其美国 IaaS 产品的任何外国经销商提供这些产品，除非该外国经销商向美国各州 IaaS 提供商必须向商务部长提供一份报告，详细说明外国人与外国经销商进行交易以使用美国 IaaS 产品进行第 4.2 款中所述的培训运行的每个实例（本节的 c)(i)。此类报告至少应包括本节第 4.2(c)(i) 款规定的信息以及部长确定的任何其他信息。

(iii) 确定大型人工智能模型具有可用于恶意网络活动的潜在功能的一组技术条件，并根据需要和适当修改该确定。在部长做出这样的决定之前，如果模型需要大于 1026 次整数或浮点运算的计算能力，并且接受过计算训练，则该模型应被视为具有可用于恶意网络活动的潜在功能。该集群拥有一组物理上位于单个数据中心的机器，通过超过 100 Gbit/s 的数据中心网络进行传递连接，并且具有每秒 1020 次整数或浮点运算的理论最大计算能力，用于训练 AI。

(d) 在本命令发布之日起 180 天内，根据本节第 4.2(c) 款规定的调查结果，商务部长应提出法规，要求美国 IaaS 提供商确保美国的外国经销商IaaS 产品验证从外国经销商处获取 IaaS 帐户（账户）的任何外国人的身份。这些法规至少应：

(i) 规定美国 IaaS 提供商必须要求其美国 IaaS 产品的外国经销商验证在外国经销商开设账户或维持现有账户的外国人身份的最低标准，包括：

(A) 美国 IaaS 产品的外国经销商必须要求提供的文件类型和程序，以验证作为这些产品或服务的承租人或转承租人的任何外国人的身份；

(B) 美国 IaaS 产品的外国经销商必须安全地维护有关获得帐户的外国人的记录，包括确定以下内容的信息：

(1) 该外国人的身份，包括姓名和地址；

(2) 支付方式和来源（包括任何关联的金融机构和其他标识符，例如信用卡号、账号、客户标识符、交易标识符或虚拟货币钱包或钱包地址标识符）；

（三）用于核实外国人身份的电子邮件地址和电话联系方式；和

(4) 用于访问或管理的互联网协议地址，以及与持续验证该外国人对该帐户的所有权相关的每次访问或管理行动的日期和时间；和

(C) 美国 IaaS 产品的外国经销商必须实施的方法，以限制所有第三方访问本款中描述的信息，除非此类访问符合本命令并根据适用法律允许；

(ii) 考虑美国 IaaS 产品的外国经销商维护的账户类型、开设账户的方法以及可用于实现识别使用任何此类产品的外国恶意网络行为者并避免强制实施的目标的识别信息类型对此类经销商造成不当负担；和

(iii) 规定商务部长根据其制定的标准和程序并与国防部长、司法部长、国土安全部长和国家情报总监协商，可以豁免美国 IaaS 提供商，针对其美国 IaaS 产品的任何特定外国经销商，或针对任何特定类型的账户或承租人，根据根据本款发布的任何法规的要求。此类标准和程序可能包括部长认定此类外国经销商、帐户或承租人遵守安全最佳实践，以防止滥用美国 IaaS 产品。

(e) 特此授权商务部长采取此类行动，包括颁布规则和条例，并运用《国际紧急经济权力法》50 USC 1701等赋予总统的所有权力。 ，为实现本节第 4.2(c) 和 (d) 款的目的可能有必要。此类行动可能包括要求美国 IaaS 提供商要求美国 IaaS 产品的外国经销商向美国 IaaS 提供商提供与这些小节相关的验证。

4.3.管理关键基础设施和网络安全中的人工智能。 (a) 为确保关键基础设施的保护，应采取以下行动：

(i) 自本命令发布之日起 90 天内，且此后至少每年，对关键基础设施拥有相关监管权力的各机构负责人以及相关 SRMA 负责人与网络安全和基础设施安全局局长协调国土安全部内部考虑跨部门风险，应评估并向国土安全部部长提供与在所涉及的关键基础设施部门使用人工智能相关的潜在风险的评估，包括部署人工智能可能会产生关键影响的方式基础设施系统更容易受到严重故障、物理攻击和网络攻击的影响，应考虑减轻这些漏洞的方法。鼓励独立监管机构在其认为适当的情况下为特定部门的风险评估做出贡献。

(ii) 在本命令发布之日起 150 天内，财政部长应发布一份关于金融机构管理人工智能特定网络安全风险最佳实践的公开报告。

(iii) 在本命令发布之日起 180 天内，国土安全部长应与商务部长、SRMA 以及国土安全部长确定的其他监管机构协调，酌情纳入人工智能风险管理框架、NIST AI 100-1 以及其他适当的安全指南，纳入相关安全和安保指南，供关键基础设施所有者和运营商使用。

(iv) 在完成本节第 4.3(a)(iii) 小节所述指南后 240 天内，总统国家安全事务助理和 OMB 主任与国土安全部长协商，应协调负责关键基础设施的机构负责人的工作，以制定并采取措施让联邦政府通过监管或其他适当行动强制执行此类准则或其适当部分。鼓励独立监管机构在其认为适当的情况下考虑是否通过其职权和责任领域的监管行动来强制提供指导。

(v) 国土安全部部长应根据 2002 年国土安全法（公法 107-296）第 871 条设立人工智能安全委员会作为咨询委员会。咨询委员会应酌情包括来自私营部门、学术界和政府的人工智能专家，并向国土安全部部长和联邦政府的关键基础设施社区提供建议、信息或建议，以提高安全性、弹性和事件响应与关键基础设施中人工智能的使用有关。

(b) 利用人工智能的潜力来改善美国的网络防御：

(i) 国防部长应针对国家安全系统执行本节第 4.3(b)(ii) 和 (iii) 款所述的行动，国土安全部长应针对非国家安全系统执行这些行动系统。各方应与国防部长和国土安全部长认为适当的其他相关机构负责人协商后这样做。

(ii) 根据本节第 4.3(b)(i) 小节的规定，在本命令发布之日起 180 天内，国防部长和国土安全部长应根据适用法律，各自制定计划、开展并完成一个运营试点项目，以识别、开发、测试、评估和部署人工智能功能，例如大语言模型，以帮助发现和修复关键的美国政府软件、系统和网络中的漏洞。

(iii) 根据本节第 4.3(b)(i) 小节的规定，在本命令发布之日起 270 天内，国防部长和国土安全部长应分别向总统助理提交一份报告国家安全事务部根据本节第 4.3(b)(ii) 小节要求的计划和运营试点项目采取的行动结果，包括对通过开发和部署人工智能功能发现和修复的任何漏洞的描述，以及关于如何有效识别、开发、测试、评估和部署人工智能能力以进行网络防御的任何经验教训。

4.4.降低人工智能和 CBRN 威胁交叉点的风险。 (a) 为了更好地理解和减轻人工智能被滥用来协助开发或使用 CBRN 威胁（特别是生物武器）的风险，应采取以下行动：

(i) 在本命令发布之日起 180 天内，国土安全部长应与能源部长和科学技术政策办公室 (OSTP) 主任协商，评估人工智能被滥用的可能性以便能够开发或产生 CBRN 威胁，同时还考虑人工智能应对这些威胁的好处和应用，包括酌情根据本命令第 8(b) 节开展的工作的结果。国土安全部长应：

(A) 酌情咨询来自能源部、私人人工智能实验室、学术界和第三方模型评估人员的人工智能和 CBRN 问题专家，以评估人工智能模型呈现 CBRN 威胁的能力 - 唯一目的是防范这些威胁——以及最大限度地降低人工智能模型滥用产生或加剧这些威胁的风险的选项；和

(B) 向总统提交一份报告，描述这些工作的进展，包括对可能给美国带来 CBRN 风险的人工智能模型类型的评估，并就规范或监督培训、部署、发布提出建议，或使用这些模型，包括安全评估的要求和减轻国家安全潜在威胁的护栏。

(ii) 在本命令发布之日起 120 天内，国防部长应与总统国家安全事务助理和科技政策办公室主任协商，与美国国家科学院、工程院、和医学部门进行并提交给国防部长、总统国家安全事务助理、大流行病防备和应对政策办公室主任、科学技术政策办公室主任和首席数据官委员会主席——一项研究表明：

(A) 评估人工智能增加生物安全风险的方式，包括基于生物数据训练的生成人工智能模型的风险，并就如何减轻这些风险提出建议；

(B) 考虑使用美国政府托管、生成、资助创建或以其他方式拥有的用于训练生成人工智能模型的数据和数据集，特别是与病原体和组学研究相关的数据和数据集对国家安全的影响，并就如何减轻与使用这些数据和数据集相关的风险提出建议；

(C) 评估人工智能应用于生物学以减少生物安全风险的方式，包括关于协调数据和高性能计算资源的机会的建议；和

(D) 考虑国防部长认为适当的人工智能和合成生物学交叉领域的其他问题和机会。

(b) 为了降低合成核酸滥用的风险（人工智能在该领域的能力可能会大大增加这种风险），并改善核酸合成行业的生物安全措施，应采取以下行动：

(i) 在本命令发布之日起 180 天内，OSTP 主任与国务卿、国防部长、司法部长、商务部长、卫生与公众服务部长 (HHS) 协商、能源部长、国土安全部长、国家情报总监以及科技政策政策办公室主任认为适当的其他相关机构负责人应建立一个框架，酌情纳入现有的美国政府指导，鼓励合成核酸序列的提供者实施全面、可扩展和可验证的合成核酸采购筛选机制，包括标准和建议的激励措施。作为该框架的一部分，OSTP 主任应：

(A) 建立标准和机制，持续识别可能对美国国家安全构成风险的生物序列；和

(B) 确定用于进行和验证序列合成采购筛选性能的标准化方法和工具，包括支持尽职调查的客户筛选方法，以管理第 4.4(b)(i) 小节中确定的生物序列购买者带来的安全风险本节 (A) 部分，以及向执法实体报告相关活动的流程。

(ii) 在本命令发布之日起 180 天内，商务部长通过 NIST 主任与 OSTP 主任协调，并与国务卿、HHS 部长和各负责人协商商务部长认为适当的其他相关机构应努力与行业和相关利益相关者合作，并根据本节第 4.4(b)(i) 款制定的框架进行通报，以开发和完善可能的用途由合成核酸序列提供者提供：

（一）有效核酸合成采购筛选规范；

(B) 管理关注序列数据库以支持此类筛查的最佳实践，包括安全和访问控制；

（三）有效筛查的技术实施指南；和

(D) 合格评定最佳实践和机制。

(iii) 在根据本节第 4.4(b)(i) 小节建立框架后 180 天内，所有资助生命科学研究的机构应酌情并符合适用法律，规定，作为一项要求在资金方面，合成核酸采购是通过遵守该框架的供应商或制造商进行的，例如通过供应商或制造商的证明。负责国家安全事务的总统助理和科技政策政策办公室主任应协调此类资金需求的审查过程，以促进各资助机构实施该框架的一致性。

(iv) 为了促进本节第 4.4(b)(i)-(iii) 小节所述措施的有效实施，国土安全部长与国土安全部长等其他相关机构负责人协商保安认为适当的，应：

(A) 在根据本节第 4.4(b)(i) 小节建立框架后 180 天内，制定一个框架，对核酸合成采购筛选进行结构化评估和压力测试，包括根据本节第 4.4(b)(i)-(ii) 小节并由合成核酸序列的提供者实施；和

(B) 根据本节第 4.4(b)(iv)(A) 小节制定框架后，向总统国家安全事务助理、大流行病防范和应对办公室主任提交年度报告政策和 OSTP 主任根据本节第 4.4(b)(iv)(A) 小节进行的活动的任何结果，包括关于如何加强核酸合成采购筛选（包括客户筛选）的建议（如果有）系统。

4.5.减少合成内容带来的风险。

培养识别和标记人工智能系统生成的合成内容的能力，并确定由联邦政府或代表联邦政府生成的合成和非合成数字内容的真实性和出处：

(a) 在本命令发布之日起 240 天内，商务部长应与商务部长认为适当的其他相关机构负责人协商，向 OMB 主任和商务部助理提交一份报告。国家安全事务主席确定现有标准、工具、方法和实践，以及进一步科学支持的标准和技术的潜在开发，用于：

(i) 验证内容并追踪其来源；

(ii) 标记合成内容，例如使用水印；

(iii) 检测合成成分；

(iv) 防止生成式人工智能制作儿童性虐待材料或制作未经同意的真实个人亲密图像（包括对可识别个人的身体或身体部位的亲密数字描绘）；

(v) 测试用于上述目的的软件；和

(vi) 审核和维护合成内容。

(b) 在提交本节第 4.5(a) 款要求的报告后 180 天内，并定期更新，商务部长应与 OMB 主任协调，制定有关数字化现有工具和实践的指南。内容认证和合成内容检测措施。该指南应包括用于本节第 4.5(a) 小节所列目的的措施。

(c) 在制定本节第 4.5(b) 款所要求的指导意见后 180 天内，并在其后定期更新，OMB 主任与国务卿协商；国防部长；总检察长；商务部长，通过 NIST 主任行事；国土安全部部长；国家情报总监；以及管理和预算局局长认为适当的其他机构负责人，为了增强公众对美国政府官方数字内容完整性的信心，应向各机构发布指导，以标记和验证其制作或发布的此类内容。

(d) 联邦采购监管委员会应酌情并根据适用法律考虑修订《联邦采购条例》，以考虑本节第 4.5 款规定的指导。

4.6.征求有关具有广泛可用模型权重的两用基础模型的意见。当双重用途基础模型的权重被广泛使用时（例如当它们在互联网上公开发布时），创新可能会带来巨大的好处，但也会带来巨大的安全风险，例如模型内安全措施的消除。为了解决具有广泛可用权重的两用基础模型的风险和潜在利益，商务部长在本命令发布之日起 270 天内，通过负责通信和信息的助理商务部长行事，并与国务卿应：

(a) 通过公众咨询进程，征求私营部门、学术界、民间社会和其他利益攸关方对模型所重视的两用基础模型的潜在风险、收益、其他影响以及适当的政策和监管方法的意见广泛可用，包括：

(i) 与参与者微调模型权重广泛可用的两用基础模型或取消这些模型的保障措施相关的风险；

(ii) 模型权重广泛可用的两用基础模型对人工智能创新和研究的好处，包括对人工智能安全和风险管理的研究；和

(iii) 潜在的自愿、监管和国际机制，用于管理风险并最大限度地提高模型权重广泛可用的双重用途基础模型的效益；和

(b) 根据本节第 4.6(a) 款所述流程的输入，并与商务部长认为适当的其他相关机构负责人协商，向总统提交一份关于潜在利益和风险的报告，以及模型权重广泛可用的双重用途基础模型的影响，以及与这些模型相关的政策和监管建议。

4.7.促进安全发布并防止恶意使用联邦数据进行人工智能培训。改善公共数据访问并管理安全风险，并符合《开放、公共、电子和必要的政府数据法案》（公法 115 的第二章）的目标-435）以机器可读的格式扩大公众对联邦数据资产的访问，同时还考虑到安全考虑，包括单独数据资产中的信息不会构成安全风险，但与其他可用的信息结合使用时的风险信息，可能会带来这样的风险：

(a) 在本命令发布之日起 270 天内，首席数据官委员会与国防部长、商务部长、能源部长、国土安全部长和国家情报总监协商，应制定执行安全审查的初步指南，包括审查以识别和管理发布可能有助于开发 CBRN 武器以及开发自主进攻性网络能力的联邦数据的潜在安全风险，同时还向公众提供联邦数据访问权限符合《开放、公共、电子和必要政府数据法》（公法 115-435 标题 II）中规定目标的政府数据；和

(b) 在制定本节第 4.7(a) 款要求的初步指南后 180 天内，各机构应对 44 USC 3511(a)(1) 要求的综合数据清单中的所有数据资产进行安全审查(2)(B) 并应根据适用法律酌情采取措施，解决释放该数据可能引发的与 CBRN 武器相关的最高优先级潜在安全风险，例如该数据可能会以何种方式泄露。用于训练人工智能系统。

4.8.指导制定国家安全备忘录。为了制定协调的行政部门方法来管理人工智能的安全风险，负责国家安全事务的总统助理以及负责政策的总统助理和副参谋长应监督机构间流程，目的是在人工智能安全风险发生后 270 天内该命令发布之日起，制定并向总统提交一份拟议的人工智能国家安全备忘录。该备忘录应涉及作为国家安全系统组成部分或用于军事和情报目的的人工智能的治理。该备忘录应考虑到当前管理国家安全系统人工智能开发和使用的努力。该备忘录应概述国防部、国务院、其他相关机构和情报界为应对人工智能带来的国家安全风险和潜在利益而采取的行动。特别是，备忘录应：

(a) 就继续采用人工智能能力来推进美国国家安全使命向国防部、其他相关机构和情报界提供指导，包括指导国家安全用途的具体人工智能保证和风险管理实践人工智能可能影响美国人的权利或安全，并在适当情况下影响非美国人的权利或安全；和

(b) 根据适用法律，酌情采取持续行动，解决对手和其他外国行为者可能以威胁国防部或情报界能力或目标的方式使用人工智能系统，或以其他方式对美国或其盟友和伙伴的安全构成风险。