미국 정부가 AI 기술의 안전과 보안을 보장하기 위한 계획

여기에서 안전하고 신뢰할 수 있는 인공 개발 및 사용에 관한 미국 행정 명령의 모든 섹션으로 이동할 수 있습니다. 섹션 4 - AI 기술의 안전과 보안 보장. 4.1. AI 안전 및 보안을 위한 지침, 표준 및 모범 사례 개발. (a) 이 명령일로부터 270일 이내에 안전하고 신뢰할 수 있는 AI 시스템의 개발을 보장하기 위해 상무부 장관은 NIST(국립표준기술연구소) 소장을 통해 다음과 같이 조치를 취합니다. 에너지부 장관, 국토안보부 장관 및 상무부 장관이 적절하다고 판단하는 기타 관련 기관의 장과의 조정은 다음과 같습니다. (i) 다음을 포함하여 안전하고 신뢰할 수 있는 AI 시스템을 개발 및 배포하기 위한 합의된 업계 표준을 촉진할 목적으로 지침과 모범 사례를 확립합니다. (A) 생성 AI를 위한 AI 위험 관리 프레임워크인 NIST AI 100-1에 대한 동반 리소스를 개발합니다. (B) 생성 AI 및 이중 용도 기반 모델에 대한 보안 개발 관행을 통합하기 위해 보안 소프트웨어 개발 프레임워크에 대한 동반 리소스를 개발합니다. 그리고 (C) 사이버 보안 및 생물학적 보안 분야와 같이 AI가 해를 끼칠 수 있는 기능에 중점을 두고 AI 기능을 평가하고 감사하기 위한 지침과 벤치마크를 만들기 위한 계획을 시작합니다. (ii) AI 개발자, 특히 이중 용도 기반 모델의 개발자가 AI 레드팀 테스트를 수행할 수 있도록 적절한 절차 및 프로세스를 포함하여 적절한 지침(국가 보안 시스템의 구성 요소로 사용되는 AI 제외)을 수립합니다. 안전하고 신뢰할 수 있는 시스템을 배포합니다. 이러한 노력에는 다음이 포함됩니다. (A) 이중 용도 기초 모델의 안전성, 보안 및 신뢰성을 평가하고 관리하는 것과 관련된 지침을 조정하거나 개발합니다. 그리고 (B) 에너지부 장관 및 국립과학재단(NSF) 이사와 협력하여 안전하고 신뢰할 수 있는 AI 기술 개발을 지원하기 위해 테스트베드와 같은 테스트 환경의 가용성을 개발하고 보장합니다. , 또한 본 명령의 섹션 9(b)에 따라 관련 PET의 설계, 개발 및 배포를 지원합니다. (b) 본 명령일로부터 270일 이내에 에너지부 장관은 AI 보안 위험을 이해하고 완화하기 위해 에너지부 장관이 적절하다고 판단하는 다른 부문 위험 관리 기관(SRMA)의 장과 협력하여 다음을 수행해야 합니다. 법과 사용 가능한 예산이 허용하는 범위 내에서 에너지부의 AI 모델 평가 도구 및 AI 테스트베드 개발 계획을 개발하고 실행합니다. 장관은 가능한 경우 기존 솔루션을 사용하여 이 작업을 수행해야 하며, AI 시스템 기능의 단기 추정을 평가할 수 있도록 이러한 도구와 AI 테스트베드를 개발해야 합니다. 최소한 장관은 핵, 비확산, 생물학적, 화학적, 중요 인프라 및 에너지 안보 위협이나 위험을 나타낼 수 있는 결과를 생성하기 위해 AI 능력을 평가하는 도구를 개발해야 합니다. 장관은 이러한 위협으로부터 보호할 목적으로만 이 작업을 수행해야 하며, 그러한 위험을 줄이는 모델 가드레일도 개발해야 합니다. 장관은 적절한 경우 민간 AI 연구소, 학계, 시민 사회 및 제3자 평가자와 협의하고 기존 솔루션을 사용해야 합니다. 4.2. 안전하고 신뢰할 수 있는 AI 보장. (a) 이 명령일로부터 90일 이내에 국가를 포함하여 개정된 국방생산법(50 USC 4501 .)에 따라 안전하고 신뢰할 수 있으며 효과적인 AI의 지속적인 가용성을 보장하고 검증합니다. 국방 및 중요 기반 시설의 보호를 위해 상무부 장관은 다음을 요구합니다. et seq (i) 다음에 관한 정보, 보고서 또는 기록을 연방 정부에 지속적으로 제공하기 위해 잠재적인 이중 용도 기초 모델을 개발하거나 개발하려는 의도를 입증하는 회사: (A) 정교한 위협에 대한 훈련 프로세스의 무결성을 보장하기 위해 취해진 물리적 및 사이버 보안 보호를 포함하여 이중 용도 기반 모델의 훈련, 개발 또는 생산과 관련된 진행 중이거나 계획된 활동 (B) 이중 용도 기초 모델의 모델 분동에 대한 소유권 및 소유, 그리고 해당 모델 분동을 보호하기 위해 취해진 물리적 및 사이버 보안 조치; 그리고 (C) 본 섹션의 하위 섹션 4.1(a)(ii)에 따라 NIST가 개발한 지침을 기반으로 관련 AI 레드팀 테스트에서 개발된 이중 용도 기반 모델의 성능 결과 및 회사의 관련 조치에 대한 설명 이러한 레드팀 테스트의 성능을 개선하고 전반적인 모델 보안을 강화하기 위한 완화와 같은 안전 목표를 달성하기 위해 노력했습니다. 본 섹션의 하위 섹션 4.1(a)(ii)에 따라 NIST가 레드팀 테스트 표준에 대한 지침을 개발하기 전에 이 설명에는 회사가 장벽을 낮추는 것과 관련하여 수행한 모든 레드팀 테스트 결과가 포함되어야 합니다. 비국가 행위자의 생물무기 개발, 획득 및 사용을 위한 입국 소프트웨어 취약점 발견 및 관련 익스플로잇 개발; 실제 또는 가상 이벤트에 영향을 미치기 위한 소프트웨어 또는 도구의 사용; 자가 복제 또는 전파 가능성; 안전 목표를 달성하기 위한 관련 조치; 그리고 (ii) 잠재적인 대규모 컴퓨팅 클러스터를 획득, 개발 또는 소유하는 회사, 개인 또는 기타 조직이나 단체는 해당 클러스터의 존재 및 위치와 총액을 포함하여 그러한 획득, 개발 또는 소유를 보고합니다. 각 클러스터에서 사용할 수 있는 컴퓨팅 성능. (b) 상무부 장관은 국무장관, 국방장관, 에너지부 장관, 국가정보국장과 협의하여 기술적인 일련의 사항을 정기적으로 정의하고 필요에 따라 업데이트해야 합니다. 본 섹션 하위 섹션 4.2(a)의 보고 요구 사항이 적용되는 모델 및 컴퓨팅 클러스터에 대한 조건. 그러한 기술적 조건이 정의될 때까지 장관은 다음 사항에 대한 보고 요구 사항을 준수하도록 요구해야 합니다. (i) 1026 정수 또는 부동 소수점 연산을 초과하는 컴퓨팅 성능을 사용하거나 주로 생물학적 시퀀스 데이터를 사용하고 1023 정수 또는 부동 소수점 연산을 초과하는 컴퓨팅 성능을 사용하여 훈련된 모델 그리고 (ii) 단일 데이터 센터에 물리적으로 같은 위치에 있는 기계 세트가 있고, 100Gbit/s가 넘는 데이터 센터 네트워킹으로 전이적으로 연결되어 있으며, 이론상 최대 컴퓨팅 용량이 1020회의 정수 또는 부동 소수점 연산을 갖춘 모든 컴퓨팅 클러스터 두 번째는 AI 훈련입니다. (c) 2015년 4월 1일자 행정 명령 13694(중요한 사이버 기반 활동에 연루된 특정 개인의 재산 차단)에 선언된 심각한 사이버 기반 활동과 관련된 국가 비상 상황을 처리하려면 추가 조치를 취해야 한다고 판단했기 때문입니다. 활동), 2016년 12월 28일자 행정 명령 13757(상당한 악의적인 사이버 활용 활동과 관련하여 국가 비상 사태를 해결하기 위한 추가 조치 취하기)에 의해 개정되었으며, 미국 인프라 사용을 다루기 위해 행정 명령 13984에 의해 추가로 개정되었습니다. 서비스형(IaaS) 외국 거래와 관련하여 추가 기록 유지 의무를 부과하고 외국 악의적 사이버 행위자가 관련된 거래 조사를 지원하는 것을 포함하여 외국 악의적인 사이버 행위자가 만든 제품에 대해 상무부 장관에게 90년 이내에 지시합니다. 이 주문일로부터 다음 날짜까지: (i) 악의적인 사이버 활동에 사용될 수 있는 잠재적 기능을 갖춘 대규모 AI 모델을 교육하기 위해 외국인이 미국 IaaS 제공업체와 거래할 때 미국 IaaS 제공업체가 상무부 장관에게 보고서를 제출하도록 요구하는 규정을 제안합니다. (“훈련 실행”). 이러한 보고서에는 최소한 외국인의 신원과 이 섹션에 명시된 기준 또는 장관이 규정에 정의한 기타 기준을 충족하는 AI 모델의 훈련 실행 여부 및 추가 정보가 포함되어야 합니다. 장관이 식별한 정보. (ii) 본 섹션의 하위 섹션 4.2(c)(i)에 따라 제안된 규정에 미국 IaaS 공급자가 미국 IaaS 제품의 외국 리셀러가 미국 IaaS 제품에 대한 제출을 하지 않는 한 해당 제품을 제공하는 것을 금지하는 요구 사항을 포함합니다. 미국 IaaS 제공업체는 미국 IaaS 제공업체가 상무부 장관에게 제출해야 하는 보고서로, 외국인이 미국 IaaS 제품을 사용하여 하위 섹션 4.2( 이 섹션의 c)(i). 이러한 보고서에는 최소한 본 섹션의 하위 섹션 4.2(c)(i)에 명시된 정보와 장관이 확인한 추가 정보가 포함되어야 합니다. (iii) 대규모 AI 모델이 악의적인 사이버 활동에 사용될 수 있는 잠재적인 기능을 갖기 위한 일련의 기술적 조건을 결정하고 필요하고 적절하게 해당 결정을 수정합니다. 장관이 그러한 결정을 내릴 때까지 모델은 1026 정수 또는 부동 소수점 연산보다 더 많은 양의 컴퓨팅 성능이 필요하고 컴퓨팅에 대해 훈련된 경우 악의적인 사이버 기반 활동에 사용될 수 있는 잠재적 기능을 가진 것으로 간주됩니다. 단일 데이터 센터에 물리적으로 같은 위치에 있는 머신 세트가 있고, 100Gbit/s가 넘는 데이터 센터 네트워킹으로 전이적으로 연결되어 있으며, AI 훈련을 위한 이론상 최대 컴퓨팅 용량이 초당 1020개의 정수 또는 부동 소수점 연산을 갖춘 클러스터입니다. (d) 이 명령일로부터 180일 이내에 이 섹션의 하위 섹션 4.2(c)에 명시된 조사 결과에 따라 상무부 장관은 미국 IaaS 제공업체가 미국의 외국 리셀러에게 다음을 보장하도록 요구하는 규정을 제안해야 합니다. IaaS 제품은 해외 리셀러로부터 IaaS 계정(계정)을 취득한 외국인의 신원을 확인합니다. 이 규정은 최소한 다음을 충족해야 합니다. (i) 외국 리셀러에게 계정을 개설하거나 기존 계정을 유지하는 외국인의 신원을 확인하기 위해 미국 IaaS 공급자가 미국 IaaS 제품의 해외 리셀러에게 요구해야 하는 최소 기준을 명시합니다. (A) 미국 IaaS 제품의 외국 리셀러가 해당 제품 또는 서비스의 임차인 또는 하위 임차인 역할을 하는 외국인의 신원을 확인하기 위해 요구해야 하는 문서 및 절차의 유형, (B) 미국 IaaS 제품의 외국 리셀러가 계정을 획득한 외국인과 관련하여 다음 정보를 포함하여 안전하게 유지해야 하는 기록: (1) 이름과 주소를 포함한 해당 외국인의 신원 (2) 지불 수단 및 출처(관련 금융 기관 및 신용 카드 번호, 계좌 번호, 고객 식별자, 거래 식별자, 가상 통화 지갑 또는 지갑 주소 식별자와 같은 기타 식별자 포함) (3) 외국인의 신원을 확인하는 데 사용되는 전자 메일 주소 및 전화 연락처 정보; 그리고 (4) 접속이나 관리에 사용되는 인터넷 프로토콜 주소, 해당 계정에 대한 외국인의 소유권을 지속적으로 확인하는 것과 관련된 각 접속이나 관리 조치의 날짜와 시간, 그리고 (C) 미국 IaaS 제품의 해외 리셀러가 본 하위 섹션에 설명된 정보에 대한 모든 제3자의 액세스를 제한하기 위해 구현해야 하는 방법. 단, 해당 액세스가 본 명령과 달리 일치하고 해당 법률에 따라 허용되는 경우는 제외됩니다. (ii) 미국 IaaS 제품의 외국 리셀러가 유지 관리하는 계정 유형, 계정 개설 방법, 해당 제품을 사용하는 외국 악의적 사이버 행위자를 식별하고 부과를 방지하는 목적을 달성하는 데 사용할 수 있는 식별 정보 유형을 고려합니다. 해당 리셀러에게 과도한 부담을 줌 그리고 (iii) 상무부 장관이 명시한 표준 및 절차에 따라 국방장관과 협의하여 법무장관, 국토안보부 장관 및 국가정보국장이 면제할 수 있도록 규정합니다. 미국 IaaS 제품의 특정 해외 리셀러와 관련하여 또는 특정 유형의 계정이나 임차인과 관련하여 미국 IaaS 제공업체는 본 하위 조항에 따라 발행된 규정의 요구 사항에 따릅니다. 이러한 표준 및 절차에는 해당 외국 리셀러, 계정 또는 임차인이 미국 IaaS 제품의 남용을 방지하기 위한 보안 모범 사례를 준수한다는 장관의 조사 결과가 포함될 수 있습니다. (e) 상무장관은 이에 따라 규칙 및 규정의 공포를 포함하여 그러한 조치를 취하고 국제긴급경제권법(50 USC 1701 , 본 섹션의 하위 섹션 4.2(c) 및 (d)의 목적을 수행하는 데 필요할 수 있습니다. 이러한 조치에는 미국 IaaS 공급자가 미국 IaaS 제품의 해외 리셀러에게 해당 하위 조항과 관련된 미국 IaaS 공급자 확인을 제공하도록 요구하는 요구 사항이 포함될 수 있습니다. et seq)에 따라 대통령에게 부여된 모든 권한을 행사할 권한이 있습니다. 4.3. 중요 인프라 및 사이버 보안에서 AI를 관리합니다. (a) 주요 기반 시설의 보호를 보장하기 위해 다음 조치를 취해야 합니다. (i) 이 명령일로부터 90일 이내에, 그리고 그 이후 최소 1년에 한 번씩, 중요 인프라에 대한 관련 규제 권한을 가진 각 기관의 장과 관련 SRMA의 장이 사이버 보안 및 인프라 보안 기관의 국장과 협력합니다. 부문 간 위험을 고려하기 위해 국토안보부 내에서 AI 배치가 중요해질 수 있는 방식을 포함하여 관련 중요 인프라 부문에서 AI 사용과 관련된 잠재적 위험에 대한 평가를 국토안보부 장관에게 평가하고 제공해야 합니다. 인프라 시스템은 심각한 오류, 물리적 공격, 사이버 공격에 더 취약하며 이러한 취약성을 완화하는 방법을 고려해야 합니다. 적절하다고 판단되는 경우 독립 규제 기관이 부문별 위험 평가에 기여하도록 권장됩니다. (ii) 이 명령일로부터 150일 이내에 재무장관은 금융 기관이 AI 관련 사이버 보안 위험을 관리하기 위한 모범 사례에 대한 공개 보고서를 발행해야 합니다. (iii) 이 명령일로부터 180일 이내에 국토안보부 장관은 상무부 장관, SRMA 및 국토안보부 장관이 결정한 기타 규제 기관과 협력하여 AI 위험 관리 프레임워크를 적절하게 통합해야 합니다. , NIST AI 100-1 및 기타 적절한 보안 지침을 중요한 인프라 소유자 및 운영자가 사용할 관련 안전 및 보안 지침에 포함합니다. (iv) 이 섹션의 하위 섹션 4.3(a)(iii)에 설명된 지침을 완료한 후 240일 이내에 대통령 국가안보보좌관과 OMB 국장은 국토안보부 장관과 협의하여 다음을 수행합니다. 규제 또는 기타 적절한 조치를 통해 연방 정부가 그러한 지침이나 그 적절한 부분을 의무화하도록 조치를 취하고 개발하기 위해 중요 인프라에 대한 권한을 가진 기관장의 작업을 조정해야 합니다. 독립 규제 기관은 적절하다고 판단되는 경우 자신의 권한과 책임 영역에서 규제 조치를 통해 지침을 의무화할지 여부를 고려하도록 권장됩니다. (v) 국토안보부 장관은 2002년 국토안보법(공법 107-296) 제871조에 따라 자문위원회로서 인공지능 안전보안위원회를 설립해야 합니다. 자문 위원회에는 민간 부문, 학계, 정부의 AI 전문가가 적절하게 포함되어야 하며 국토안보부 장관과 연방 정부의 중요 인프라 커뮤니티 조언, 정보 또는 보안, 탄력성 및 사고 대응 개선을 위한 권장 사항을 제공해야 합니다. 중요 인프라에서의 AI 사용과 관련됩니다. (b) 미국 사이버 방어를 개선하기 위해 AI의 잠재력을 활용하려면: (i) 국방부 장관은 국가 보안 시스템에 대해 본 섹션 4.3(b)(ii) 및 (iii)항에 설명된 조치를 수행해야 하며, 국토안보부 장관은 비국가 안보를 위해 이러한 조치를 수행해야 합니다. 시스템. 각 기관은 국방부 장관과 국토안보부 장관이 적절하다고 판단하는 대로 다른 관련 기관의 장과 협의하여 이를 수행해야 합니다. (ii) 본 섹션의 하위 섹션 4.3(b)(i)에 명시된 대로, 본 명령일로부터 180일 이내에 국방부 장관과 국토안보부 장관은 관련 법률에 따라 각각 다음에 대한 계획을 개발해야 합니다. , 중요한 미국 정부 소프트웨어, 시스템 및 네트워크의 취약점을 발견하고 해결하는 데 도움이 되는 대규모 언어 모델과 같은 AI 기능을 식별, 개발, 테스트, 평가 및 배포하는 운영 파일럿 프로젝트를 수행하고 완료합니다. . (iii) 이 섹션의 하위 섹션 4.3(b)(i)에 명시된 대로, 이 명령이 발표된 날로부터 270일 이내에 국방부 장관과 국토안보부 장관은 각각 대통령 보좌관에게 보고서를 제공해야 합니다. AI 기능의 개발 및 배포를 통해 발견되고 수정된 취약성에 대한 설명을 포함하여 본 섹션의 하위 섹션 4.3(b)(ii)에서 요구하는 계획 및 운영 시범 프로젝트에 따라 취해진 조치의 결과에 대한 국가 안보 업무용 사이버 방어를 위해 AI 기능을 효과적으로 식별, 개발, 테스트, 평가 및 배포하는 방법에 대해 배운 모든 교훈. 4.4. AI와 CBRN 위협의 교차점에서 위험을 줄입니다. (a) AI가 CBRN 위협의 개발 또는 사용을 지원하기 위해 오용될 위험을 더 잘 이해하고 완화하기 위해(특히 생물학적 무기에 중점을 두고) 다음 조치를 취해야 합니다. (i) 본 명령일로부터 180일 이내에 국토안보부 장관은 에너지부 장관 및 과학기술정책국(OSTP) 국장과 협의하여 AI가 오용될 가능성을 평가해야 합니다. CBRN 위협의 개발 또는 생산을 가능하게 하는 한편, 적절한 경우 본 명령의 섹션 8(b)에 따라 수행된 작업 결과를 포함하여 이러한 위협에 대응하기 위한 AI의 이점과 적용을 고려합니다. 국토안보부 장관은 다음을 수행해야 합니다. (A) 에너지부, 민간 AI 연구소, 학계, 제3자 모델 평가자의 AI 및 CBRN 문제 전문가와 적절히 협의하여 CBRN 위협을 제시하는 AI 모델 기능을 평가합니다. 이러한 위협 - 그리고 이러한 위협을 생성하거나 악화시키기 위해 AI 모델을 오용하는 위험을 최소화하기 위한 옵션 그리고 (B) 미국에 CBRN 위험을 초래할 수 있는 AI 모델 유형에 대한 평가를 포함하여 이러한 노력의 진행 상황을 설명하고 교육, 배포, 출판을 규제하거나 감독하기 위한 권장 사항을 제시하는 보고서를 대통령에게 제출합니다. 또는 국가 안보에 대한 잠재적 위협을 완화하기 위한 안전 평가 및 가드레일에 대한 요구 사항을 포함하여 이러한 모델의 사용. (ii) 이 명령이 내려진 날로부터 120일 이내에 국방부 장관은 대통령 국가안보보좌관 및 OSTP 국장과 협의하여 국립과학공학아카데미와 다음과 같은 계약을 체결해야 합니다. 수행할 의약품 — 국방부 장관, 대통령 국가안보보좌관, 전염병 대비 및 대응 정책 사무국 국장, OSTP 국장, 최고 데이터 책임자 위원회 의장에게 제출 — 다음과 같은 연구: (A) 생물학적 데이터에 대해 훈련된 생성 AI 모델의 위험을 포함하여 AI가 생물학적 보안 위험을 증가시킬 수 있는 방식을 평가하고 이러한 위험을 완화하는 방법에 대한 권장 사항을 제시합니다. (B) 생성 AI 모델의 훈련을 위해 미국 정부가 호스팅, 생성, 생성에 자금을 지원하거나 달리 소유하는 데이터 및 데이터 세트, 특히 병원체 및 오믹스 연구와 관련된 데이터 및 데이터 세트의 사용이 국가 안보에 미치는 영향을 고려합니다. , 이러한 데이터 및 데이터 세트의 사용과 관련된 위험을 완화하는 방법에 대한 권장 사항을 제시합니다. (C) 데이터 및 고성능 컴퓨팅 리소스를 조정할 수 있는 기회에 대한 권장 사항을 포함하여 생물학적 보안 위험을 줄이기 위해 AI를 생물학에 적용하는 방법을 평가합니다. 그리고 (D) 국방부 장관이 적절하다고 판단하는 AI와 합성 생물학의 교차점에서 추가 우려 사항과 기회를 고려합니다. (b) 이 분야에서 AI의 능력으로 인해 실질적으로 증가될 수 있는 합성 핵산의 오용 위험을 줄이고 핵산 합성 산업에 대한 차단방역 조치를 개선하기 위해 다음 조치를 취해야 합니다. (i) 이 명령일로부터 180일 이내에 OSTP 국장은 국무장관, 국방장관, 법무장관, 상무부 장관, 보건복지부 장관(HHS)과 협의하여 , 에너지부 장관, 국토안보부 장관, 국가정보국장, OSTP 국장이 적절하다고 판단하는 기타 관련 기관의 장은 기존 미국 정부 지침을 적절하게 통합하여 체계를 수립해야 합니다. 합성 핵산 서열 제공업체가 표준 및 권장 인센티브를 포함하여 포괄적이고 확장 가능하며 검증 가능한 합성 핵산 조달 스크리닝 메커니즘을 구현하도록 장려합니다. 이 프레임워크의 일부로 OSTP 책임자는 다음을 수행해야 합니다. (A) 미국의 국가 안보에 위험을 초래할 수 있는 방식으로 사용될 수 있는 생물학적 서열을 지속적으로 식별하기 위한 기준과 메커니즘을 확립합니다. 그리고 (B) 하위 섹션 4.4(b)(i)에서 확인된 생물학적 서열의 구매자가 제기하는 보안 위험 관리와 관련하여 실사를 지원하기 위한 고객 심사 접근 방식을 포함하여 서열 합성 조달 심사 수행 및 검증을 위한 표준화된 방법론 및 도구를 결정합니다. (A) 및 관련 활동을 집행 기관에 보고하는 프로세스. (ii) 이 명령일로부터 180일 이내에 상무부 장관은 NIST 국장을 통해 OSTP 국장과 협력하고 국무장관, HHS 장관 및 국장과 협의하여 행동합니다. 상무장관이 적절하다고 판단하는 기타 관련 기관은 본 섹션의 하위 섹션 4.4(b)(i)에 따라 개발된 프레임워크를 바탕으로 업계 및 관련 이해관계자와 협력하여 가능한 사용을 위해 개발 및 개선하려는 노력을 시작해야 합니다. 합성 핵산 서열 제공자: (A) 효과적인 핵산 합성 조달 스크리닝을 위한 사양; (B) 그러한 선별을 지원하기 위해 관심 대상 데이터베이스를 관리하기 위한 보안 및 액세스 제어를 포함한 모범 사례 (C) 효과적인 심사를 위한 기술 구현 지침; 그리고 (D) 적합성 평가 모범 사례 및 메커니즘. (iii) 본 섹션의 하위 섹션 4.4(b)(i)에 따라 체계를 수립한 후 180일 이내에 생명과학 연구에 자금을 지원하는 모든 기관은 해당 법률에 따라 적절하고 일관성 있게 다음을 요구 사항으로 설정해야 합니다. 자금 조달의 경우, 합성 핵산 조달은 제공자 또는 제조업체의 인증을 통해 프레임워크를 준수하는 제공자 또는 제조업체를 통해 수행됩니다. 대통령 국가안보보좌관과 OSTP 국장은 자금 조달 기관 전반에 걸쳐 프레임워크 구현의 일관성을 촉진하기 위해 자금 요구 사항을 검토하는 과정을 조정해야 합니다. (iv) 본 섹션의 하위 섹션 4.4(b)(i)-(iii)에 설명된 조치의 효과적인 구현을 촉진하기 위해 국토안보부 장관은 국토부 장관으로서 다른 관련 기관의 장과 협의합니다. 보안은 적절하다고 간주되며 다음을 수행해야 합니다. (A) 본 섹션의 하위 섹션 4.4(b)(i)에 따라 프레임워크를 수립한 후 180일 이내에 다음에 따라 개발된 시스템을 포함하여 핵산 합성 조달 스크리닝의 구조화된 평가 및 스트레스 테스트를 수행하기 위한 프레임워크를 개발합니다. 본 섹션의 하위 섹션 4.4(b)(i)-(ii) 및 합성 핵산 서열 제공업체에 의해 구현됨 그리고 (B) 본 섹션의 하위 섹션 4.4(b)(iv)(A)에 따라 프레임워크를 개발한 후 대통령 국가안보보좌관, 전염병 대비 및 대응 사무국장에게 연간 보고서를 제출합니다. 고객 심사를 포함하여 핵산 합성 조달 심사를 강화하는 방법에 대한 권장 사항을 포함하여 본 섹션의 하위 섹션 4.4(b)(iv)(A)에 따라 수행된 활동 결과에 대한 정책 및 OSTP 책임자 시스템. 4.5. 합성 콘텐츠로 인한 위험을 줄입니다. AI 시스템에 의해 생성된 합성 콘텐츠를 식별하고 라벨링하는 기능을 육성하고, 연방 정부 또는 이를 대신하여 생성된 합성 및 비합성 디지털 콘텐츠의 진위성과 출처를 확립합니다. (a) 이 명령일로부터 240일 이내에 상무부 장관은 적절하다고 판단하는 다른 관련 기관의 장과 협의하여 OMB 국장과 보좌관에게 보고서를 제출해야 합니다. 국가 안보 담당 대통령은 다음을 위해 기존 표준, 도구, 방법 및 관행뿐만 아니라 추가 과학 기반 표준 및 기술의 잠재적 개발을 식별합니다. (i) 콘텐츠를 인증하고 출처를 추적합니다. (ii) 워터마킹 등을 사용하여 합성 콘텐츠에 라벨을 지정합니다. (iii) 합성 함량을 검출하는 단계; (iv) 생성 AI가 아동 성적 학대 자료를 생성하거나 실제 개인에 대해 합의되지 않은 친밀한 이미지를 생성하는 것을 방지합니다(식별 가능한 개인의 신체 또는 신체 부위에 대한 친밀한 디지털 묘사 포함). (v) 상기 목적으로 사용되는 테스트 소프트웨어; 그리고 (vi) 합성 콘텐츠를 감사하고 유지합니다. (b) 본 섹션의 하위 섹션 4.5(a)에 따라 요구되고 이후 정기적으로 업데이트되는 보고서를 제출한 후 180일 이내에 상무부 장관은 OMB 국장과 협력하여 기존 디지털 도구 및 관행에 관한 지침을 개발해야 합니다. 콘텐츠 인증 및 합성 콘텐츠 탐지 조치. 지침에는 본 섹션의 하위 섹션 4.5(a)에 나열된 목적을 위한 조치가 포함되어야 합니다. (c) 본 섹션의 하위 섹션 4.5(b)에 따라 요구되는 지침이 개발된 후 180일 이내에 OMB 국장은 국무장관과 협의하여 정기적으로 업데이트합니다. 국방부장관; 법무장관; NIST 국장을 통해 행동하는 상무부 장관; 국토안보부 장관; 국가정보국장; OMB 국장이 적절하다고 판단하는 기타 기관의 장은 공식 미국 정부 디지털 콘텐츠의 무결성에 대한 대중의 신뢰를 강화할 목적으로 해당 기관이 생산하거나 게시하는 콘텐츠에 라벨을 붙이고 인증하기 위한 지침을 발행해야 합니다. (d) 연방조달규제위원회는 적절하고 해당 법률에 부합하는 경우 본 섹션의 하위 섹션 4.5에 따라 설정된 지침을 고려하도록 연방조달규정을 개정하는 것을 고려해야 합니다. 4.6. 널리 사용 가능한 모델 가중치를 갖춘 이중 용도 기초 모델에 대한 의견 요청. 이중 용도 기반 모델의 가중치가 인터넷에 공개적으로 게시되는 경우와 같이 널리 사용 가능한 경우 혁신을 통해 상당한 이점을 얻을 수 있지만 모델 내 안전 장치 제거와 같은 상당한 보안 위험도 있을 수 있습니다. 널리 사용 가능한 가중치를 갖춘 이중 용도 기초 모델의 위험 및 잠재적 이점을 해결하기 위해 상무부 장관은 이 명령일로부터 270일 이내에 통신 및 정보 담당 차관보를 통해 행동하고 다음과 협의합니다. 국무장관은 다음을 수행해야 한다: (a) 모델이 가중치를 두는 이중용도 기초 모델과 관련된 잠재적인 위험, 이익, 기타 영향, 적절한 정책 및 규제 접근법에 대한 공개 협의 과정을 통해 민간 부문, 학계, 시민 사회 및 기타 이해관계자로부터 의견을 구합니다. 다음을 포함하여 널리 사용 가능합니다. (i) 모델 가중치가 널리 사용 가능한 이중 용도 기반 모델을 미세 조정하거나 해당 모델의 안전 장치를 제거하는 행위자와 관련된 위험; (ii) 모델 가중치가 널리 사용 가능한 이중 용도 기반 모델의 AI 안전 및 위험 관리에 대한 연구를 포함하여 AI 혁신 및 연구에 대한 이점 그리고 (iii) 모델 가중치가 널리 사용 가능한 이중 용도 기초 모델의 위험을 관리하고 이점을 극대화하기 위한 잠재적인 자발적, 규제 및 국제 메커니즘; 그리고 (b) 본 섹션의 하위 섹션 4.6(a)에 설명된 프로세스의 입력을 기반으로 상무장관이 적절하다고 판단하는 다른 관련 기관의 장과 협의하여 잠재적인 이익, 위험에 대한 보고서를 대통령에게 제출합니다. , 그리고 모델 가중치가 널리 사용 가능한 이중 용도 기초 모델의 의미뿐만 아니라 해당 모델과 관련된 정책 및 규제 권장 사항도 포함됩니다. 4.7. AI 훈련을 위한 연방 데이터의 안전한 공개 촉진 및 악의적인 사용 방지. 공공 데이터 접근을 개선하고 보안 위험을 관리하며 공개, 공개, 전자 및 필수 정부 데이터법(공법 115 제목 II)의 목표와 일치합니다. -435) 개별 데이터 자산에 있는 정보가 보안 위험을 초래하지 않지만 다른 사용 가능한 정보와 결합될 때 보안 위험을 포함하여 보안 고려 사항을 고려하면서 기계 판독 가능 형식으로 연방 데이터 자산에 대한 공개 액세스를 확장합니다. 정보는 다음과 같은 위험을 초래할 수 있습니다. (a) 이 명령일로부터 270일 이내에 최고 데이터 책임자 위원회는 국방부 장관, 상무부 장관, 에너지 장관, 국토안보부 장관 및 국가 정보국 국장과 협의하여 CBRN 무기 개발과 자율 공격 사이버 능력 개발에 도움이 될 수 있는 연방 데이터 공개에 따른 잠재적인 보안 위험을 식별 및 관리하는 검토를 포함하여 보안 검토 수행을 위한 초기 지침을 개발해야 합니다. 공개, 공개, 전자 및 필수 정부 데이터법(공법 115-435 제목 II)에 명시된 목표에 부합하는 정부 데이터 그리고 (b) 본 섹션의 하위 섹션 4.7(a)에서 요구하는 초기 지침 개발 후 180일 이내에 기관은 44 USC 3511(a)(1)에 따라 요구되는 포괄적인 데이터 인벤토리의 모든 데이터 자산에 대한 보안 검토를 수행해야 합니다. (2)(B) 해당 데이터를 공개할 경우 CBRN 무기와 관련하여 발생할 수 있는 가장 중요한 잠재적 보안 위험을 해결하기 위해 해당 법률에 따라 적절하고 일관된 조치를 취해야 합니다. AI 시스템을 훈련시키는 데 사용됩니다. 4.8. 국가 안보 각서 개발을 지휘합니다. AI의 보안 위험을 관리하기 위한 조정된 행정부 접근 방식을 개발하기 위해 대통령 국가안보보좌관, 대통령 보좌관 및 정책 부실장은 270일 이내에 다음을 목적으로 부처 간 프로세스를 감독해야 합니다. 이 명령의 날짜에 AI에 관한 제안된 국가 안보 각서를 개발하여 대통령에게 제출합니다. 각서는 국가 보안 시스템의 구성 요소로 사용되거나 군사 및 정보 목적으로 사용되는 AI의 거버넌스를 다루어야 합니다. 각서는 국가 안보 시스템을 위한 AI의 개발 및 사용을 관리하기 위한 현재의 노력을 고려해야 합니다. 각서는 AI로 인한 국가 안보 위험과 잠재적 이익을 해결하기 위한 국방부, 국무부, 기타 관련 기관 및 정보 커뮤니티의 조치를 간략하게 설명합니다. 특히, 각서는 다음과 같다: (a) 국가 안보 용도를 위한 특정 AI 보증 및 위험 관리 관행을 지시하는 것을 포함하여 미국 국가 안보 임무를 발전시키기 위한 AI 기능의 지속적인 채택에 대해 국방부, 기타 관련 기관 및 정보 커뮤니티에 지침을 제공합니다. 미국인 및 적절한 상황에서는 미국인이 아닌 사람의 권리나 안전에 영향을 미칠 수 있는 AI 그리고 (b) 적 및 기타 외국 행위자가 국방부나 정보기관의 능력이나 목표를 위협하는 방식으로 AI 시스템을 사용할 가능성을 해결하기 위해 해당 법률에 따라 적절하고 일관된 지속적인 조치를 지시하거나 그렇지 않은 경우 미국이나 동맹국, 파트너의 안보에 위험을 초래합니다. 이 콘텐츠는 2023년 10월 30일 에 게시되었습니다. WhiteHouse.gov 저작자 표시 - 크리에이티브 커먼즈 3.0