Chính phủ Hoa Kỳ lên kế hoạch đảm bảo an toàn và bảo mật của công nghệ AI như thế nào

Phần 4 - Đảm bảo an toàn và bảo mật của công nghệ AI.

4.1. Xây dựng các Nguyên tắc, Tiêu chuẩn và Thực tiễn Tốt nhất về An toàn và Bảo mật AI. (a) Trong vòng 270 ngày kể từ ngày có lệnh này, để giúp đảm bảo phát triển các hệ thống AI an toàn, bảo mật và đáng tin cậy, Bộ trưởng Thương mại, thông qua Giám đốc Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST), trong phối hợp với Bộ trưởng Năng lượng, Bộ trưởng An ninh Nội địa và người đứng đầu các cơ quan liên quan khác mà Bộ trưởng Thương mại thấy phù hợp, sẽ:

(i) Thiết lập các hướng dẫn và biện pháp thực hành tốt nhất nhằm mục đích thúc đẩy các tiêu chuẩn đồng thuận trong ngành để phát triển và triển khai các hệ thống AI an toàn, bảo mật và đáng tin cậy, bao gồm:

(A) phát triển tài nguyên đồng hành với Khung quản lý rủi ro AI, NIST AI 100-1, dành cho AI sáng tạo;

(B) phát triển tài nguyên đồng hành với Khung phát triển phần mềm an toàn để kết hợp các phương pháp phát triển an toàn cho AI tổng hợp và cho các mô hình nền tảng sử dụng kép; Và

(C) triển khai sáng kiến tạo hướng dẫn và tiêu chuẩn để đánh giá và kiểm tra khả năng của AI, tập trung vào các khả năng mà AI có thể gây hại, chẳng hạn như trong lĩnh vực an ninh mạng và an toàn sinh học.

(ii) Thiết lập các hướng dẫn phù hợp (ngoại trừ AI được sử dụng như một thành phần của hệ thống an ninh quốc gia), bao gồm các thủ tục và quy trình phù hợp, để cho phép các nhà phát triển AI, đặc biệt là các mô hình nền tảng sử dụng kép, tiến hành các thử nghiệm đội đỏ AI để kích hoạt triển khai các hệ thống an toàn, bảo mật và đáng tin cậy. Những nỗ lực này sẽ bao gồm:

(A) điều phối hoặc phát triển các hướng dẫn liên quan đến việc đánh giá và quản lý tính an toàn, an ninh và độ tin cậy của các mô hình nền tảng sử dụng kép; Và

(B) phối hợp với Bộ trưởng Bộ Năng lượng và Giám đốc Quỹ Khoa học Quốc gia (NSF), phát triển và giúp đảm bảo có sẵn các môi trường thử nghiệm, chẳng hạn như nơi thử nghiệm, để hỗ trợ phát triển các công nghệ AI an toàn, bảo mật và đáng tin cậy , cũng như hỗ trợ thiết kế, phát triển và triển khai các PET liên quan, phù hợp với mục 9(b) của lệnh này.

(b) Trong vòng 270 ngày kể từ ngày có lệnh này, để hiểu và giảm thiểu rủi ro an ninh AI, Bộ trưởng Bộ Năng lượng, phối hợp với người đứng đầu các Cơ quan Quản lý Rủi ro Ngành (SRMA) khác mà Bộ trưởng Năng lượng có thể cho là phù hợp, sẽ phát triển và, trong phạm vi được pháp luật cho phép và các khoản phân bổ sẵn có, thực hiện kế hoạch phát triển các công cụ đánh giá mô hình AI và cơ sở thử nghiệm AI của Bộ Năng lượng. Bộ trưởng sẽ thực hiện công việc này bằng cách sử dụng các giải pháp hiện có nếu có thể, đồng thời sẽ phát triển các công cụ này và nền tảng thử nghiệm AI để có khả năng đánh giá các phép ngoại suy trong thời gian ngắn về khả năng của hệ thống AI. Ở mức tối thiểu, Bộ trưởng sẽ phát triển các công cụ để đánh giá khả năng AI nhằm tạo ra các kết quả đầu ra có thể đại diện cho các mối đe dọa hoặc mối nguy hiểm về hạt nhân, không phổ biến vũ khí hạt nhân, sinh học, hóa học, quan trọng và an ninh năng lượng. Bộ trưởng sẽ thực hiện công việc này chỉ nhằm mục đích bảo vệ chống lại những mối đe dọa này và cũng sẽ phát triển các biện pháp bảo vệ kiểu mẫu để giảm thiểu những rủi ro đó. Khi thích hợp, Bộ trưởng sẽ tham khảo ý kiến của các phòng thí nghiệm AI tư nhân, học viện, xã hội dân sự và các nhà đánh giá bên thứ ba, đồng thời sẽ sử dụng các giải pháp hiện có.

4.2. Đảm bảo AI an toàn và đáng tin cậy. (a) Trong vòng 90 ngày kể từ ngày có lệnh này, để đảm bảo và xác minh tính sẵn có liên tục của AI an toàn, đáng tin cậy và hiệu quả theo Đạo luật Sản xuất Quốc phòng, đã được sửa đổi, 50 USC 4501 và tiếp theo , bao gồm cả đối với quốc gia quốc phòng và bảo vệ cơ sở hạ tầng quan trọng, Bộ trưởng Thương mại sẽ yêu cầu:

(i) Các công ty đang phát triển hoặc thể hiện ý định phát triển các mô hình nền tảng sử dụng kép tiềm năng để cung cấp cho Chính phủ Liên bang, trên cơ sở liên tục, thông tin, báo cáo hoặc hồ sơ về những nội dung sau:

(A) mọi hoạt động đang diễn ra hoặc theo kế hoạch liên quan đến đào tạo, phát triển hoặc sản xuất các mô hình nền tảng lưỡng dụng, bao gồm các biện pháp bảo vệ vật lý và an ninh mạng được thực hiện để đảm bảo tính toàn vẹn của quy trình đào tạo đó trước các mối đe dọa tinh vi;

(B) quyền sở hữu và sở hữu trọng lượng mô hình của bất kỳ mô hình nền tảng sử dụng kép nào cũng như các biện pháp vật lý và an ninh mạng được thực hiện để bảo vệ các trọng lượng mô hình đó; Và

(C) kết quả về hiệu suất của bất kỳ mô hình nền tảng sử dụng kép nào được phát triển trong thử nghiệm của nhóm đỏ AI có liên quan dựa trên hướng dẫn do NIST phát triển theo tiểu mục 4.1(a)(ii) của phần này và mô tả về mọi biện pháp liên quan của công ty đã thực hiện để đáp ứng các mục tiêu an toàn, chẳng hạn như các biện pháp giảm nhẹ để cải thiện hiệu suất trong các cuộc thử nghiệm của đội đỏ này và tăng cường bảo mật mô hình tổng thể. Trước khi NIST xây dựng hướng dẫn về các tiêu chuẩn kiểm tra đội đỏ theo tiểu mục 4.1(a)(ii) của phần này, phần mô tả này phải bao gồm kết quả của bất kỳ thử nghiệm đội đỏ nào mà công ty đã tiến hành liên quan đến việc hạ thấp rào cản cho phép các chủ thể phi nhà nước phát triển, mua lại và sử dụng vũ khí sinh học; việc phát hiện các lỗ hổng phần mềm và phát triển các hoạt động khai thác liên quan; việc sử dụng phần mềm hoặc công cụ để tác động đến các sự kiện thực hoặc ảo; khả năng tự sao chép hoặc nhân giống; và các biện pháp liên quan để đáp ứng các mục tiêu an toàn; Và

(ii) Các công ty, cá nhân hoặc tổ chức hoặc thực thể khác mua lại, phát triển hoặc sở hữu cụm máy tính quy mô lớn tiềm năng để báo cáo bất kỳ hoạt động mua lại, phát triển hoặc sở hữu nào như vậy, bao gồm cả sự tồn tại và vị trí của các cụm này cũng như tổng giá trị sức mạnh tính toán có sẵn trong mỗi cụm.

(b) Bộ trưởng Thương mại, sau khi tham khảo ý kiến của Bộ trưởng Ngoại giao, Bộ trưởng Quốc phòng, Bộ trưởng Năng lượng và Giám đốc Tình báo Quốc gia, sẽ xác định và sau đó cập nhật thường xuyên khi cần thiết bộ thông tin kỹ thuật điều kiện cho các mô hình và cụm máy tính phải tuân theo yêu cầu báo cáo của tiểu mục 4.2(a) của phần này. Cho đến khi các điều kiện kỹ thuật đó được xác định, Bộ trưởng sẽ yêu cầu tuân thủ các yêu cầu báo cáo này đối với:

(i) bất kỳ mô hình nào được đào tạo bằng cách sử dụng lượng sức mạnh tính toán lớn hơn 1026 phép tính số nguyên hoặc dấu phẩy động hoặc sử dụng chủ yếu dữ liệu trình tự sinh học và sử dụng lượng sức mạnh tính toán lớn hơn 1023 phép tính số nguyên hoặc dấu phẩy động; Và

(ii) bất kỳ cụm máy tính nào có một tập hợp các máy được đặt cùng vị trí vật lý trong một trung tâm dữ liệu duy nhất, được kết nối bắc cầu bằng mạng trung tâm dữ liệu trên 100 Gbit/s và có công suất tính toán tối đa theo lý thuyết là 1020 phép tính số nguyên hoặc dấu phẩy động trên mỗi cụm máy tính. thứ hai để đào tạo AI.

(c) Bởi vì tôi thấy rằng cần phải thực hiện các bước bổ sung để giải quyết tình trạng khẩn cấp quốc gia liên quan đến các hoạt động độc hại đáng kể được kích hoạt trên mạng được tuyên bố trong Sắc lệnh 13694 ngày 1 tháng 4 năm 2015 (Chặn tài sản của một số người tham gia vào các hoạt động độc hại đáng kể được kích hoạt trên mạng Hoạt động), được sửa đổi theo Sắc lệnh Hành pháp 13757 ngày 28 tháng 12 năm 2016 (Thực hiện các bước bổ sung để giải quyết tình trạng khẩn cấp quốc gia liên quan đến các hoạt động độc hại đáng kể được kích hoạt trên mạng) và được sửa đổi thêm theo Sắc lệnh hành pháp 13984, để giải quyết việc sử dụng Cơ sở hạ tầng của Hoa Kỳ với tư cách là Sản phẩm Dịch vụ (IaaS) của các tác nhân mạng độc hại nước ngoài, bao gồm cả việc áp đặt các nghĩa vụ lưu giữ hồ sơ bổ sung đối với các giao dịch nước ngoài và hỗ trợ điều tra các giao dịch liên quan đến các tác nhân mạng độc hại nước ngoài, theo đây tôi chỉ đạo Bộ trưởng Thương mại, trong vòng 90 ngày kể từ ngày có lệnh này, tới:

(i) Đề xuất các quy định yêu cầu Nhà cung cấp IaaS của Hoa Kỳ gửi báo cáo cho Bộ trưởng Thương mại khi một người nước ngoài giao dịch với Nhà cung cấp IaaS của Hoa Kỳ đó để đào tạo một mô hình AI lớn với các khả năng tiềm năng có thể được sử dụng trong hoạt động độc hại trên mạng (“chạy tập”). Các báo cáo như vậy tối thiểu phải bao gồm danh tính của người nước ngoài và sự tồn tại của bất kỳ hoạt động đào tạo nào của mô hình AI đáp ứng các tiêu chí nêu trong phần này hoặc các tiêu chí khác do Bộ trưởng quy định trong quy định, cũng như bất kỳ thông tin bổ sung nào. thông tin do Thư ký xác định.

(ii) Bao gồm yêu cầu trong các quy định được đề xuất theo tiểu mục 4.2(c)(i) của phần này rằng Nhà cung cấp IaaS của Hoa Kỳ cấm bất kỳ đại lý nước ngoài nào cung cấp Sản phẩm IaaS tại Hoa Kỳ của họ cung cấp các sản phẩm đó trừ khi người bán lại nước ngoài đó nộp đơn cho Hoa Kỳ. Nhà cung cấp IaaS của Hoa Kỳ phải cung cấp một báo cáo mà Nhà cung cấp IaaS của Hoa Kỳ phải cung cấp cho Bộ trưởng Thương mại, nêu chi tiết từng trường hợp trong đó người nước ngoài giao dịch với đại lý nước ngoài để sử dụng Sản phẩm IaaS của Hoa Kỳ nhằm tiến hành chương trình đào tạo được mô tả trong tiểu mục 4.2( c)(i) của phần này. Các báo cáo như vậy tối thiểu phải bao gồm thông tin được nêu trong tiểu mục 4.2(c)(i) của phần này cũng như bất kỳ thông tin bổ sung nào được Bộ trưởng xác định.

(iii) Xác định tập hợp các điều kiện kỹ thuật để một mô hình AI lớn có các khả năng tiềm ẩn có thể được sử dụng trong hoạt động độc hại trên mạng và sửa đổi quyết định đó khi cần thiết và phù hợp. Cho đến khi Bộ trưởng đưa ra quyết định như vậy, một mô hình sẽ được coi là có khả năng tiềm ẩn có thể được sử dụng trong hoạt động độc hại trên mạng nếu nó yêu cầu lượng sức mạnh tính toán lớn hơn 1026 phép tính số nguyên hoặc dấu phẩy động và được đào tạo về máy tính. cụm có một tập hợp các máy được đặt cùng vị trí vật lý trong một trung tâm dữ liệu duy nhất, được kết nối bắc cầu bằng mạng trung tâm dữ liệu trên 100 Gbit/s và có công suất tính toán tối đa theo lý thuyết là 1020 phép tính số nguyên hoặc dấu phẩy động mỗi giây để đào tạo AI.

(d) Trong vòng 180 ngày kể từ ngày có lệnh này, theo kết luận nêu trong tiểu mục 4.2(c) của phần này, Bộ trưởng Bộ Thương mại sẽ đề xuất các quy định yêu cầu Nhà cung cấp IaaS của Hoa Kỳ đảm bảo rằng các đại lý nước ngoài của Hoa Kỳ Sản phẩm IaaS xác minh danh tính của bất kỳ người nước ngoài nào có được tài khoản (tài khoản) IaaS từ người bán lại nước ngoài. Các quy định này ít nhất phải:

(i) Đặt ra các tiêu chuẩn tối thiểu mà Nhà cung cấp IaaS của Hoa Kỳ phải yêu cầu đối với các đại lý nước ngoài đối với Sản phẩm IaaS của Hoa Kỳ để xác minh danh tính của người nước ngoài mở tài khoản hoặc duy trì tài khoản hiện có với một đại lý nước ngoài, bao gồm:

(A) các loại tài liệu và thủ tục mà người bán lại Sản phẩm IaaS ở Hoa Kỳ phải yêu cầu để xác minh danh tính của bất kỳ cá nhân nước ngoài nào đóng vai trò là bên thuê hoặc bên thuê lại các sản phẩm hoặc dịch vụ này;

(B) hồ sơ rằng các đại lý nước ngoài của Sản phẩm IaaS của Hoa Kỳ phải lưu giữ an toàn về người nước ngoài có tài khoản, bao gồm thông tin thiết lập:

(1) danh tính của người nước ngoài đó, bao gồm tên và địa chỉ;

(2) phương tiện và nguồn thanh toán (bao gồm mọi tổ chức tài chính liên quan và các thông tin nhận dạng khác như số thẻ tín dụng, số tài khoản, mã nhận dạng khách hàng, mã nhận dạng giao dịch hoặc ví tiền ảo hoặc mã nhận dạng địa chỉ ví);

(3) địa chỉ thư điện tử và thông tin liên lạc qua điện thoại được sử dụng để xác minh danh tính của người nước ngoài; Và

(4) địa chỉ Giao thức Internet được sử dụng để truy cập hoặc quản lý và ngày giờ của mỗi lần truy cập hoặc hành động quản trị đó liên quan đến việc xác minh liên tục quyền sở hữu của người nước ngoài đó đối với tài khoản đó; Và

(C) các phương pháp mà người bán lại Sản phẩm IaaS của Hoa Kỳ ở nước ngoài phải triển khai để hạn chế tất cả quyền truy cập của bên thứ ba vào thông tin được mô tả trong tiểu mục này, ngoại trừ trong trường hợp quyền truy cập đó phù hợp với lệnh này và được phép theo luật hiện hành;

(ii) Xem xét các loại tài khoản được duy trì bởi các đại lý nước ngoài của Sản phẩm IaaS của Hoa Kỳ, phương thức mở tài khoản và các loại thông tin nhận dạng có sẵn để hoàn thành mục tiêu xác định các tác nhân mạng độc hại nước ngoài sử dụng bất kỳ sản phẩm nào như vậy và tránh bị áp đặt gánh nặng quá mức đối với những người bán lại đó; Và

(iii) Quy định rằng Bộ trưởng Thương mại, theo các tiêu chuẩn và thủ tục mà Bộ trưởng có thể mô tả và tham khảo ý kiến của Bộ trưởng Quốc phòng, Bộ trưởng Tư pháp, Bộ trưởng An ninh Nội địa và Giám đốc Tình báo Quốc gia, có thể miễn trừ Nhà cung cấp IaaS của Hoa Kỳ đối với bất kỳ người bán lại nước ngoài cụ thể nào đối với Sản phẩm IaaS của Hoa Kỳ hoặc đối với bất kỳ loại tài khoản hoặc bên thuê cụ thể nào, từ các yêu cầu của bất kỳ quy định nào được ban hành theo tiểu mục này. Các tiêu chuẩn và thủ tục như vậy có thể bao gồm phát hiện của Bộ trưởng rằng người bán lại, tài khoản hoặc bên thuê nước ngoài đó tuân thủ các biện pháp thực hành tốt nhất về bảo mật nhằm ngăn chặn việc lạm dụng Sản phẩm IaaS của Hoa Kỳ.

(e) Bộ trưởng Thương mại theo đây được ủy quyền thực hiện các hành động như vậy, bao gồm cả việc ban hành các quy tắc và quy định, đồng thời sử dụng tất cả các quyền hạn được cấp cho Tổng thống theo Đạo luật Quyền lực Kinh tế Khẩn cấp Quốc tế, 50 USC 1701 et seq. , nếu cần thiết để thực hiện các mục đích của tiểu mục 4.2(c) và (d) của phần này. Những hành động như vậy có thể bao gồm yêu cầu rằng Nhà cung cấp IaaS của Hoa Kỳ yêu cầu người bán lại Sản phẩm IaaS ở nước ngoài của Hoa Kỳ cung cấp thông tin xác minh của Nhà cung cấp IaaS của Hoa Kỳ liên quan đến các tiểu mục đó.

4.3. Quản lý AI trong cơ sở hạ tầng quan trọng và an ninh mạng. (a) Để đảm bảo bảo vệ cơ sở hạ tầng quan trọng, các hành động sau phải được thực hiện:

(i) Trong vòng 90 ngày kể từ ngày có lệnh này và ít nhất hàng năm sau đó, người đứng đầu mỗi cơ quan có thẩm quyền quản lý liên quan về cơ sở hạ tầng quan trọng và người đứng đầu các SRMA có liên quan, phối hợp với Giám đốc Cơ quan An ninh mạng và Cơ sở hạ tầng trong Bộ An ninh Nội địa để xem xét các rủi ro liên ngành, sẽ đánh giá và cung cấp cho Bộ trưởng Bộ An ninh Nội địa bản đánh giá về các rủi ro tiềm ẩn liên quan đến việc sử dụng AI trong các lĩnh vực cơ sở hạ tầng quan trọng có liên quan, bao gồm cả các cách thức mà việc triển khai AI có thể gây ra các vấn đề quan trọng. hệ thống cơ sở hạ tầng dễ bị tổn thương hơn trước các lỗi nghiêm trọng, các cuộc tấn công vật lý và tấn công mạng và phải xem xét các cách để giảm thiểu các lỗ hổng này. Các cơ quan quản lý độc lập được khuyến khích, nếu thấy phù hợp, đóng góp vào việc đánh giá rủi ro theo ngành cụ thể.

(ii) Trong vòng 150 ngày kể từ ngày có lệnh này, Bộ trưởng Tài chính sẽ ban hành báo cáo công khai về các biện pháp thực hành tốt nhất để các tổ chức tài chính quản lý rủi ro an ninh mạng dành riêng cho AI.

(iii) Trong vòng 180 ngày kể từ ngày có lệnh này, Bộ trưởng An ninh Nội địa, phối hợp với Bộ trưởng Thương mại, SRMA và các cơ quan quản lý khác theo quyết định của Bộ trưởng An ninh Nội địa, sẽ kết hợp Khung Quản lý Rủi ro AI một cách thích hợp , NIST AI 100-1, cũng như hướng dẫn bảo mật thích hợp khác, đưa vào các nguyên tắc an toàn và bảo mật có liên quan để chủ sở hữu và nhà điều hành cơ sở hạ tầng quan trọng sử dụng.

(iv) Trong vòng 240 ngày kể từ ngày hoàn thành các hướng dẫn được mô tả trong tiểu mục 4.3(a)(iii) của phần này, Trợ lý Tổng thống về các vấn đề An ninh Quốc gia và Giám đốc OMB, với sự tham vấn của Bộ trưởng An ninh Nội địa, sẽ điều phối công việc của người đứng đầu các cơ quan có thẩm quyền về cơ sở hạ tầng quan trọng để phát triển và thực hiện các bước để Chính phủ Liên bang ủy quyền các hướng dẫn đó hoặc các phần thích hợp trong đó thông qua quy định hoặc hành động thích hợp khác. Các cơ quan quản lý độc lập được khuyến khích, nếu họ cho là phù hợp, xem xét liệu có nên ủy quyền hướng dẫn thông qua hành động quản lý trong lĩnh vực thẩm quyền và trách nhiệm của họ hay không.

(v) Bộ trưởng Bộ An ninh Nội địa sẽ thành lập Ban An toàn và An ninh Trí tuệ Nhân tạo làm ủy ban cố vấn theo mục 871 của Đạo luật An ninh Nội địa năm 2002 (Luật Công 107-296). Ủy ban Cố vấn sẽ bao gồm các chuyên gia AI từ khu vực tư nhân, học viện và chính phủ, nếu phù hợp, đồng thời cung cấp cho Bộ trưởng An ninh Nội địa và lời khuyên, thông tin hoặc khuyến nghị về cộng đồng cơ sở hạ tầng quan trọng của Chính phủ Liên bang để cải thiện an ninh, khả năng phục hồi và ứng phó sự cố. liên quan đến việc sử dụng AI trong cơ sở hạ tầng quan trọng.

(b) Để tận dụng tiềm năng của AI nhằm cải thiện khả năng phòng thủ không gian mạng của Hoa Kỳ:

(i) Bộ trưởng Bộ Quốc phòng sẽ thực hiện các hành động được mô tả trong tiểu mục 4.3(b)(ii) và (iii) của phần này đối với các hệ thống an ninh quốc gia và Bộ trưởng An ninh Nội địa sẽ thực hiện các hành động này đối với an ninh phi quốc gia hệ thống. Mỗi bên sẽ làm như vậy với sự tham vấn của người đứng đầu các cơ quan liên quan khác mà Bộ trưởng Bộ Quốc phòng và Bộ trưởng An ninh Nội địa thấy phù hợp.

(ii) Như quy định trong tiểu mục 4.3(b)(i) của phần này, trong vòng 180 ngày kể từ ngày có lệnh này, Bộ trưởng Bộ Quốc phòng và Bộ trưởng An ninh Nội địa sẽ, phù hợp với luật hiện hành, mỗi bên xây dựng kế hoạch cho , tiến hành và hoàn thành một dự án thí điểm hoạt động nhằm xác định, phát triển, kiểm tra, đánh giá và triển khai các khả năng AI, chẳng hạn như các mô hình ngôn ngữ lớn, nhằm hỗ trợ phát hiện và khắc phục các lỗ hổng trong phần mềm, hệ thống và mạng quan trọng của Chính phủ Hoa Kỳ .

(iii) Như quy định trong tiểu mục 4.3(b)(i) của phần này, trong vòng 270 ngày kể từ ngày có lệnh này, Bộ trưởng Bộ Quốc phòng và Bộ trưởng An ninh Nội địa mỗi người sẽ báo cáo cho Trợ lý Tổng thống. cho các vấn đề An ninh Quốc gia về kết quả của các hành động được thực hiện theo kế hoạch và các dự án thí điểm hoạt động theo yêu cầu của tiểu mục 4.3(b)(ii) của phần này, bao gồm mô tả về bất kỳ lỗ hổng nào được tìm thấy và khắc phục thông qua việc phát triển và triển khai các khả năng và công cụ AI bất kỳ bài học nào rút ra về cách xác định, phát triển, kiểm tra, đánh giá và triển khai các khả năng AI một cách hiệu quả để phòng thủ mạng.

4.4. Giảm rủi ro khi giao thoa giữa các mối đe dọa AI và CBRN. (a) Để hiểu rõ hơn và giảm thiểu rủi ro AI bị lạm dụng để hỗ trợ phát triển hoặc sử dụng các mối đe dọa CBRN - đặc biệt tập trung vào vũ khí sinh học - các hành động sau sẽ được thực hiện:

(i) Trong vòng 180 ngày kể từ ngày có lệnh này, Bộ trưởng An ninh Nội địa, với sự tham vấn của Bộ trưởng Năng lượng và Giám đốc Văn phòng Chính sách Khoa học và Công nghệ (OSTP), sẽ đánh giá khả năng AI bị lạm dụng để cho phép phát triển hoặc tạo ra các mối đe dọa CBRN, đồng thời xem xét lợi ích và ứng dụng AI để chống lại các mối đe dọa này, bao gồm, nếu phù hợp, kết quả công việc được thực hiện theo mục 8(b) của lệnh này. Bộ trưởng An ninh Nội địa sẽ:

(A) tham khảo ý kiến của các chuyên gia về các vấn đề AI và CBRN từ Bộ Năng lượng, các phòng thí nghiệm AI tư nhân, học viện và người đánh giá mô hình của bên thứ ba, nếu thích hợp, để đánh giá khả năng của mô hình AI trong việc đưa ra các mối đe dọa CBRN - với mục đích duy nhất là bảo vệ chống lại những mối đe dọa đó — cũng như các lựa chọn để giảm thiểu rủi ro do lạm dụng mô hình AI nhằm tạo ra hoặc làm trầm trọng thêm những mối đe dọa đó; Và

(B) gửi báo cáo lên Tổng thống trong đó mô tả tiến trình của những nỗ lực này, bao gồm đánh giá các loại mô hình AI có thể gây rủi ro CBRN cho Hoa Kỳ và đưa ra khuyến nghị để điều chỉnh hoặc giám sát việc đào tạo, triển khai, xuất bản , hoặc sử dụng các mô hình này, bao gồm các yêu cầu đánh giá an toàn và các rào chắn để giảm thiểu các mối đe dọa tiềm ẩn đối với an ninh quốc gia.

(ii) Trong vòng 120 ngày kể từ ngày có lệnh này, Bộ trưởng Bộ Quốc phòng, với sự tham khảo ý kiến của Trợ lý Tổng thống về các vấn đề an ninh quốc gia và Giám đốc OSTP, sẽ ký hợp đồng với Viện Hàn lâm Khoa học, Kỹ thuật Quốc gia, và Y học để tiến hành — và trình lên Bộ trưởng Bộ Quốc phòng, Trợ lý Chủ tịch về các vấn đề An ninh Quốc gia, Giám đốc Văn phòng Chính sách Ứng phó và Chuẩn bị Đại dịch, Giám đốc OSTP và Chủ tịch Hội đồng Giám đốc Dữ liệu — một nghiên cứu rằng:

(A) đánh giá các cách thức AI có thể làm tăng rủi ro an toàn sinh học, bao gồm rủi ro từ các mô hình AI tổng quát được đào tạo về dữ liệu sinh học và đưa ra khuyến nghị về cách giảm thiểu những rủi ro này;

(B) xem xét các tác động đến an ninh quốc gia của việc sử dụng dữ liệu và bộ dữ liệu, đặc biệt là những dữ liệu liên quan đến mầm bệnh và nghiên cứu omics, mà Chính phủ Hoa Kỳ tổ chức, tạo ra, tài trợ cho việc tạo ra hoặc sở hữu, để đào tạo các mô hình AI tổng hợp và đưa ra khuyến nghị về cách giảm thiểu rủi ro liên quan đến việc sử dụng các dữ liệu và bộ dữ liệu này;

(C) đánh giá các cách thức mà AI áp dụng vào sinh học có thể được sử dụng để giảm thiểu rủi ro an toàn sinh học, bao gồm các khuyến nghị về cơ hội phối hợp dữ liệu và tài nguyên điện toán hiệu suất cao; Và

(D) xem xét các mối quan tâm và cơ hội bổ sung ở điểm giao thoa giữa AI và sinh học tổng hợp mà Bộ trưởng Bộ Quốc phòng cho là phù hợp.

(b) Để giảm nguy cơ lạm dụng axit nucleic tổng hợp, có thể tăng lên đáng kể nhờ khả năng của AI trong lĩnh vực này và cải thiện các biện pháp an toàn sinh học cho ngành tổng hợp axit nucleic, các hành động sau sẽ được thực hiện:

(i) Trong vòng 180 ngày kể từ ngày có lệnh này, Giám đốc OSTP, sau khi tham khảo ý kiến của Bộ trưởng Ngoại giao, Bộ trưởng Quốc phòng, Bộ trưởng Tư pháp, Bộ trưởng Thương mại, Bộ trưởng Bộ Y tế và Dịch vụ Nhân sinh (HHS) , Bộ trưởng Năng lượng, Bộ trưởng An ninh Nội địa, Giám đốc Tình báo Quốc gia và người đứng đầu các cơ quan liên quan khác với tư cách là Giám đốc OSTP có thể thấy phù hợp, sẽ thiết lập một khuôn khổ, kết hợp, nếu phù hợp, hướng dẫn hiện có của Chính phủ Hoa Kỳ, để khuyến khích các nhà cung cấp trình tự axit nucleic tổng hợp triển khai các cơ chế sàng lọc thu mua axit nucleic tổng hợp toàn diện, có thể mở rộng và có thể kiểm chứng, bao gồm các tiêu chuẩn và khuyến khích được khuyến nghị. Là một phần của khuôn khổ này, Giám đốc OSTP sẽ:

(A) thiết lập các tiêu chí và cơ chế để liên tục xác định các trình tự sinh học có thể được sử dụng theo cách có thể gây rủi ro cho an ninh quốc gia của Hoa Kỳ; Và

(B) xác định các phương pháp và công cụ được tiêu chuẩn hóa để tiến hành và xác minh hiệu suất sàng lọc mua sắm tổng hợp trình tự, bao gồm các phương pháp sàng lọc khách hàng để hỗ trợ thẩm định trong việc quản lý rủi ro bảo mật do người mua trình tự sinh học được xác định trong tiểu mục 4.4(b)(i) gây ra (A) của phần này và các quy trình báo cáo hoạt động liên quan cho các cơ quan thực thi.

(ii) Trong vòng 180 ngày kể từ ngày có lệnh này, Bộ trưởng Thương mại, thông qua Giám đốc NIST, phối hợp với Giám đốc OSTP và tham khảo ý kiến của Bộ trưởng Ngoại giao, Bộ trưởng HHS và những người đứng đầu của các cơ quan liên quan khác mà Bộ trưởng Thương mại có thể cho là phù hợp, sẽ bắt đầu nỗ lực thu hút sự tham gia của ngành và các bên liên quan, dựa trên khuôn khổ được phát triển theo tiểu mục 4.4(b)(i) của phần này, để phát triển và cải tiến để có thể sử dụng bởi các nhà cung cấp trình tự axit nucleic tổng hợp:

(A) các thông số kỹ thuật để sàng lọc việc mua sắm tổng hợp axit nucleic hiệu quả;

(B) các biện pháp thực hành tốt nhất, bao gồm kiểm soát bảo mật và quyền truy cập, để quản lý cơ sở dữ liệu theo trình tự quan tâm nhằm hỗ trợ việc sàng lọc đó;

(C) hướng dẫn thực hiện kỹ thuật để sàng lọc hiệu quả; Và

(D) các cơ chế và thực tiễn tốt nhất về đánh giá sự phù hợp.

(iii) Trong vòng 180 ngày kể từ ngày thiết lập khuôn khổ theo tiểu mục 4.4(b)(i) của phần này, tất cả các cơ quan tài trợ cho nghiên cứu khoa học đời sống sẽ, nếu phù hợp và nhất quán với luật hiện hành, xác định rằng, như một yêu cầu tài trợ, việc mua sắm axit nucleic tổng hợp được tiến hành thông qua các nhà cung cấp hoặc nhà sản xuất tuân thủ khuôn khổ, chẳng hạn như thông qua chứng nhận từ nhà cung cấp hoặc nhà sản xuất. Trợ lý Chủ tịch về các vấn đề an ninh quốc gia và Giám đốc OSTP sẽ điều phối quá trình xem xét các yêu cầu tài trợ đó để tạo điều kiện thống nhất trong việc thực hiện khuôn khổ giữa các cơ quan tài trợ.

(iv) Để tạo điều kiện thực hiện hiệu quả các biện pháp được mô tả trong tiểu mục 4.4(b)(i)-(iii) của phần này, Bộ trưởng Bộ An ninh Nội địa, với sự tham vấn của người đứng đầu các cơ quan liên quan khác với tư cách là Bộ trưởng Nội địa Biện pháp an ninh có thể được coi là phù hợp, phải:

(A) trong vòng 180 ngày kể từ ngày thiết lập khuôn khổ theo tiểu mục 4.4(b)(i) của phần này, hãy xây dựng khuôn khổ để tiến hành đánh giá có cấu trúc và kiểm tra sức chịu đựng của quá trình sàng lọc mua sắm tổng hợp axit nucleic, bao gồm cả các hệ thống được phát triển theo tiểu mục 4.4(b)(i)-(ii) của mục này và được thực hiện bởi các nhà cung cấp trình tự axit nucleic tổng hợp; Và

(B) sau khi xây dựng khuôn khổ theo tiểu mục 4.4(b)(iv)(A) của phần này, nộp báo cáo hàng năm cho Trợ lý Tổng thống về các vấn đề an ninh quốc gia, Giám đốc Văn phòng Chuẩn bị và ứng phó với đại dịch Chính sách và Giám đốc OSTP về bất kỳ kết quả nào của các hoạt động được thực hiện theo tiểu mục 4.4(b)(iv)(A) của phần này, bao gồm các khuyến nghị, nếu có, về cách tăng cường sàng lọc việc mua sắm tổng hợp axit nucleic, bao gồm cả sàng lọc khách hàng hệ thống.

4.5. Giảm rủi ro do nội dung tổng hợp gây ra.

Để thúc đẩy khả năng xác định và gắn nhãn nội dung tổng hợp do hệ thống AI tạo ra, đồng thời thiết lập tính xác thực và nguồn gốc của nội dung kỹ thuật số, cả tổng hợp và không tổng hợp, do Chính phủ Liên bang hoặc đại diện của Chính phủ Liên bang sản xuất:

(a) Trong vòng 240 ngày kể từ ngày có lệnh này, Bộ trưởng Thương mại, với sự tham khảo ý kiến của người đứng đầu các cơ quan liên quan khác mà Bộ trưởng Thương mại thấy phù hợp, sẽ gửi báo cáo lên Giám đốc OMB và Trợ lý của Chủ tịch phụ trách các vấn đề An ninh Quốc gia xác định các tiêu chuẩn, công cụ, phương pháp và thông lệ hiện có cũng như tiềm năng phát triển của các tiêu chuẩn và kỹ thuật được hỗ trợ bởi khoa học nhằm:

(i) xác thực nội dung và theo dõi nguồn gốc của nó;

(ii) dán nhãn nội dung tổng hợp, chẳng hạn như sử dụng hình mờ;

(iii) phát hiện nội dung tổng hợp;

(iv) ngăn AI sáng tạo tạo ra tài liệu lạm dụng tình dục trẻ em hoặc tạo ra hình ảnh thân mật không có sự đồng thuận của các cá nhân thực (để bao gồm các mô tả kỹ thuật số thân mật về cơ thể hoặc các bộ phận cơ thể của một cá nhân có thể nhận dạng);

(v) kiểm tra phần mềm được sử dụng cho các mục đích trên; Và

(vi) kiểm tra và duy trì nội dung tổng hợp.

(b) Trong vòng 180 ngày kể từ ngày gửi báo cáo theo yêu cầu của tiểu mục 4.5(a) của phần này và được cập nhật định kỳ sau đó, Bộ trưởng Thương mại, phối hợp với Giám đốc OMB, sẽ xây dựng hướng dẫn về các công cụ và thực tiễn hiện có cho kỹ thuật số. xác thực nội dung và các biện pháp phát hiện nội dung tổng hợp. Hướng dẫn sẽ bao gồm các biện pháp nhằm mục đích được liệt kê trong tiểu mục 4.5(a) của phần này.

(c) Trong vòng 180 ngày kể từ ngày xây dựng hướng dẫn theo yêu cầu của tiểu mục 4.5(b) của phần này và được cập nhật định kỳ sau đó, Giám đốc OMB, với sự tham vấn của Bộ trưởng Ngoại giao; Bộ trưởng Bộ Quốc phòng; Tổng chưởng lí; Bộ trưởng Thương mại, hoạt động thông qua Giám đốc NIST; Bộ trưởng An ninh Nội địa; Giám đốc Tình báo Quốc gia; và người đứng đầu các cơ quan khác mà Giám đốc OMB cho là phù hợp, sẽ - nhằm mục đích củng cố niềm tin của công chúng vào tính toàn vẹn của nội dung số chính thức của Chính phủ Hoa Kỳ - ban hành hướng dẫn cho các cơ quan về việc dán nhãn và xác thực nội dung mà họ sản xuất hoặc xuất bản.

(d) Hội đồng Điều tiết Mua lại Liên bang, nếu phù hợp và nhất quán với luật hiện hành, sẽ xem xét sửa đổi Quy định Mua lại Liên bang để tính đến hướng dẫn được thiết lập theo tiểu mục 4.5 của phần này.

4.6. Thu hút ý kiến đóng góp về các Mô hình nền tảng sử dụng kép với trọng lượng mô hình được cung cấp rộng rãi. Khi trọng số của mô hình nền tảng lưỡng dụng được phổ biến rộng rãi - chẳng hạn như khi chúng được đăng công khai trên Internet - thì đổi mới có thể mang lại những lợi ích đáng kể nhưng cũng có những rủi ro bảo mật đáng kể, chẳng hạn như việc loại bỏ các biện pháp bảo vệ trong mô hình. Để giải quyết những rủi ro và lợi ích tiềm tàng của các mô hình nền tảng sử dụng kép với trọng số được phổ biến rộng rãi, trong vòng 270 ngày kể từ ngày có lệnh này, Bộ trưởng Thương mại, hành động thông qua Trợ lý Bộ trưởng Thương mại về Truyền thông và Thông tin, đồng thời tham khảo ý kiến của Bộ trưởng Ngoại giao sẽ:

(a) thu hút ý kiến đóng góp từ khu vực tư nhân, giới học thuật, xã hội dân sự và các bên liên quan khác thông qua quy trình tham vấn cộng đồng về các rủi ro, lợi ích tiềm ẩn, các tác động khác cũng như các phương pháp tiếp cận chính sách và quy định phù hợp liên quan đến các mô hình nền tảng lưỡng dụng mà mô hình đánh giá cao được cung cấp rộng rãi, bao gồm:

(i) rủi ro liên quan đến việc các tác nhân tinh chỉnh các mô hình nền tảng sử dụng kép mà trọng số mô hình được phổ biến rộng rãi hoặc loại bỏ các biện pháp bảo vệ của các mô hình đó;

(ii) lợi ích cho việc đổi mới và nghiên cứu AI, bao gồm nghiên cứu về quản lý rủi ro và an toàn AI, của các mô hình nền tảng sử dụng kép mà trọng số mô hình được phổ biến rộng rãi; Và

(iii) các cơ chế tự nguyện, quy định và quốc tế tiềm năng để quản lý rủi ro và tối đa hóa lợi ích của các mô hình nền tảng lưỡng dụng mà trọng số mô hình được phổ biến rộng rãi; Và

(b) dựa trên ý kiến đóng góp từ quy trình được mô tả trong tiểu mục 4.6(a) của phần này và với sự tham vấn của người đứng đầu các cơ quan liên quan khác mà Bộ trưởng Thương mại thấy phù hợp, hãy gửi báo cáo lên Chủ tịch về các lợi ích, rủi ro tiềm ẩn và ý nghĩa của các mô hình nền tảng sử dụng kép mà trọng số mô hình được phổ biến rộng rãi, cũng như các khuyến nghị về chính sách và quy định liên quan đến các mô hình đó.

4.7. Thúc đẩy phát hành an toàn và ngăn chặn việc sử dụng dữ liệu liên bang có mục đích cho đào tạo AI. Để cải thiện khả năng truy cập dữ liệu công cộng và quản lý rủi ro bảo mật, đồng thời phù hợp với các mục tiêu của Đạo luật dữ liệu chính phủ mở, công cộng, điện tử và cần thiết (tiêu đề II của Luật công 115 -435) để mở rộng quyền truy cập công khai vào các tài sản dữ liệu Liên bang ở định dạng có thể đọc được bằng máy, đồng thời tính đến các cân nhắc về bảo mật, bao gồm rủi ro rằng thông tin trong một tài sản dữ liệu riêng lẻ không gây ra rủi ro bảo mật nhưng khi kết hợp với các thông tin có sẵn khác thông tin, có thể gây ra rủi ro như vậy:

(a) trong vòng 270 ngày kể từ ngày có lệnh này, Hội đồng Giám đốc Dữ liệu, với sự tham vấn của Bộ trưởng Quốc phòng, Bộ trưởng Thương mại, Bộ trưởng Năng lượng, Bộ trưởng An ninh Nội địa và Giám đốc Tình báo Quốc gia, sẽ phát triển các hướng dẫn ban đầu để thực hiện đánh giá bảo mật, bao gồm đánh giá để xác định và quản lý các rủi ro bảo mật tiềm ẩn khi tiết lộ dữ liệu Liên bang có thể hỗ trợ phát triển vũ khí CBRN cũng như phát triển khả năng tấn công mạng tự trị, đồng thời cung cấp quyền truy cập công khai vào Liên bang. Dữ liệu của chính phủ phù hợp với các mục tiêu được nêu trong Đạo luật Dữ liệu Chính phủ Mở, Công cộng, Điện tử và Cần thiết (tiêu đề II của Luật Công 115-435); Và

(b) trong vòng 180 ngày kể từ ngày xây dựng các hướng dẫn ban đầu theo yêu cầu của tiểu mục 4.7(a) của phần này, các cơ quan sẽ tiến hành đánh giá bảo mật tất cả tài sản dữ liệu trong kho dữ liệu toàn diện được yêu cầu theo 44 USC 3511(a)(1) và (2)(B) đồng thời phải thực hiện các bước, phù hợp và nhất quán với luật hiện hành, để giải quyết các rủi ro bảo mật tiềm ẩn có mức độ ưu tiên cao nhất mà việc phát hành dữ liệu đó có thể gây ra đối với vũ khí CBRN, chẳng hạn như cách thức mà dữ liệu đó có thể được sử dụng để huấn luyện hệ thống AI.

4.8. Chỉ đạo xây dựng Bản ghi nhớ an ninh quốc gia. Để phát triển cách tiếp cận phối hợp của ngành hành pháp nhằm quản lý rủi ro an ninh của AI, Trợ lý Tổng thống về các vấn đề an ninh quốc gia và Trợ lý Tổng thống và Phó Chánh văn phòng về chính sách sẽ giám sát quy trình liên ngành với mục đích, trong vòng 270 ngày kể từ ngày thực hiện. ngày ban hành lệnh này, xây dựng và đệ trình Bản ghi nhớ An ninh Quốc gia được đề xuất về AI lên Tổng thống. Bản ghi nhớ sẽ đề cập đến việc quản lý AI được sử dụng như một thành phần của hệ thống an ninh quốc gia hoặc cho mục đích quân sự và tình báo. Bản ghi nhớ sẽ tính đến những nỗ lực hiện tại nhằm quản lý việc phát triển và sử dụng AI cho các hệ thống an ninh quốc gia. Bản ghi nhớ sẽ phác thảo các hành động của Bộ Quốc phòng, Bộ Ngoại giao, các cơ quan liên quan khác và Cộng đồng Tình báo để giải quyết các rủi ro an ninh quốc gia và lợi ích tiềm tàng do AI mang lại. Đặc biệt, bản ghi nhớ sẽ:

(a) cung cấp hướng dẫn cho Bộ Quốc phòng, các cơ quan liên quan khác và Cộng đồng Tình báo về việc tiếp tục áp dụng các khả năng AI để thúc đẩy sứ mệnh an ninh quốc gia của Hoa Kỳ, bao gồm thông qua chỉ đạo các biện pháp quản lý rủi ro và đảm bảo AI cụ thể cho mục đích sử dụng an ninh quốc gia của AI có thể ảnh hưởng đến quyền hoặc sự an toàn của người Hoa Kỳ và, trong những bối cảnh thích hợp, của những người không phải người Hoa Kỳ; Và

(b) chỉ đạo các hành động liên tục, nếu phù hợp và nhất quán với luật hiện hành, để giải quyết khả năng sử dụng hệ thống AI của đối thủ và các tác nhân nước ngoài khác theo cách đe dọa khả năng hoặc mục tiêu của Bộ Quốc phòng hoặc Cộng đồng Tình báo, hoặc nói cách khác gây ra rủi ro cho an ninh của Hoa Kỳ hoặc các đồng minh và đối tác của nước này.