Giao diện não-máy tính có nguy cơ bị tấn công mạng hàng loạt không?

Nếu một bản cập nhật phần mềm lỗi có thể đóng cửa một bộ phận lớn của xã hội, hãy tưởng tượng điều gì có thể xảy ra trong tương lai của chủ nghĩa siêu nhân khi các BCI cần bản cập nhật riêng cho trí tuệ tập thể: quan điểm

Sự hỗn loạn nghiêm trọng xảy ra vào sáng ngày 19 tháng 7 năm 2024, khi thế giới kỹ thuật số lây nhiễm sang thế giới vật lý do lỗi mã hóa trong bản cập nhật CrowdStrike ảnh hưởng đến người dùng Windows.

Theo tuyên bố từ công ty an ninh mạng CrowdStrike , các sân bay, ngân hàng, dịch vụ chăm sóc sức khỏe và các mạng lưới tin tức lớn đều bị gián đoạn do "một lỗi được tìm thấy trong một bản cập nhật nội dung duy nhất cho máy chủ Windows" chứ "không phải là sự cố bảo mật hoặc tấn công mạng".

Nếu chỉ cần một bản cập nhật phần mềm có thể gây ra nhiều gián đoạn như vậy mà không cần đến một cuộc tấn công mạng độc hại, hãy tưởng tượng điều gì có thể xảy ra trong tương lai khi các giao diện não-máy tính (BCI) như Neuralink trở nên phổ biến và cần phải có bản cập nhật phần mềm riêng.

Thay vì thức dậy và có khả năng ngoại cảm, bạn phát hiện ra rằng con chip trong não đang khiến bạn gặp phải màn hình xanh chết chóc giống như những màn hình thường thấy ở các sân bay trên toàn thế giới.

Khi phần mềm tiếp tục trục trặc, các tế bào thần kinh của bạn sẽ cố gắng hiểu thông tin lỗi đang truyền qua lưới thần kinh của BCI và các tín hiệu kỹ thuật số bắt đầu giống như sự hỗn loạn vật lý của hành khách đang cố gắng tự sắp xếp để cố gắng tìm ra trật tự trong một biển mạch điện đang hỏng.

Điều duy nhất bạn có thể hy vọng, nếu bạn thực sự có đủ khả năng để hy vọng, là công ty đã tạo ra con chip não của bạn và các công ty phát triển phần mềm có thể đưa bạn trở lại trực tuyến trước khi bạn hoàn toàn mất kết nối.

Có thể bạn may mắn khi vấn đề được xác định và giải quyết khá nhanh chóng, nhưng nếu không thì sao?

“Việc thiếu an ninh mạng đã trở thành mối nguy hiểm rõ ràng và cấp bách đối với xã hội của chúng ta trên toàn thế giới”

Klaus Schwab, Đa giác mạng, 2021

Theo thời gian, phần cứng sẽ hỏng và phần mềm cần được nâng cấp.

Nếu sự tập trung và hợp nhất trong cơ sở hạ tầng kỹ thuật số vẫn tiếp diễn, và nếu các bước thích hợp không được thực hiện để đảm bảo rằng BCI không thể lấn át khả năng thể chất và nhận thức của chúng ta hoặc loại bỏ ý chí tự do của chúng ta, thì với tư cách là một loài, chúng ta thực sự có thể rơi vào tình trạng tâm trí bầy đàn và xuống vực thẳm.

Chúng ta hiện đang chuyển từ Internet của Cơ thể sang Internet của Não bộ.

Một báo cáo gần đây của Tập đoàn RAND cho biết rằng “ Một 'mạng lưới cơ thể' cuối cùng cũng có thể dẫn đến một 'mạng lưới não bộ', tức là não bộ con người được kết nối với internet để tạo điều kiện cho giao tiếp trực tiếp giữa não với não và cho phép truy cập vào các mạng dữ liệu trực tuyến .”

Ngoài ra, “Những tiến bộ trong giao diện não-máy tính có thể chuyển thành sự phát triển của công nghệ giao tiếp não-não, dẫn đến những phương thức giao tiếp giữa các cá nhân hoàn toàn mới”.

Đây chính là trí tuệ số được mong đợi.

Elon Musk nói rằng một ngày nào đó chúng ta sẽ có thể tải lên và tải xuống ký ức giữa con người và máy móc.

Điều gì xảy ra khi một suy nghĩ hoặc ký ức không phải của bạn xâm nhập vào ý thức của bạn?

Bạn sẽ làm gì nếu một ký ức xa lạ không phải của bạn xâm nhập vào ý thức của bạn? Bạn có biết điều đó không?

“Việc tăng cường khả năng của con người có thể làm suy yếu sự an toàn về nhận thức của người dùng cuối và ảnh hưởng đến khả năng đánh giá độ tin cậy của thông tin họ nhận được khi sử dụng công nghệ tăng cường khả năng của con người”

Tập đoàn RAND, tháng 3 năm 2024

Vào ngày 30 tháng 1 năm 2019, tôi mơ thấy mình đến thăm một bệnh viện tâm thần, nơi các bệnh nhân đang được điều trị bệnh bằng chip não.

Tôi biết ngày đó vì tôi đã viết và xuất bản một câu chuyện ngay sáng hôm sau có tên là “ Người siêu phàm trong tổ chim cúc cu: Phần mềm độc hại trong giống lai giữa người và AI ”.

Trong giấc mơ đó, tôi thấy những bệnh nhân mắc chứng mất trương lực cơ đang chảy nước dãi, ngồi đó, nhìn chằm chằm vào một vực thẳm mạng vô định nào đó.

Tôi thấy đàn ông, phụ nữ và trẻ em ném mình vào những bức tường có đệm, quằn quại trên những chiếc ghế có bánh xe, và quằn quại trên sàn nhà kẻ ô vuông — không thể hiểu được những gì đang diễn ra trong não họ — bám lấy những con quỷ hú rít giữa không trung, ngửi thấy những thứ thực sự không có ở đó, và nhìn thấy những thứ khiến họ sợ hãi đến tuyệt vọng.

Trong câu chuyện tôi viết vào sáng hôm sau giấc mơ, tôi đã suy ngẫm, “Điều gì sẽ xảy ra nếu phần mềm độc hại được đưa vào cơ thể con người? […] Các bệnh viện trong tương lai sẽ phải khắc phục điều này nhưng bằng cách nào?”

Bệnh nhân sẽ không biết được sự khác biệt giữa điều gì là "thật" và điều gì là ảo giác do AI tạo ra.

Khi tôi thức dậy, tôi kết luận rằng nếu BCI trở nên phổ biến, các biện pháp đối phó có lẽ đã được đưa ra rồi.

Nếu không, “Bệnh viện của chúng ta có thể đang điều trị cho những bệnh nhân mắc các chứng rối loạn cấy ghép mãn tính có căn bệnh trông giống như những cảnh tượng trong tác phẩm Inferno của Dante hoặc The Book of the Dead .”

Giấc mơ của tôi cách đây gần sáu năm có thể chỉ là trí tưởng tượng và ảo tưởng, nhưng suy nghĩ về việc ai sở hữu phần cứng, tín hiệu đến từ đâu và đi đâu là những cuộc thảo luận rất thực tế đang diễn ra giữa các nhà khoa học, nhà đạo đức học và nhà nghiên cứu hàng đầu.

“Những gì bạn nghĩ, những gì bạn cảm thấy — tất cả chỉ là dữ liệu — dữ liệu theo các mô hình lớn có thể được giải mã bằng trí tuệ nhân tạo”

Tiến sĩ Nita Farahany, Hội nghị thường niên WEF, 2023

Phát biểu tại Hội nghị thường niên Diễn đàn Kinh tế Thế giới (WEF) năm 2023 tại Davos, Tiến sĩ Nita Farahany của Đại học Duke đã có bài thuyết trình về cuộc chiến giành bộ não của bạn, trong đó bà cho biết:

“Trí tuệ nhân tạo đã tạo ra những tiến bộ trong việc giải mã hoạt động của não theo những cách mà trước đây chúng ta chưa từng nghĩ là có thể.

“Những gì bạn nghĩ, những gì bạn cảm thấy — tất cả chỉ là dữ liệu — dữ liệu theo các mô hình lớn có thể được giải mã bằng trí tuệ nhân tạo.”

Bà nói thêm: "Chúng ta có thể nhận biết trạng thái cảm xúc - chẳng hạn như bạn đang vui hay buồn hay tức giận".

“Chúng tôi có thể thu thập và giải mã những khuôn mặt mà bạn nhìn thấy trong tâm trí — hình dạng đơn giản, con số, mã PIN tài khoản ngân hàng của bạn.”

“Bất ổn địa chính trị khiến một sự kiện mạng thảm khốc có thể xảy ra trong hai năm tới“

Jeremy Jurgens, Hội nghị thường niên WEF, 2023

Tại Hội nghị thường niên WEF năm 2020 , đã có một cuộc thảo luận mang tên “Khi con người trở thành người máy”, trong đó các thành viên tham gia thảo luận đã cố gắng giải quyết một số câu hỏi đạo đức rất lớn liên quan đến tính toàn vẹn của cơ thể và ai thực sự sở hữu Giao diện máy tính não.

Các thành viên hội thảo lưu ý rằng các sĩ quan quân đội rất quan tâm đến các vấn đề như:

• Tôi có sở hữu riêng miếng ghép của mình không?
• Liệu cấy ghép có trở thành một phần của tôi không?
• Điều gì xảy ra khi tôi rời quân ngũ?
• Ai sẽ trả tiền cho việc cấy ghép của tôi?
• Tôi có phải tháo bỏ miếng ghép không?
• Tôi có được giữ miếng ghép của mình suốt đời không?
• Cấy ghép của tôi có được nâng cấp không? Ai trả tiền cho việc đó?

Ngoài việc giải quyết vấn đề ai sở hữu phần cứng, một thành viên khác còn cân nhắc dữ liệu BCI riêng tư sẽ được lưu trữ ở đâu:

“Nếu não của chúng ta được kết nối và bạn ghi lại ví dụ, những gì bạn có thể đang nghĩ, những vùng nào trong não của bạn đang được kích thích […] những gì bạn đang cảm thấy, v.v. — dữ liệu này sẽ được lưu trữ ở đâu đó.”

“Chúng ta đều biết, nhưng vẫn chưa chú ý đủ đến viễn cảnh đáng sợ về một cuộc tấn công mạng toàn diện, có thể khiến nguồn cung cấp điện, giao thông, dịch vụ bệnh viện, toàn bộ xã hội của chúng ta ngừng hoạt động”

Klaus Schwab, Đa giác mạng, 2020

Bắt đầu từ năm 2021, chúng ta đã thấy việc tiêm nhắc lại đã trở nên bình thường như thế nào.

Thuốc tăng cường là gì nếu không phải là nâng cấp phần mềm cho cơ thể ?

Quay trở lại sự kiện CrowdStrike và Microsoft vào ngày 19 tháng 7 năm 2024, điều gì sẽ xảy ra nếu loại bản cập nhật phần mềm bị lỗi này xảy ra trong kỷ nguyên siêu nhân?

Lỗi mã hóa, lỗi nghiêm trọng, thuật toán độc hại hoặc phần mềm độc hại sẽ ảnh hưởng đến khả năng nhận thức, trạng thái tinh thần, cơ thể và tâm hồn của chúng ta như thế nào?

Một ngày nào đó chúng ta có thể có những khả năng siêu phàm được kết nối vào ma trận tổ ong, và ngày mai chúng ta lại trở thành những thây ma chảy nước dãi đang ảo giác về công nghệ của người khác.

Tất nhiên, điều này khó có thể xảy ra, và công nghệ của chúng ta có thể sẽ được cải thiện để ngăn chặn ý tưởng về sự hỗn loạn như vậy trở thành hiện thực, thậm chí để đảm bảo những kịch bản như tôi đã đưa ra.

Nhưng này! Nếu có thể, ít nhất nó cũng có thể trở thành một tác phẩm khoa học viễn tưởng rất thú vị.