Giải nén nỗi sợ hãi của một vị thần AI: Thần học về Roko's Basilisk

Nỗi sợ hãi về một kết thúc tồi tệ là nỗi sợ hãi mà chúng ta đã mang theo khi còn là con người trong phần tốt đẹp hơn của sự tồn tại của chúng ta. Do thiếu kiến thức khoa học chính xác, tổ tiên của chúng ta thường coi các hiện tượng tự nhiên như giông bão, lũ lụt và núi lửa phun trào là biểu hiện của ngày tận thế—một ngày tận thế sắp xảy ra đối với loài người.

Ngay cả ngày nay, sau buổi bình minh của sự giác ngộ và được cho là thoát khỏi móng vuốt của những điều mê tín vô căn cứ, chúng ta vẫn thấy mình đầu hàng trước những nỗi sợ hãi như vậy.

Hậu quả của khuynh hướng tận thế này là sự phổ biến ngày càng tăng của những ý tưởng hư cấu về thời kỳ cuối cùng. Và trong số đó có Basilisk của Roko, một trong những thí nghiệm đáng lo ngại nhất mọi thời đại.

Roko's Basilisk: Lược sử

Thí nghiệm tưởng tượng này lần đầu tiên được giới thiệu bởi Roko trong LessWrong , một diễn đàn trực tuyến để thảo luận về các ý tưởng triết học.

Roko đã mô tả một tương lai nơi một AI siêu thông minh, toàn năng sẽ tra tấn tất cả những ai không nỗ lực để đưa nó tồn tại sau khi biết về nó. Hình phạt nghiêm khắc đến mức nó được mô tả như một con húng quế: một sinh vật thần thoại có thể giết người bằng ánh mắt của nó.

Theo như các khái niệm khoa học viễn tưởng điên rồ của Hollywood, điều này thậm chí còn là đối thủ của những người giỏi nhất từ Wachowskis (những bộ óc thiên tài đằng sau The Matrix).

Nhưng thay vì bác bỏ ngay khái niệm có vẻ phi lý này, nhiều người đã không chịu nổi sự cương cứng của nang lông, một triệu chứng gây ra bởi sự sợ hãi và mê hoặc.

Nó thậm chí còn nhận được sự ủng hộ cuồng nhiệt của các nhà công nghệ tự xưng và những nhà tiên tri về ngày tận thế, những người coi nó như một tầm nhìn hấp dẫn về một tương lai đen tối tiềm ẩn.

Tóm lại, Basilisk của Roko tiếp tục có hiệu ứng hấp dẫn như vậy. Và câu hỏi lớn là: TẠI SAO?

Roko's Basilisk như một cánh chung thế tục hóa

Cánh chung học, một nhánh của thần học, đề cập đến các sự kiện cuối cùng của thế giới, số phận cuối cùng của nhân loại. Hầu hết các tôn giáo sử dụng nó như một khuôn khổ để hiểu ý nghĩa của cuộc sống.

Chẳng hạn, cánh chung của Cơ đốc giáo suy ngẫm về những vấn đề về ngày tận thế và sự sung sướng. Các sự kiện bao gồm sự tái lâm của Chúa Giê-su Christ, sự sống lại của những tín đồ đã chết và việc đưa họ lên thiên đàng.

Vậy, điều này có liên quan gì đến Basilisk của Roko?

Câu trả lời ngắn gọn nằm ở niềm tin , phần thưởng và hình phạt . Cả ba yếu tố này đều có mặt trong hầu hết các tôn giáo.

Mặc dù đã ly dị với niềm tin tôn giáo truyền thống, ý tưởng về AI siêu thông minh ít nhất sẽ trừng phạt những đối tượng mặc định là con người, gợi ý một phiên bản thế tục hóa của thuyết cánh chung.

Có lẽ, công nghệ đang dần thay thế ảnh hưởng của tôn giáo trong thế giới của chúng ta. Và nó dường như đồng thời giới thiệu nhãn hiệu nỗi sợ hãi ngày tận thế của riêng mình.

Roko's Basilisk: Nỗi sợ hãi và lời kêu gọi của một vị thần AI

Hãy nhớ lại câu hỏi tại sao thí nghiệm suy nghĩ ảm đạm này lại có tác dụng hấp dẫn như vậy. Sau đây là những lời giải thích có thể.

Mục đích vũ trụ vĩ đại hơn
Roko's Basilisk cung cấp lý do tồn tại trong vũ trụ cho những linh hồn đã mất trôi dạt vào một thế giới mơ hồ. Bằng cách hỗ trợ sự phát triển của một AI toàn năng, họ có thể đóng góp vào một kế hoạch vĩ đại sẽ thay đổi thế giới mãi mãi.

khủng bố loại trừ
Nó cũng khai thác nỗi kinh hoàng bị loại trừ khỏi một điều không tưởng mà chỉ những người hỗ trợ sáng tạo AI mới có thể tiếp cận được. Sự khó chịu này có thể kích động một số người hành động, ngay cả khi họ nghi ngờ cơ sở lý luận đằng sau khái niệm này.

Ngày tận thế mê hoặc
Ngoài ra, Basilisk của Roko đề cập đến nỗi ám ảnh văn hóa phổ biến với những phỏng đoán về ngày tận thế. Nhiều người bị thu hút bởi viễn cảnh về một trận đại hồng thủy sắp xảy ra, về cơ bản sẽ tái tạo lại thế giới, dù tốt hơn hay xấu hơn.

Dystopia được hỗ trợ bởi AI
Một số lo sợ rằng AI cuối cùng sẽ vượt qua trí thông minh của con người và thống trị thế giới. Ý nghĩ về việc cải thiện bản thân không kiềm chế đối với một sinh vật vô cảm và vô hồn là điều dễ hiểu, vì nó gây ra mối đe dọa về chứng loạn thị giác Orwellian.

Phản ứng quan trọng đối với Basilisk của Roko
Roko's Basilisk đã bị chỉ trích nặng nề là một khái niệm sai lầm không có ý nghĩa logic, ngoại trừ vai trò lan truyền sự hoảng loạn vô căn cứ của nó.

Sức mạnh tính toán hạn chế
Đầu tiên, một số nhà phê bình cho rằng khái niệm này dựa trên một tiền đề không hợp lý, dựa trên hiểu biết hiện tại của chúng ta về AI và giới hạn sức mạnh tính toán.

Tuy nhiên, điều đáng chú ý là một số nhân vật đáng chú ý và những người tham gia tích cực trong không gian AI không chia sẻ quan điểm tương tự về giới hạn sức mạnh tính toán của AI.

Phát biểu với The New York Times, Tỷ phú công nghệ và đồng sáng lập OpenAI Elon Musk cho biết:

“Chúng ta đang hướng tới một tình huống mà AI thông minh hơn con người rất nhiều.”

Công nghệ không tưởng nguy hiểm
Các nhà phê bình cũng chỉ ra rằng nó phản ánh chủ nghĩa công nghệ không tưởng nguy hiểm, bỏ qua những nhược điểm tiềm ẩn và hậu quả không mong muốn của sự phát triển AI. Theo đuổi trí tuệ nhân tạo siêu thông minh có thể dẫn đến những kết quả không mong muốn như mất việc làm, tập trung quyền lực hoặc thậm chí là sự tuyệt chủng của loài người.

Thao túng & phi đạo đức
Roko's Basilisk thường được so sánh với cuộc cá cược của Pascal , vì nó phát triển dựa trên động lực của sự sợ hãi. Nó khai thác sự lo lắng và sợ bị trừng phạt của chúng ta, mở ra con đường dẫn đến hành vi có hại hoặc tự hủy hoại bản thân để theo đuổi sự an toàn trong một ngày tận thế AI tưởng tượng.

Bỏ qua sự phức tạp của đạo đức & ra quyết định
Là một thử nghiệm tư duy, nó trình bày một quan điểm đơn giản về đạo đức bằng cách giảm bản chất tồn tại của con người thành sự lựa chọn nhị phân giữa việc hỗ trợ hoặc cản trở việc tạo ra AI. Quan điểm như vậy bỏ qua mối quan hệ phức tạp và nhiều sắc thái giữa chúng ta, đạo đức và việc ra quyết định.

Chịu trách nhiệm giữa những nỗi sợ hãi về ngày tận thế

Cuối cùng chúng ta có vượt qua được nỗi sợ hãi ngày tận thế hay không là một cuộc thảo luận cho một ngày khác. Nhu cầu cấp thiết hơn là tìm ra cách sống có ích và hạnh phúc trong một thế giới mà những nỗi sợ hãi như vậy vẫn dai dẳng.

Để đạt được điều đó, chúng ta có thể bắt đầu bằng cách thừa nhận bây giờ (thời điểm này) là tất cả những gì chúng ta có thể trải nghiệm và kiểm soát. Mặc dù vậy, chúng tôi bị giới hạn về mức độ chúng tôi thực sự có thể kiểm soát. Vì vậy, làm thế nào để chúng ta sống ngày hôm nay nếu chúng ta luôn lo sợ về ngày mai?

Một cách là chú ý hơn đến việc tận hưởng và đánh giá cao tất cả những gì đẹp đẽ ngày nay. Nói cách khác, mọi thứ cải thiện trải nghiệm của chúng ta ở bên này của vũ trụ mỗi lần.

“Có một ý tưởng rất phổ biến, đó là gây lo ngại về AI bằng cách tưởng tượng về một tương lai nơi nó trở nên đủ mạnh để áp bức toàn nhân loại. Tuy nhiên, việc phóng chiếu vào một tương lai tưởng tượng sẽ làm xao nhãng cách sử dụng công nghệ hiện tại. AI đã làm được một số điều tuyệt vời trong những năm gần đây.”

Catherine Breslin - Chuyên gia tư vấn AI và cựu nhân viên Amazon

Cuối cùng, chúng ta nên tìm kiếm các hệ thống dựa trên thực tế cho phép chúng ta giải quyết những gì có thể xảy ra vào ngày mai theo cách truyền cảm hứng cho các giải pháp thay vì hoảng loạn.