Nỗi sợ hãi về một kết thúc tồi tệ là nỗi sợ hãi mà chúng ta đã mang theo khi còn là con người trong phần tốt đẹp hơn của sự tồn tại của chúng ta. Do thiếu kiến thức khoa học chính xác, tổ tiên của chúng ta thường coi các hiện tượng tự nhiên như giông bão, lũ lụt và núi lửa phun trào là biểu hiện của ngày tận thế—một ngày tận thế sắp xảy ra đối với loài người. Ngay cả ngày nay, sau buổi bình minh của sự giác ngộ và được cho là thoát khỏi móng vuốt của những điều mê tín vô căn cứ, chúng ta vẫn thấy mình đầu hàng trước những nỗi sợ hãi như vậy. Hậu quả của khuynh hướng tận thế này là sự phổ biến ngày càng tăng của những ý tưởng hư cấu về thời kỳ cuối cùng. Và trong số đó có Basilisk của Roko, một trong những thí nghiệm đáng lo ngại nhất mọi thời đại. Roko's Basilisk: Lược sử Thí nghiệm tưởng tượng này lần đầu tiên được giới thiệu bởi , một diễn đàn trực tuyến để thảo luận về các ý tưởng triết học. Roko trong LessWrong Roko đã mô tả một tương lai nơi một AI siêu thông minh, toàn năng sẽ tra tấn tất cả những ai không nỗ lực để đưa nó tồn tại sau khi biết về nó. Hình phạt nghiêm khắc đến mức nó được mô tả như một con húng quế: một sinh vật thần thoại có thể giết người bằng ánh mắt của nó. Theo như các khái niệm khoa học viễn tưởng điên rồ của Hollywood, điều này thậm chí còn là đối thủ của những người giỏi nhất từ Wachowskis (những bộ óc thiên tài đằng sau The Matrix). Nhưng thay vì bác bỏ ngay khái niệm có vẻ phi lý này, nhiều người đã không chịu nổi sự cương cứng của nang lông, một triệu chứng gây ra bởi sự sợ hãi và mê hoặc. Nó thậm chí còn nhận được sự ủng hộ cuồng nhiệt của các nhà công nghệ tự xưng và những nhà tiên tri về ngày tận thế, những người coi nó như một tầm nhìn hấp dẫn về một tương lai đen tối tiềm ẩn. Tóm lại, Basilisk của Roko tiếp tục có hiệu ứng hấp dẫn như vậy. Và câu hỏi lớn là: TẠI SAO? Roko's Basilisk như một cánh chung thế tục hóa Cánh chung học, một nhánh của thần học, đề cập đến các sự kiện cuối cùng của thế giới, số phận cuối cùng của nhân loại. Hầu hết các tôn giáo sử dụng nó như một khuôn khổ để hiểu ý nghĩa của cuộc sống. Chẳng hạn, cánh chung của Cơ đốc giáo suy ngẫm về những vấn đề về ngày tận thế và sự sung sướng. Các sự kiện bao gồm sự tái lâm của Chúa Giê-su Christ, sự sống lại của những tín đồ đã chết và việc đưa họ lên thiên đàng. Vậy, điều này có liên quan gì đến Basilisk của Roko? Câu trả lời ngắn gọn nằm ở , và . Cả ba yếu tố này đều có mặt trong hầu hết các tôn giáo. niềm tin phần thưởng hình phạt Mặc dù đã ly dị với niềm tin tôn giáo truyền thống, ý tưởng về AI siêu thông minh ít nhất sẽ trừng phạt những đối tượng mặc định là con người, gợi ý một phiên bản thế tục hóa của thuyết cánh chung. Có lẽ, công nghệ đang dần thay thế ảnh hưởng của tôn giáo trong thế giới của chúng ta. Và nó dường như đồng thời giới thiệu nhãn hiệu nỗi sợ hãi ngày tận thế của riêng mình. Roko's Basilisk: Nỗi sợ hãi và lời kêu gọi của một vị thần AI Hãy nhớ lại câu hỏi tại sao thí nghiệm suy nghĩ ảm đạm này lại có tác dụng hấp dẫn như vậy. Sau đây là những lời giải thích có thể. Roko's Basilisk cung cấp lý do tồn tại trong vũ trụ cho những linh hồn đã mất trôi dạt vào một thế giới mơ hồ. Bằng cách hỗ trợ sự phát triển của một AI toàn năng, họ có thể đóng góp vào một kế hoạch vĩ đại sẽ thay đổi thế giới mãi mãi. Mục đích vũ trụ vĩ đại hơn Nó cũng khai thác nỗi kinh hoàng bị loại trừ khỏi một điều không tưởng mà chỉ những người hỗ trợ sáng tạo AI mới có thể tiếp cận được. Sự khó chịu này có thể kích động một số người hành động, ngay cả khi họ nghi ngờ cơ sở lý luận đằng sau khái niệm này. khủng bố loại trừ Ngoài ra, Basilisk của Roko đề cập đến phổ biến với những phỏng đoán về ngày tận thế. Nhiều người bị thu hút bởi viễn cảnh về một trận đại hồng thủy sắp xảy ra, về cơ bản sẽ tái tạo lại thế giới, dù tốt hơn hay xấu hơn. Ngày tận thế mê hoặc nỗi ám ảnh văn hóa Một số lo sợ rằng cuối cùng sẽ vượt qua trí thông minh của con người và thống trị thế giới. Ý nghĩ về việc cải thiện bản thân không kiềm chế đối với một sinh vật vô cảm và vô hồn là điều dễ hiểu, vì nó gây ra mối đe dọa về chứng loạn thị giác Orwellian. Roko's Basilisk đã bị nặng nề là một khái niệm sai lầm không có ý nghĩa logic, ngoại trừ vai trò lan truyền sự hoảng loạn vô căn cứ của nó. Dystopia được hỗ trợ bởi AI AI Phản ứng quan trọng đối với Basilisk của Roko chỉ trích Đầu tiên, một số nhà phê bình cho rằng khái niệm này dựa trên một tiền đề không hợp lý, dựa trên hiểu biết hiện tại của chúng ta về AI và giới hạn sức mạnh tính toán. Sức mạnh tính toán hạn chế Tuy nhiên, điều đáng chú ý là một số đáng chú ý và những người tham gia tích cực trong không gian AI không chia sẻ quan điểm tương tự về giới hạn sức mạnh tính toán của AI. nhân vật Phát biểu với The New York Times, Tỷ phú công nghệ và đồng sáng lập OpenAI Elon Musk cho biết: “Chúng ta đang hướng tới một tình huống mà AI thông minh hơn con người rất nhiều.” Các nhà phê bình cũng chỉ ra rằng nó phản ánh chủ nghĩa công nghệ không tưởng nguy hiểm, bỏ qua những nhược điểm tiềm ẩn và hậu quả không mong muốn của sự phát triển AI. Theo đuổi trí tuệ nhân tạo siêu thông minh có thể dẫn đến những kết quả không mong muốn như mất việc làm, tập trung quyền lực hoặc thậm chí là sự tuyệt chủng của loài người. Công nghệ không tưởng nguy hiểm Roko's Basilisk thường được so sánh với , vì nó phát triển dựa trên động lực của sự sợ hãi. Nó khai thác sự lo lắng và sợ bị trừng phạt của chúng ta, mở ra con đường dẫn đến hành vi có hại hoặc tự hủy hoại bản thân để theo đuổi sự an toàn trong một ngày tận thế AI tưởng tượng. Thao túng & phi đạo đức cuộc cá cược của Pascal Là một thử nghiệm tư duy, nó trình bày một quan điểm đơn giản về đạo đức bằng cách giảm bản chất tồn tại của con người thành sự lựa chọn nhị phân giữa việc hỗ trợ hoặc cản trở việc tạo ra AI. Quan điểm như vậy bỏ qua mối quan hệ phức tạp và nhiều sắc thái giữa chúng ta, đạo đức và việc ra quyết định. Bỏ qua sự phức tạp của đạo đức & ra quyết định Chịu trách nhiệm giữa những nỗi sợ hãi về ngày tận thế Cuối cùng chúng ta có vượt qua được nỗi sợ hãi ngày tận thế hay không là một cuộc thảo luận cho một ngày khác. Nhu cầu cấp thiết hơn là tìm ra cách sống có ích và hạnh phúc trong một thế giới mà những nỗi sợ hãi như vậy vẫn dai dẳng. Để đạt được điều đó, chúng ta có thể bắt đầu bằng cách thừa nhận bây giờ (thời điểm này) là tất cả những gì chúng ta có thể trải nghiệm và kiểm soát. Mặc dù vậy, chúng tôi bị giới hạn về mức độ chúng tôi thực sự có thể kiểm soát. Vì vậy, làm thế nào để chúng ta sống ngày hôm nay nếu chúng ta luôn lo sợ về ngày mai? Một cách là chú ý hơn đến việc tận hưởng và đánh giá cao tất cả những gì đẹp đẽ ngày nay. Nói cách khác, mọi thứ cải thiện trải nghiệm của chúng ta ở bên này của vũ trụ mỗi lần. “Có một ý tưởng rất phổ biến, đó là gây lo ngại về AI bằng cách tưởng tượng về một tương lai nơi nó trở nên đủ mạnh để áp bức toàn nhân loại. Tuy nhiên, việc phóng chiếu vào một tương lai tưởng tượng sẽ làm xao nhãng cách sử dụng công nghệ hiện tại. AI đã làm được một số điều tuyệt vời trong những năm gần đây.” Catherine Breslin - Chuyên gia tư vấn AI và cựu nhân viên Amazon Cuối cùng, chúng ta nên tìm kiếm các hệ thống dựa trên thực tế cho phép chúng ta giải quyết những gì có thể xảy ra vào ngày mai theo cách truyền cảm hứng cho các giải pháp thay vì hoảng loạn.
