Ôi AGI, bạn có cảm nhận được tôi không?

Trong một cuộc trò chuyện gần đây với một số nhà nghiên cứu nổi tiếng về trí tuệ nhân tạo tổng quát (AGI), chúng tôi đã thảo luận liệu AGI sẽ là một trợ giúp hay một sự phức tạp khi nói đến biến đổi khí hậu. Chúng tôi đã thảo luận một chút về thời gian báo cáo của IPCC về việc băng qua đường 1,5C. Đối với hồ sơ, nó có thể đến ngay sau 18 năm kể từ bây giờ — khi cha mẹ của những đứa trẻ sơ sinh ngày nay có thể mong đợi việc gửi con nhỏ của họ đến trường đại học.

Vấn đề là đơn giản là có quá nhiều vấn đề liên quan đến khí hậu để lập danh mục. Thực tế không chỉ là chúng ta không thể tránh vượt qua 1,5C. Nó cũng vậy chúng tôi đã tiêu diệt quần thể côn trùng . Đây là một con chim hoàng yến khác trong cả đàn đã bị sa bụng trong mỏ than mà chính chúng tôi đã đào. Vì vậy, chúng tôi thực sự có thể sử dụng một số trợ giúp. Quan điểm của các đồng nghiệp của tôi là AGI sẽ giúp ích được điều đó. Vị trí của tôi là một tác nhân nói chung thông minh sẽ tự trị. Tính tự chủ của nó sẽ là một trong những bài kiểm tra quan trọng để chúng tôi công nhận nó là thông minh nói chung. Rốt cuộc, đó là bài kiểm tra mà chúng ta áp dụng cho chính mình. Nhưng một tác nhân tự trị sẽ cần động lực để giúp chúng tôi.

Nếu các cam kết cắt giảm khí thải là bất kỳ loại ủy quyền nào , thì dường như chúng ta thiếu động lực để tự giúp mình. Đối với việc AGI có bất cứ điều gì như lòng trắc ẩn hoặc sự đồng cảm hoặc thậm chí chỉ đơn giản là coi trọng nhân loại đủ để giúp một tay, tôi xin nhắc bạn rằng những phẩm chất này của con người bình thường, khi chúng tồn tại, bắt nguồn từ cảm xúc chứ không phải khả năng tính toán hay trí thông minh của chúng ta. Có rất nhiều người cực kỳ thông minh, những người trong lịch sử không thể hiện một chút lòng trắc ẩn hay sự đồng cảm nào và tác động của họ đối với xã hội và lịch sử loài người là thứ của truyền thuyết và ác mộng. Từ Jack the Ripper đến Pol Pot, các ví dụ rất nhiều và đáng sợ.

Tình cảm con người ăn sâu vào hình thái con người và sinh học con người

Ngay cả những văn bản tuyệt vời như Mathnawi của Rumi cũng biến ngôn ngữ của dục vọng con người thành ngôn ngữ của tình yêu con người. Nhiều người cho rằng đó là ngôn ngữ của Tình yêu, nhưng thực ra nó là một cách chỉ Tình yêu dành riêng cho con người. Nó rất khó có thể hữu ích cho Alpha Centaurans hoặc các trí thông minh khác được phát triển trong vũ trụ, ngoại trừ nó là một công cụ để hiểu con người và mối quan hệ của họ với Tình yêu. Chúng ta không thể mong đợi rằng khả năng tính toán thô, bắt nguồn từ hình thái hoàn toàn khác biệt và thực tế không có sinh học, sẽ có bất kỳ sự hiểu biết hoặc cộng hưởng nào với kinh nghiệm của con người.

Lòng trắc ẩn - về mặt từ nguyên: cùng cảm giác, hoặc cảm giác cùng - thường rất khó để con người phát triển đối với nhau, như lịch sử của chúng ta, thậm chí lịch sử rất gần đây và ngay lập tức cho thấy.

Có phải những người cộng hòa MAGA đã xông vào Điện Capitol của Hoa Kỳ có lòng trắc ẩn đối với các sĩ quan mà họ đã làm bị thương hoặc giết chết không? Viên sĩ quan đã giết George Floyd hay những sĩ quan chứng kiến sự việc đang xảy ra có cảm thương cho người đàn ông trước mặt họ không? Tại sao một trí thông minh bắt nguồn từ hình thái hoàn toàn khác không có gì giống như mệnh lệnh sinh học của chúng ta lại có lòng trắc ẩn đối với nhân loại?

Tình cảm của con người ăn sâu vào hình thái con người và sinh học con người. Ngay cả những văn bản tuyệt vời như Mathnawi của Rumi cũng biến ngôn ngữ của dục vọng con người thành ngôn ngữ của tình yêu con người.

Đó là lý do tại sao tôi sử dụng phép ẩn dụ giới thiệu một loài nhện mới — loài nhện thông minh có khả năng lập kế hoạch và thích nghi — như một đại diện cho các kết quả có thể xảy ra của AGI. Và đó là một trong những kết quả tốt hơn. Nhiều kết quả tồi tệ hơn bắt đầu khi việc sử dụng AGI trong quân đội trở nên tồi tệ, hoặc con người thiếu lòng trắc ẩn hoặc hết sức ác độc, đồng thời truyền cho các đặc vụ thông minh tự trị những động cơ hoặc khuynh hướng bạo lực và ác độc.

Con người hiện đại rất tệ trong việc hiểu hành vi của ngay cả những hệ thống phản hồi đơn giản nhất - vì lý do chính đáng. Chúng cực kỳ phức tạp, đặc biệt là tất cả những cái quá phổ biến đều có tính bắc cầu topo . (Đối với người bình thường, điều này có nghĩa là các hệ thống mà sự khác biệt nhỏ trong đầu vào có thể dẫn đến sự khác biệt lớn tùy ý ở đầu ra.) Khả năng dự đoán thô, thậm chí ngay cả sức mạnh tính toán phổ quát, cũng không phù hợp với tính năng này. Chứng kiến “ảo giác” của ChatGPT . Tất cả mọi thứ từ thảm họa đưa các loài vào các hốc sinh thái mà chúng không phù hợp với tác dụng phụ của thuốc đến tác động của chúng ta đối với khí hậu đều tạo thành bằng chứng rõ ràng về việc chúng ta không thể nắm bắt các hệ thống phức tạp bằng trí thông minh của mình. Khi chúng ta hiểu đúng -- và đó không phải là một sự tình cờ -- nó đến từ một nơi nào đó khác ngoài trí thông minh của chúng ta.

Ví dụ, bằng chứng cho thấy cái mà chúng ta gọi là ý thức và trải nghiệm như hành vi có ý thức ở những người khác không bắt nguồn từ trí thông minh mà ở cảm xúc, là khá thuyết phục. Nhà nghiên cứu nổi tiếng, Mark Solms, trong , đưa ra một bản tóm tắt các bằng chứng. Trẻ em bị thiếu não - thiếu vỏ não mới - vẫn được mô tả và trải nghiệm là có ý thức. Trong khi đó, một vùng nhỏ 2 cm khối trong não bị tổn thương có liên quan 100% với việc không có ai ở nhà, cá nhân không có ý thức. Vùng này trong não thường liên quan đến quá trình xử lý tình cảm.

bằng chứng cho thấy cái mà chúng ta gọi là ý thức và trải nghiệm như hành vi có ý thức ở những người khác không bắt nguồn từ trí thông minh, mà từ cảm xúc, là khá thuyết phục.

Chúng tôi không thể mong đợi AGI có tình cảm với chúng tôi

Chúng ta không thể mong đợi đạt được AGI cấp độ con người có thể nhận biết được (HLAGI) mà không có những tác nhân này thể hiện điều gì đó giống như cảm xúc của con người, nhưng những điều này bắt nguồn từ hình thái con người và sinh học con người. Hiện thân hoàn toàn khác nhau sẽ dẫn đến trí thông minh hoàn toàn khác nhau. Nhưng một trí thông minh hoàn toàn khác là một hệ thống động lực hỗn loạn chuyển tiếp tôpô. Giống như một loài không phù hợp với một thị trường ngách, nó sẽ có những tác động đến môi trường của chúng ta mà chúng ta rất khó dự đoán trong lịch sử. Do đó, thật quá ngây thơ khi hy vọng HLAGI sẽ giúp giải quyết vấn đề biến đổi khí hậu. Nó có nhiều khả năng trở thành một sự phức tạp cho một vấn đề vốn đã hóc búa.

Nếu có một người nào đó có khả năng kỳ lạ trong việc hình dung ra những thế giới thay thế với bất kỳ hình thức nguyên vẹn hoặc chân thực nào, thì đó chính là Frank Herbert. Tôi xin nhắc bạn rằng Dune được đặt trong một khoảng thời gian sau khi lỗi AGI tự hết . Đó rất có thể là một quan điểm quá lạc quan. Nhiều khả năng nghịch lý Fermi được giải thích là do trí thông minh có xu hướng cố gắng tự tái tạo, do đó tự xóa sổ chính nó. Xét về giả thuyết Người ngoài hành tinh Grabby của Robin Hanson , bỏ qua nỗ lực tái tạo trí thông minh này mà không hiểu vai trò của hiện thân có thể là một trong những bước khó khăn mà trí thông minh phải vượt qua để tồn tại.

Hình ảnh chính được cung cấp bởi Milad Fakurian & Bapt