AI và vấn đề “Sụp đổ tri thức”

AI thường được ca ngợi ( bởi tôi, không hơn không kém !) Như một công cụ mạnh mẽ để nâng cao trí thông minh và khả năng sáng tạo của con người. Nhưng điều gì sẽ xảy ra nếu việc dựa vào AI thực sự khiến chúng ta kém khả năng hình thành những ý tưởng và đổi mới mang tính cách mạng theo thời gian? Đó là lập luận đáng báo động được đưa ra bởi một bài báo nghiên cứu mới đã lan truyền trên Reddit và Hacker News trong tuần này.

Tuyên bố chính của bài báo là việc chúng ta ngày càng sử dụng nhiều hệ thống AI như mô hình ngôn ngữ và cơ sở tri thức có thể dẫn đến mối đe dọa ở cấp độ nền văn minh mà tác giả gọi là “sự sụp đổ tri thức”. Khi chúng ta phụ thuộc vào AI được đào tạo trên các nguồn thông tin thông thường, chính thống, chúng ta có nguy cơ mất liên lạc với những ý tưởng hoang dã, không chính thống bên lề kiến thức - những ý tưởng tương tự thường thúc đẩy những khám phá và phát minh mang tính biến đổi.

Bạn có thể tìm thấy phân tích đầy đủ của tôi về bài báo, một số câu hỏi phản biện và phân tích kỹ thuật bên dưới. Nhưng trước tiên, hãy tìm hiểu xem “sự sụp đổ kiến thức” thực sự có nghĩa là gì và tại sao nó lại quan trọng đến vậy…

AI và vấn đề sụp đổ tri thức

Các giấy , tác giả Andrew J. Peterson tại Đại học Poitiers, đưa ra khái niệm về sự sụp đổ kiến thức là “sự thu hẹp dần theo thời gian của tập hợp thông tin có sẵn cho con người, cùng với sự thu hẹp đồng thời về tính sẵn có và tiện ích được nhận thức của các tập hợp thông tin khác nhau”.

Nói một cách dễ hiểu, sự sụp đổ kiến thức là điều xảy ra khi AI làm cho kiến thức thông thường và những ý tưởng phổ biến trở nên dễ dàng tiếp cận đến mức những kiến thức “đuôi dài” độc đáo, bí truyền bị bỏ qua và lãng quên. Nó không phải là làm cho cá nhân chúng ta trở nên ngu ngốc hơn mà là làm xói mòn sự đa dạng lành mạnh trong suy nghĩ của con người.

Peterson cho rằng đây là một mối đe dọa hiện hữu đối với sự đổi mới vì việc tương tác với nhiều ý tưởng khác nhau, đặc biệt là những ý tưởng không chính thống, là cách chúng ta tạo ra những kết nối khái niệm mới lạ và những bước nhảy vọt về mặt tinh thần. Những đột phá có tác động mạnh mẽ nhất trong khoa học, công nghệ, nghệ thuật và văn hóa thường đến từ việc tổng hợp các khái niệm cực kỳ khác nhau hoặc áp dụng các khuôn khổ từ lĩnh vực này sang lĩnh vực khác. Nhưng nếu AI khiến chúng ta rút ra được từ một phần kiến thức “bình thường” ngày càng hẹp hơn, thì những tia sáng sáng tạo đó ngày càng trở nên khó xảy ra. Trí tuệ tập thể của chúng ta bị mắc kẹt trong buồng phản âm tuân thủ và bị trì trệ. Về lâu dài, phạm vi trí tưởng tượng của con người sẽ thu hẹp lại để phù hợp với lượng thông tin hạn chế được tối ưu hóa bởi các công cụ AI của chúng ta.

Để minh họa điều này, hãy tưởng tượng nếu tất cả các đề xuất về sách đều đến từ một AI chỉ được đào tạo về các tựa sách phổ biến nhất. Các thể loại ngoài lề và chủ đề thích hợp sẽ biến mất theo thời gian và thế giới văn học sẽ bị mắc kẹt trong một chu kỳ của các tác phẩm phái sinh, lặp đi lặp lại. Không còn những ý tưởng mang tính cách mạng từ việc kết hợp những ảnh hưởng cực kỳ khác nhau.

Hoặc hãy tưởng tượng một kịch bản trong đó các nhà khoa học và nhà phát minh có được tất cả kiến thức của họ từ một AI được đào tạo trên kho dữ liệu nghiên cứu hiện có. Các dòng điều tra thông thường nhất, quen thuộc nhất sẽ được củng cố (được thể hiện nhiều trong dữ liệu đào tạo), trong khi các cách tiếp cận không chính thống dẫn đến mô hình thực sự sẽ bị thay đổi. Toàn bộ biên giới khám phá chưa được khám phá vì những kẻ mù AI của chúng ta khiến chúng ta bỏ qua chúng.

Đó là rủi ro ngấm ngầm mà Peterson nhận thấy khi ngày càng thuê ngoài nguồn cung cấp thông tin và quản lý kiến thức của chúng ta cho các hệ thống AI chuyên đánh giá cao dữ liệu chính thống. Chính sự đa dạng về tư duy cần có để nhân loại tiếp tục thực hiện những bước nhảy vọt sáng tạo lớn dần dần bị xói mòn, bị nuốt chửng bởi lực hấp dẫn của những thứ thông thường và phổ biến về mặt định lượng.

Mô hình sụp đổ kiến thức của Peterson

Để nghiên cứu sâu hơn về động lực của sự sụp đổ kiến thức, Peterson giới thiệu một mô hình toán học về cách thức thu hẹp nguồn thông tin do AI điều khiển có thể kết hợp qua nhiều thế hệ.

Mô hình này tưởng tượng một cộng đồng “người học” có thể chọn tiếp thu kiến thức bằng cách lấy mẫu từ 1) phân phối thông tin thực sự đầy đủ bằng các phương pháp truyền thống hoặc 2) quy trình dựa trên AI được chiết khấu lấy mẫu từ phân phối hẹp hơn tập trung vào thông tin chính thống.

Sau đó, Peterson mô phỏng cách thức “phân bổ kiến thức công cộng” tổng thể phát triển qua nhiều thế hệ theo các kịch bản và giả định khác nhau.

Một số phát hiện chính:

• Khi AI giúp người học giảm 20% chi phí cho thông tin chính thống, việc phân phối kiến thức công cộng sẽ bị sai lệch gấp 2,3 lần so với đường cơ sở không có AI. Kiến thức bên lề nhanh chóng bị cạnh tranh.

• Sự phụ thuộc lẫn nhau đệ quy giữa các hệ thống AI (ví dụ: AI học hỏi từ kết quả đầu ra của AI khác, v.v.) làm tăng tốc đáng kể sự sụp đổ kiến thức qua nhiều thế hệ. Lỗi và thành kiến đối với hợp chất quy ước ở mỗi bước.

• Sự sụp đổ bù đắp đòi hỏi những động lực rất mạnh mẽ để người học chủ động tìm kiếm những kiến thức bên lề. Họ không chỉ phải nhận ra giá trị của những thông tin quý hiếm mà còn phải nỗ lực hết sức để có được nó bằng chi phí cá nhân.

  
  

Peterson cũng kết nối mô hình của mình với các khái niệm như “dòng thông tin” trong lý thuyết học tập xã hội và các động lực kinh tế để các công ty AI ưu tiên dữ liệu có khả năng áp dụng thương mại nhất. Tất cả những điều này đều cho thấy áp lực mạnh mẽ đối với những gì truyền thống trong hệ sinh thái tri thức do AI điều khiển.

Quan điểm phê phán và câu hỏi mở

Những lập luận của Peterson về sự sụp đổ kiến thức mang tính khiêu khích về mặt triết học và mạch lạc về mặt kỹ thuật. Mô hình chính thức của bài viết cung cấp một khuôn khổ hữu ích để phân tích vấn đề và hình dung các giải pháp.

Tuy nhiên, tôi muốn thấy nhiều bằng chứng thực tế trực tiếp hơn về hoạt động của những động lực này, ngoài việc mô phỏng toán học. Các số liệu thực nghiệm để theo dõi sự đa dạng của kiến thức theo thời gian có thể giúp kiểm tra và định lượng các tuyên bố cốt lõi. Bài viết cũng đề cập đến việc giải quyết các lập luận phản biện tiềm ẩn.

Một số câu hỏi mở quan trọng trong đầu tôi:

• Việc mở rộng khả năng tiếp cận kiến thức của AI không thể vẫn mang tính tích cực về mặt đổi mới ngay cả khi nó hơi nghiêng về quy ước? Không phải việc hạ thấp các rào cản trong học tập là quan trọng hơn sao?

• Những chính sách, khuyến khích hoặc kiến trúc lựa chọn tập thể nào có thể giúp bù đắp sự suy giảm kiến thức trong khi vẫn duy trì được hiệu quả đạt được của các công cụ kiến thức AI? Làm thế nào chúng ta có thể hợp nhất trí thông minh của máy với thông tin toàn diện?

• Liệu các động lực kinh tế của các công ty AI có thay đổi theo thời gian để đặt nhiều giá trị hơn vào dữ liệu hiếm và các trường hợp phức tạp khi kiến thức chính thống trở thành hàng hóa không? Liệu động lực thị trường có thực sự khuyến khích sự đa dạng?

  
  

Đối với tôi, các giải pháp được đề xuất như bảo lưu dữ liệu đào tạo AI và cam kết của cá nhân trong việc tìm kiếm kiến thức bên lề chỉ có hiệu quả một phần. Giải quyết vấn đề này dường như đòi hỏi sự phối hợp ở cấp độ xã hội và thể chế chứ không chỉ là sự lựa chọn của cá nhân. Chúng ta cần các cơ chế chia sẻ để tích cực coi trọng và bảo tồn những điều độc đáo.

Tôi cũng tò mò về vai trò của các cơ sở tri thức mở, phi tập trung có thể đóng vai trò đối trọng với việc thu hẹp do AI điều khiển. Liệu những sáng kiến như Wikidata, arXiv , hoặc IPFS cung cấp một bức tường thành chống lại sự sụp đổ kiến thức bằng cách làm cho thông tin bên lề trở nên dễ tiếp cận hơn? Có rất nhiều chỗ cho công việc tiếp theo ở đây.

Tiền đặt cọc cho tương lai sáng tạo của chúng ta

Cuối cùng, bài báo của Peterson là một lời cảnh báo mạnh mẽ về những mối nguy hiểm tiềm ẩn đang rình rập trong nỗ lực biến AI thành trung gian hòa giải kiến thức của con người, ngay cả đối với những người rất ủng hộ AI như tôi. Trong một thế giới được định hình lại bởi trí tuệ máy móc, việc bảo tồn sự đa dạng hỗn loạn, ngang ngược của tư tưởng là điều bắt buộc để nhân loại tiếp tục sáng tạo và tiến bộ.

Chúng ta có thể khôn ngoan khi chủ động thiết kế các công cụ kiến thức AI của mình để nuôi dưỡng những điều độc đáo cũng như cung cấp những điều truyền thống một cách hiệu quả. Chúng ta cần những biện pháp bảo vệ và khuyến khích mạnh mẽ để giúp chúng ta kết nối với những điều kỳ lạ ở bên lề. Không làm được như vậy có nguy cơ nhốt tâm trí tập thể của chúng ta vào cái bong bóng tuân thủ theo thiết kế của chính chúng ta.

Vậy bạn nghĩ gì - bạn có lo ngại về sự sụp đổ kiến thức trong nền văn hóa do AI điều khiển không? Bạn sẽ đề xuất những chiến lược nào để ngăn chặn nó? Hãy cho tôi biết suy nghĩ của bạn trong phần bình luận!

Và nếu phần giới thiệu này thu hút sự quan tâm của bạn, hãy cân nhắc việc trở thành người đăng ký trả phí để nhận được phân tích đầy đủ và hỗ trợ công việc làm rõ các vấn đề AI quan trọng của tôi. Nếu bạn chia sẻ niềm tin của tôi rằng việc vật lộn với những ý tưởng này là điều cần thiết cho tương lai sáng tạo của chúng ta, vui lòng chia sẻ nội dung này và mời những người khác tham gia thảo luận.

Sự đa dạng của kiến thức nhân loại không phải là thứ trừu tượng dễ có - nó là chất xúc tác thiết yếu cho những đột phá và bước nhảy vọt sáng tạo có ý nghĩa nhất của nhân loại. Việc duy trì nhiều ý tưởng sôi động đó trước quá trình tuyển chọn kiến thức AI siêu hiệu quả là một thách thức rõ ràng cho tương lai của chúng ta với tư cách là một giống loài đổi mới!