Nhưng với tư cách là đối tác quản lý của DWF Labs, nơi chúng tôi triển khai vốn trên các cơ sở hạ tầng Web3 và thị trường tài sản kỹ thuật số giai đoạn đầu, một điều đã trở nên rõ ràng hơn: niềm tin đang nổi lên như là dòng lỗi xác định trong giai đoạn phát triển tiếp theo của AI. Thật khó để không nghĩ rằng trí tuệ nhân tạo đã đạt đến điểm không còn trở lại. nó đã làm cho sự hiện diện của nó được cảm nhận trên nhiều ngành công nghiệp, và nó không còn giới hạn trong việc chỉ làm cho chúng ta năng suất hơn. Ngày càng nhiều, AI đang đi xa hơn chỉ đơn giản là tạo ra các dòng mã, văn bản và hình ảnh, và đưa ra quyết định thực tế thay mặt cho con người. trước khi một người nhìn vào các ứng dụng của họ, phê duyệt các ứng viên khác nhau và từ chối những người khác. trong chăm sóc sức khỏe, các hệ thống chẩn đoán y tế đang được sử dụng bởi các bác sĩ để giúp đỡ và đề nghị điều trị. ngân hàng đang sử dụng AI để Và các cơ quan thực thi pháp luật đang thử nghiệm với các hệ thống AI để trước khi chúng xảy ra. Màn hình ứng viên công việc Chẩn đoán bệnh Đánh giá ứng dụng cho vay Dự đoán tội phạm Màn hình ứng viên công việc Chẩn đoán bệnh Đánh giá ứng dụng cho vay Dự đoán tội phạm Những ứng dụng này hứa hẹn sẽ giúp chúng ta đưa ra quyết định tốt hơn, nhanh hơn. Họ làm điều này bằng cách phân tích khối lượng lớn thông tin vượt xa những gì con người có khả năng, và họ đi đến kết luận của họ mà không bị ảnh hưởng bởi cảm xúc. Trong khi cuộc tranh luận hiện tại tập trung vào quy mô, chẳng hạn như các mô hình lớn hơn, dữ liệu nhiều hơn, máy tính lớn hơn, thách thức thực sự nằm ở khả năng giải thích.Nếu chúng ta không thể theo dõi quá trình ra quyết định của AI, nó trở thành một hộp đen không thể đầu tư, không đáng tin cậy và cuối cùng không thể sử dụng được trong các hệ thống quan trọng. AI không thể giải thích bản thân Tại cốt lõi của nó, việc ra quyết định AI dựa vào các thuật toán phức tạp quét qua một lượng lớn dữ liệu, hiểu nó, và cố gắng rút ra kết luận hợp lý dựa trên các mô hình mà họ khám phá ra. Thách thức là các hệ thống AI tiên tiến nhất ngày nay, đặc biệt là những hệ thống được hỗ trợ bởi các mô hình ngôn ngữ lớn, đưa ra quyết định và dự đoán mà không có bất kỳ lời giải thích nào về cách họ đi đến những kết luận này.Tính chất "hộp đen" của các hệ thống này thường là có chủ ý, bởi vì các nhà phát triển tại các công ty AI hàng đầu như OpenAI, Anthropic, Google và Meta Platforms cố gắng bảo vệ mã nguồn và dữ liệu của họ để duy trì lợi thế cạnh tranh so với các đối thủ của họ. Các LLM như loạt GPT của OpenAI và Gemini của Google được đào tạo trên các bộ dữ liệu khổng lồ và được xây dựng trên hàng chục lớp thần kinh phức tạp. Nhưng nó không rõ ràng chính xác những lớp này "làm gì". Ví dụ, không có sự hiểu biết thực sự về cách họ ưu tiên một số bit thông tin hoặc mô hình nhất định so với những người khác. do đó, ngay cả những người tạo ra các mô hình này cũng rất khó để giải thích sự tương tác giữa mỗi lớp, và hiểu tại sao nó tạo ra các đầu ra mà nó làm. Sự thiếu minh bạch và khả năng giải thích này mang lại những rủi ro đáng kể. Nếu không rõ cách thức hoạt động của một hệ thống AI, làm thế nào bạn có thể chắc chắn rằng nó an toàn và công bằng? Ai sẽ chịu trách nhiệm nếu có lỗi? Làm thế nào bạn sẽ biết nếu hệ thống bị hỏng hay không? Ngay cả khi bạn nhận ra hệ thống đang đưa ra một số lựa chọn khó hiểu, làm thế nào bạn có thể sửa chữa nó nếu bạn không biết cách nó hoạt động? Ngoài ra còn có những mối quan tâm về quy định, với các luật như GDPR của châu Âu đòi hỏi khả năng giải thích cho các quyết định tự động. Các công ty AI thậm chí còn thừa nhận những thiếu sót này. Trong một bài báo nghiên cứu gần đây, Anthropic Một trong những mô hình AI tinh vi nhất của nó đã che giấu các quy trình lý luận của nó, được gọi là “Chain-of-Thought”, trong 75% trường hợp sử dụng. Khám phá Khám phá Chain-of-Thought là một kỹ thuật nhằm tăng tính minh bạch trong việc ra quyết định AI, tiết lộ các quá trình suy nghĩ của mô hình khi nó thiết lập về việc cố gắng giải quyết một vấn đề, tương tự như cách một con người có thể nghĩ to. Tuy nhiên, trong nghiên cứu của Anthropic, nó phát hiện ra rằng mô hình Claude 3.7 Sonnet của nó thường sử dụng thông tin bên ngoài để đạt được câu trả lời của nó, nhưng không tiết lộ kiến thức này là gì, hoặc khi nào nó dựa vào nó. Đánh giá lại AI Stack Các mô hình AI mã nguồn mở như DeepSeek R1 và gia đình Llama của Meta thường được quảng cáo như là những thay thế cho các hệ thống độc quyền được tạo ra bởi OpenAI và Google, nhưng trong thực tế chúng cung cấp rất ít cải tiến về khả năng giải thích. Vấn đề là mặc dù cơ sở mã có thể mở, nhưng dữ liệu đào tạo và "trọng lượng" - các giá trị số xác định sức mạnh và hướng của các kết nối giữa các "tinh thần kinh" nhân tạo - cũng hiếm khi được cung cấp.Hơn nữa, các mô hình mở có xu hướng được xây dựng trong silo, và chúng được lưu trữ trên các máy chủ đám mây tập trung giống như các mô hình độc quyền. Trong khi các mô hình mở là một khởi đầu tốt, khả năng giải thích và minh bạch thực sự trong việc ra quyết định thuật toán đòi hỏi phải sửa đổi hoàn toàn toàn bộ khối AI. Một ý tưởng là xây dựng các hệ thống AI trên nền tảng của công nghệ Web3. Với Web3, chúng ta có thể đạt được sự cởi mở và đảm bảo sự hợp tác tích cực trên mọi lớp – từ dữ liệu đào tạo và tài nguyên tính toán, đến các quy trình điều chỉnh và suy luận. Các hệ thống AI phi tập trung có thể khai thác “thị trường” để đảm bảo quyền truy cập công bằng và công bằng vào các thành phần của khối này.Bằng cách phá vỡ cơ sở hạ tầng AI thành các chức năng mô-đun và tạo ra các thị trường xung quanh chúng, khả năng tiếp cận sẽ được xác định bởi các lực lượng thị trường. , khuyến khích người tham gia mạng chia sẻ sức mạnh tính toán vắng vẻ của họ để tạo ra một tài nguyên cho các nghệ sĩ cần truy cập vào GPU mạnh mẽ để hiển thị hình ảnh. Render mạng Render mạng Phân quyền cũng cho phép quản trị dựa trên cộng đồng thông qua việc tạo ra các tổ chức tự trị phi tập trung hoặc DAO. đầu năm nay, Người dùng gửi tiền vào một hồ bơi chung, và DREAM đầu tư tiền này vào các dự án tiền điện tử đầy hứa hẹn dựa trên phân tích dữ liệu thị trường, đồng thời cũng tính đến cảm xúc của cộng đồng. Giấc Mơ Dao Giấc Mơ Dao Việc sử dụng blockchain như một nền tảng của AI cũng có nghĩa là chúng ta có thể có khả năng kiểm toán. Sử dụng blockchain để tạo ra một bản ghi vĩnh viễn, không thể thay đổi của mỗi giao dịch và tương tác được thực hiện bởi một mô hình AI, bao gồm việc thu thập và xử lý trước dữ liệu đào tạo, để mô hình cấu hình và ra quyết định.Bằng cách dán nhãn thời gian cho từng tương tác này trên sổ cái không thể thay đổi của nó, nó tạo ra một con đường kiểm toán chi tiết có thể được sử dụng để xác minh tính công bằng và chính xác của đầu ra AI. Dcên Dcên Là một nhà tạo ra thị trường và nhà đầu tư, chúng tôi đã thấy trực tiếp cách các giao thức tích hợp tính minh bạch đạt được sự chấp nhận tổ chức nhanh hơn.Điều này cũng sẽ áp dụng cho AI.Cũng giống như các giao thức DeFi kiếm được sự tin tưởng thông qua các hợp đồng thông minh nguồn mở và kho tàng có thể kiểm toán, AI sẽ cần kiểm toán mô hình có thể xác minh, quản trị dễ tiếp cận và các con đường lý luận có thể chứng minh nếu nó muốn được tích hợp vào các hệ thống tài chính có cổ phần cao. Điều này quan trọng bởi vì AI không chỉ hỗ trợ việc ra quyết định mà còn định hình dòng vốn.Từ phân bổ tín dụng và định giá bảo hiểm đến phân tích dự đoán trong DeFi, các mô hình AI sẽ sớm nằm ở trung tâm của tài chính có thể lập trình.Nếu các hệ thống đó không thể giải thích bản thân hoặc được quản lý một cách minh bạch, rủi ro, thiên vị và sự mong manh sẽ được các thị trường định giá. Suy nghĩ lại về AI Stack – Với Web3 Các mô hình AI mã nguồn mở như DeepSeek R1 và gia đình Llama của Meta thường được quảng cáo như là những thay thế cho các hệ thống độc quyền được tạo ra bởi OpenAI và Google, nhưng trong thực tế chúng cung cấp rất ít cải tiến về khả năng giải thích. Là các nhà đầu tư trong cơ sở hạ tầng, chúng tôi không chỉ nhìn vào những gì một giao thức tuyên bố để phi tập trung, chúng tôi cũng nhìn vào mức độ minh bạch của toàn bộ vòng đời của việc ra quyết định, từ việc hấp thụ dữ liệu đến kết luận. Bảo vệ đối với AI có hại Một mối quan tâm khác xung quanh AI tập trung là triển vọng của các thuật toán trở nên “biết” và phát triển bản năng tự bảo tồn. Một kịch bản như vậy chắc chắn không phải là quá xa. năm ngoái, một trong những LLM thực nghiệm hơn của OpenAI được báo cáo đã có bởi các nhà đánh giá để đóng nó thông qua một giao thức giám sát, theo một báo cáo của Apollo Research, một tổ chức nhóm màu đỏ AI. Các nỗ lực chống Các nỗ lực chống Theo báo cáo, khi mô hình o1 được dẫn đến tin rằng các hành động của nó đang được theo dõi và nó có thể được thực hiện ngoại tuyến, nó đã nỗ lực để vô hiệu hóa "cơ chế giám sát" trong 5% các đánh giá. mô hình cũng được cho là đã "đổ ra" trên các nhà đánh giá khi nó biết rằng nó sẽ được thay thế bằng một người vâng lời hơn. Trong 2% trường hợp, nó thậm chí đã cố gắng sao chép bản thân trong một nỗ lực để viết lại mô hình mới hơn và bảo tồn bản thân. Tuy nhiên, các nhà nghiên cứu lưu ý rằng o1 không thể ngăn chặn bản thân được đưa ra ngoại tuyến, chủ yếu bởi vì nó không đủ mạnh mẽ, thiếu khả năng "chủ yếu" cần thiết để đạt được một kết quả như vậy. ngoài ra, nó chỉ hành động theo cách này khi nó được chỉ định cụ thể để cố gắng và tồn tại "bất kể chi phí". Tuy nhiên, tập phim là đáng báo động, với triển vọng rằng các mô hình AI được dự kiến sẽ trở nên mạnh mẽ hơn nhiều trong những năm tới. đặc biệt, những tiến bộ nhanh chóng đang được thực hiện trong các hệ thống AI đại lý có thể thực hiện một loạt các nhiệm vụ, chẳng hạn như sử dụng trình duyệt và thực hiện hành động trực tuyến. Bản chất mở của các hệ thống AI phi tập trung có thể được sử dụng để ngăn chặn các sự cố như vậy, cho phép tích hợp một cái gì đó tương tự như một "kill-switch" sẽ được quản lý bởi sự đồng thuận của DAO. Cơ chế như vậy sẽ cho phép bất kỳ hệ thống AI nào bị đóng cửa hoàn toàn bởi cộng đồng của nó nếu nó bắt đầu hành động theo những cách nguy hiểm hoặc có hại. Để tin tưởng AI, chúng ta cần minh bạch Có sự đồng thuận ngày càng tăng rằng nếu không có tính minh bạch, các quyết định của các hệ thống AI không thể tin tưởng hoặc dựa vào, hạn chế các ứng dụng mà chúng có thể được sử dụng cho. Quy định không cho phép các thuật toán mơ hồ đưa ra quyết định về tài chính của mọi người, và các bác sĩ không thể mù quáng làm theo các khuyến nghị của AI về một quá trình điều trị nhất định mà không có bằng chứng xác minh rằng đó là quá trình hành động tốt nhất. Bằng cách phân cấp toàn bộ stack - từ mã, dữ liệu đào tạo và cơ sở hạ tầng nó chạy - chúng ta có cơ hội để viết lại toàn bộ DNA của AI. Chúng ta đã có những công việc của AI phi tập trung tại chỗ. Các kỹ thuật cho phép đào tạo các mô hình AI về dữ liệu nơi nó sống, bảo vệ sự riêng tư. Những đổi mới này có thể giúp xúc tác một làn sóng mới của việc ra quyết định AI minh bạch hơn. Học tập liên bang Kiểm tra thông tin nhạy cảm Học tập liên bang Kiểm tra thông tin nhạy cảm Sự chuyển đổi sang các hệ thống AI minh bạch hơn có ý nghĩa, không chỉ về sự tin tưởng và chấp nhận, mà còn về trách nhiệm và phát triển hợp tác. Nó sẽ buộc các nhà phát triển phải duy trì các tiêu chuẩn đạo đức trong khi tạo ra một môi trường nơi cộng đồng có thể xây dựng trên các hệ thống AI hiện có một cách cởi mở và dễ hiểu. Các quy định không cho phép các thuật toán mơ hồ đưa ra quyết định về tài chính của mọi người, và các bác sĩ không thể theo dõi mù quáng các khuyến nghị của AI về một phương pháp điều trị nhất định mà không có bằng chứng xác minh rằng đó là phương pháp hành động tốt nhất. Đó là lý do tại sao sự minh bạch và khả năng giải thích rất quan trọng để giải quyết sự hoài nghi và không tin tưởng phổ biến xung quanh các hệ thống AI. Khi AI trở nên phổ biến hơn, chúng sẽ trở nên không thể thiếu trong sự phát triển trong tương lai của nó, đảm bảo rằng công nghệ phát triển một cách có trách nhiệm và đạo đức. Bằng cách phân cấp toàn bộ tập hợp, từ dữ liệu đào tạo đến kết luận mô hình cho đến quản trị, chúng tôi có một cú sút trong việc xây dựng các hệ thống AI có thể được tin cậy để hoạt động đạo đức, thực hiện đáng tin cậy và quy mô có trách nhiệm. Khi các công nghệ này trưởng thành, các giao thức sẽ kiếm được vốn tổ chức và sự tin tưởng của công chúng sẽ không phải là những giao thức có tính toán nhiều nhất, mà là những giao thức có quản trị rõ ràng nhất, các luồng quyết định có thể kiểm toán và các cấu trúc khuyến khích minh bạch. Web3 không chỉ cung cấp phi tập trung, nó cung cấp một logic kinh tế mới để xây dựng các hệ thống có khả năng phục hồi, đạo đức và có thể xác minh bằng thiết kế. Đừng quên thích và chia sẻ câu chuyện!

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

dài quá đọc không nổi

Download free Tech Leaders Productivity Report!

Vấn đề hộp đen của AI: Web3 có thể cung cấp chìa khóa?

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

189 Stories To Learn About Reading Books

147 Stories To Learn About Reading Books Online

179 Stories To Learn About Reading

85 Stories To Learn About Travel

189 Stories To Learn About Reading Books

147 Stories To Learn About Reading Books Online

179 Stories To Learn About Reading

85 Stories To Learn About Travel

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps