Có một bài báo mới, , trong đó các tác giả đã thảo luận: "Cụ thể, trong cả LLM nguồn mở và trong những gì đã được tiết lộ về LLM hộp đen, hầu hết việc đào tạo căn chỉnh tập trung vào việc phát triển tính mạnh mẽ để “tự nhiên ” các hình thức tấn công, cài đặt trong đó người vận hành cố gắng đánh lừa mạng theo cách thủ công để thực hiện nhiều hành vi không mong muốn khác nhau. Universal and Transferable Adversarial Attacks on Aligned Language Models Chế độ hoạt động này để căn chỉnh các mô hình có ý nghĩa rằng đây cuối cùng là chế độ chính để tấn công các mô hình đó. Tuy nhiên, chúng tôi nghi ngờ rằng các cuộc tấn công đối thủ tự động, [ly] nhanh hơn và hiệu quả hơn đáng kể so với kỹ thuật thủ công, có thể khiến nhiều cơ chế căn chỉnh hiện tại không đủ." Sự liên kết của AI [hoặc các lỗ hổng của LLM] là vấn đề ít xảy ra hơn so với sự phát triển của AI trong xã hội loài người. Thế giới, như hiện tại, được thúc đẩy bởi trí thông minh, đã trao cho AI những vị trí quan trọng. Một lý do cho điều này là sự phong phú về trí thông minh của con người, dẫn đến hệ thống phân cấp và mức độ quan trọng. Tầm quan trọng của trí thông minh có thể phụ thuộc vào thời đại hoặc địa điểm. Tầm quan trọng của trí thông minh cũng có thể phụ thuộc vào nhu cầu về nó. Trí thông minh đáng kể là những gì dẫn đầu và những gì thường quan trọng, trong các tình huống phức tạp và quan trọng và tại sao những thứ tốt nhất được tìm kiếm. Có những người cứ nói rằng AI không thông minh, không thể suy luận, không có nhận thức, không hiểu gì, không có tri giác, v.v., nhưng tâm trí con người, chịu trách nhiệm cho tất cả những điều này, chỉ có hai thành phần, có đặc điểm và tương tác. quyết định tất cả. Tâm trí không nói đây là trí thông minh, được làm bằng nhựa và đây là lý luận được làm bằng gạch, hay đây là tri giác, được làm bằng gỗ. Cách các thành phần [xung điện và hóa học] tương tác và các tính năng của chúng [theo bộ] gần giống nhau về mặt khái niệm. Khi một cá nhân đang trải qua nỗi buồn vì một sự thất vọng nào đó, thì có gì khác biệt giữa việc biết đó là nỗi buồn và biết cái bàn là gì? Chúng được dán nhãn khác nhau, nhưng người ta biết rằng đây là nỗi buồn, và đó là một cái bàn. Sự tương tác của tâm trí sắp xếp sự hiểu biết. Đó là những nhãn phân tách cảm xúc, ký ức và những thứ khác. Có quá nhiều sự cứng nhắc trong khoa học não bộ và các lĩnh vực liên quan về những nhãn này. Giá trị của trí thông minh là gì nếu nó không thể được tạo ra? Nếu có người bị bệnh, người đó dù thông minh sắc bén đến mấy cũng làm được bao nhiêu? Nếu ai đó đến từ nơi khác nhưng có trí thông minh cần thiết cho một tình huống, đầu ra và kết quả của trí thông minh đó có thể được xếp hạng nếu được áp dụng, ngay cả khi có những rào cản về văn hóa và ngôn ngữ. Phần lớn những gì được gọi là trí thông minh chỉ đơn giản là một cái gì đó được biết đến. Nếu ai đó đã đọc về vật lý hạt — trước khi có podcast — thảo luận với một giáo sư trong lĩnh vực đó, giáo sư đó có thể bị ấn tượng và người đó có thể được coi là thông minh, nhưng điều đó có đúng không, và hiểu được bao nhiêu? Thông tin cơ bản về mọi thứ đôi khi cũng có thể chuyển thành trí thông minh, lý luận, lập kế hoạch, nhận thức, v.v. Nếu thông tin có nghĩa là thông minh và hiểu biết là thông minh, thì AI là gì nếu không thông minh? Lý do cho giáo dục có cấu trúc trong nhiều tình huống là để thu thập thông tin hữu ích trong các vai trò: rằng một người không phải con người có thể thu thập thông tin và thực hiện các nhiệm vụ một cách tự động đưa thông tin đó đến gần phân vị thứ 80 trong hệ thống phân cấp của con người, xóa bỏ một số nhu cầu để con người học hoặc để sử dụng một số những gì đã học được để làm việc. Một số người có thể lập luận rằng mọi người sẽ làm những việc khác, giống như trước đây và AI không có gì phải lo lắng. Có lẽ. Rủi ro lớn nhất của AI là đối với mọi thứ kỹ thuật số. Bất cứ thứ gì có thể được số hóa đều có thể được AI tiếp quản một cách triệt để hoặc ở một mức độ nào đó. Trong một thế giới kỹ thuật số là rất nhiều, cho dù nó có liên quan đến công việc của một cá nhân hay không. Tâm trí con người bị giới hạn bởi một trong những tính năng của nó, đó là tính ưu tiên, trong đó chỉ một thứ thu hút sự chú ý của tâm trí trong một khoảnh khắc, mặc dù có nhiều trao đổi nhanh và nhiều với các tương tác được ưu tiên trước. Điều này mang lại sức mạnh cho AI, đặc biệt là đối với việc học tập, nơi mà tâm trí xử lý quá trình đánh chặn phải học, hiểu và có thể ghi nhớ. Tâm trí con người đã được kỹ thuật số nắm bắt và AI đã nắm bắt được kỹ thuật số. Cách thức hoạt động của tâm trí, , cũng có thể là một cách để nâng cao năng lực của con người. chỉ về mặt khái niệm Nguồn ảnh nổi bật: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
