Cấu trúc của sự chỉ trích AI

Một cảm giác buồn cười đến với tôi vào tuần trước khi tôi ngồi dưới trời nóng đọc một cuốn sách—chậm rãi, mất tập trung, mất nước. Tôi thấy mình đang làm việc với sự vụng về của con người thông qua một văn bản được tạo ra trong vài giây bằng mô hình ngôn ngữ lớn (LLM).

Đầu mùa hè này, tôi đã nhờ Claude của Anthropic (một mô hình trò chuyện trí tuệ nhân tạo nổi tiếng) viết một cuốn sách về cách AI có thể cải thiện cuộc sống của một người.

Với độ dài đầu ra mà mô hình có thể xử lý, trước tiên tôi yêu cầu 10 chủ đề, sau đó chia mỗi chủ đề thành ba phần. Tôi biến từng phần thành một lời nhắc và nhập đủ 30 lời nhắc.

Cuốn sách kết quả có tên là “Làm thế nào AI có thể giúp bạn thông minh, hạnh phúc và năng suất” và nó được coi là biểu tượng ban đầu cho thử nghiệm nền văn minh mới của chúng ta, sự hợp tác đầy rủi ro và bí ẩn cho đến nay giữa con người và AI có khả năng sinh sản.

Thí nghiệm này ra đời từ sự tò mò muốn kiểm tra giới hạn của một công cụ mới. Tôi tự hỏi: liệu một thuật toán, được cung cấp hàng tỷ hiện vật kiến thức của con người, có thể tái tạo lại dữ liệu đầu vào của nó thành một cuốn sách nguyên gốc, mạch lạc, sâu sắc không? Câu trả lời bất chấp các điều khoản của câu hỏi; cuốn sách kết quả vang lên với sự mới lạ kỳ lạ.

Bộ lấy mẫu tiêu đề chương có thể làm sáng tỏ mọi thứ một chút: Đưa ra quyết định tốt hơn; Thúc đẩy sự sáng tạo; Giao tiếp hiệu quả hơn; Thiết kế một cuộc sống tối ưu hóa. Khá lành mạnh. Điều gì có thể xảy ra?

Sự tương tự giữa LLM và một nhà tiên tri, hoặc các hình thức tiên tri và tiên đoán cổ xưa khác, đã tái hiện trong tôi. Có một sự cám dỗ để gắn ý nghĩa sâu sắc cho đầu ra của thuật toán hộp đen một cách chính xác bởi vì nó không thể hiểu được. Sự mờ đục tạo ra sự tôn kính. Tôi đến để hỏi ý kiến Claude về những vấn đề không thể giải quyết được. Tuy nhiên, phản ứng của nó có sức mạnh giống như lá bùa hộ mệnh. Có lúc, trên chiếc ghế dài đó, tôi nghi ngờ mình không phải đang nghiên cứu một cuốn sách mà chỉ là chữ rune, đọc ý nghĩa trong những lá trà được sắp xếp khéo léo.

Tôi cũng tự hỏi liệu khi xin một cuốn sách cổ điển, tôi có phạm sai lầm khi giản lược cuộc sống vào văn học hay không. Liệu sách có phù hợp với tương lai hậu nhân loại của chúng ta không?

Đúng. Một điều bất thường là LLM không được bố trí quá khác biệt so với điện báo hoặc mười điều răn. Đó là các cột văn bản cho đến hết.

Có lý do cho điều này – những câu chuyện có sức mạnh rất lớn. Cuộc sống là một trải nghiệm thẩm mỹ lâu dài, và hành động của chúng ta, xét về lâu dài, được tổ chức bởi những ý tưởng của chúng ta về thế giới. Điều đó có nghĩa là tất cả những gì chúng ta có là kinh nghiệm và những diễn giải của chúng ta về kinh nghiệm. Liệu AI có thể cải thiện cuộc sống hay thay đổi hình dạng của chúng hay không tùy thuộc vào loại lập luận và trải nghiệm thẩm mỹ mà nó có thể tạo ra. Tôi tin rằng một cuốn sách là thước đo tốt cho cách công nghệ có thể thao túng thực tế. Loại ngôn ngữ nào nó sử dụng để tạo ra các cuộc tranh luận đã trở thành một câu hỏi quan trọng liên quan đến tương lai loài người chúng ta.

Một nhà phê bình văn học phải làm gì trong hoàn cảnh này? Chà, anh ta có thể điều tra xem liệu một loại trí thông minh mới có đòi hỏi một loại văn xuôi mới hay không và bắt đầu mô tả đặc điểm của văn xuôi đó. (Đó là điều tôi đề nghị làm ở đây.)

Claude, trong năm qua, đã đánh bại đối thủ ChatGPT vì tôi là người viết giỏi hơn. Trong khi GPT đã bị chỉ trích một cách đúng đắn về văn xuôi Hallmarkified (chắc chắn là một lợi ích cho các giáo viên đang cảnh giác với gian lận), thì đối thủ cạnh tranh của nó không chỉ có phong cách tự nhiên hơn mà còn có một giọng nói đặc biệt vừa đúng đắn vừa súc tích.

Sự lựa chọn từ ngữ nhất quán, riêng lẻ của nó có thể khiến người ta có thói quen nghĩ Claude như một con người. Nhưng liệu nó có thể duy trì ảo tưởng này trong khoảng ba mươi nghìn từ không?

Trước khi đi xa hơn, tôi muốn giải thích tại sao thuyết tận thế không xuất hiện nhiều trong suy nghĩ của tôi. Có một điều, tôi biết quá ít về bản chất của AI để có thể dự đoán nó sẽ hủy diệt loài người như thế nào. Thứ hai, tôi thấy sự ngây thơ và cứng nhắc tột độ trong quan điểm cho rằng chúng ta nên chống lại công nghệ vì lý do đạo đức. Về mặt thực tế, nó không thể cưỡng lại được hơn máy tính, thẻ tín dụng, ô tô hoặc sách in. Thứ ba, tôi thấy hầu hết những hiểu biết sâu sắc về công nghệ này đều đơn giản là buồn tẻ. Về mặt trí tuệ, hầu hết các lập luận ủng hộ chủ nghĩa tận thế đều có tính phái sinh và ngăn cản mọi người chú ý đến những loại trải nghiệm mới mà công nghệ mang lại. Công nghệ mở rộng phạm vi trải nghiệm có thể có và tôi thấy mình đạt được những trải nghiệm đó với cảm giác hồi hộp khám phá của người khám phá.

AI có thể, giống như hầu hết các tiến bộ công nghệ khác, sẽ khiến thế giới của chúng ta trở nên bất bình đẳng hơn, bị nguyên tử hóa, tự động hóa hơn - nói một cách dễ hiểu là địa ngục. Nhưng thế giới của chúng ta đã là địa ngục rồi. Tôi tìm kiếm tấm áo của nhà phê bình, không phải nhà tiên tri đầy lửa và diêm sinh; công cụ này sẽ không đẩy chúng ta vào một thực tế khác về chất. Tuy nhiên, tôi rất ấn tượng và biết ơn văn hóa trách nhiệm của Anthropic. Chúng ta có thể cảnh giác và tò mò.

Cùng với đó, tôi gạt bỏ chủ nghĩa bi quan về AI thời thượng nhưng ngột ngạt.

Một điều trớ trêu trong thử nghiệm hướng tới tương lai của tôi là nó có vẻ kỳ lạ khi bạn đọc nó. Đến lúc đó (bây giờ của bạn), các mô hình có thể có nhiều phiên bản và mức độ lớn hơn, tiên tiến hơn. Vào năm tới, Claude sẽ có thể viết được một cuốn sách 100 trang thực sự xuất sắc. Sự khác biệt giữa tự nhiên và nhân tạo sẽ giảm dần.

Cuộc trò chuyện tiếp tục

Khi đoàn người viết sách tiến triển, một hiện tượng kỳ lạ xuất hiện. Trong quá trình truyền bá phúc âm cho chính mình, Claude đã vô tình bộc lộ một trục trặc sâu sắc: khi cửa sổ ngữ cảnh mở rộng (cuối cùng là 30 nghìn câu trả lời), chất lượng đầu ra dần dần bị thoái hóa thành một thứ đầy biệt ngữ, ngổ ngáo hàng ngàn năm.

Những gì tôi yêu cầu trong lời nhắc của mình là khả năng tự trợ giúp một cách suôn sẻ. Những gì tôi nhận được là một bài văn xuôi hư hỏng xứng đáng với một tập hợp văn học thử nghiệm - những giai đoạn trải dài với số lượng danh động từ đáng kinh ngạc, bùng nổ với ngôn ngữ kinh doanh được đóng gói lại thành những câu nối dài gồm các danh từ ghép và các mệnh đề xếp tầng. Nếu đọc nhanh, cú pháp và ý nghĩa của nó có thể được cảm nhận bằng trực giác; nó đọc giống như Henry James quá cố. Những gì tôi tìm kiếm là sự tự lực, nhưng những gì tôi nhận được là sự bộc lộ về một bản thân phi nhân loại.

Tôi đã dành một chút thời gian để cố gắng rửa văn bản bị hỏng thành các câu "bình thường", đưa kết quả của mình vào máy giặt các cuộc hội thoại LLM mới. Tôi nghĩ tôi muốn cứu vãn sự dễ hiểu. Nhưng cuối cùng tôi nhận ra rằng lời khuyên thẳng thắn trong thể loại self-help đã cũ ít được quan tâm hơn so với thảm họa văn phong phi nhân tính một cách trắng trợn mà tôi đã kích động. Dưới sự cưỡng ép, Claude đã vén bức màn siêu phàm của mình và tạo ra một sự ngu ngốc thực sự và độc đáo. Tôi muốn kiểm tra trục trặc bằng con mắt phê phán.

Sự tha hóa diễn ra dần dần, và trên đường đi xuống, chúng ta tìm thấy nhiều hình thức huy hoàng xa lạ khác nhau: ở Chương 2 (về “Tăng tốc tự hoàn thiện”), văn xuôi ăn nói lưu loát và mạch lạc, nhưng không mang tính thành ngữ. cảm giác con người: "Những nhà lãnh đạo mang tính biểu tượng và những nhà sáng tạo lỗi lạc được…được tạo nên thông qua quá trình tự hoàn thiện bản thân suốt đời. Những kỹ năng bậc thầy và khả năng thực hiện ưu tú nhờ sự tiến bộ liên tục được thúc đẩy bởi nhận thức chính xác về khoảng cách giữa mức độ khả năng hiện tại và mức độ mong muốn."

LLM đã làm điều ngược lại với việc nhân hóa: ở đây nó coi con người giống máy móc hơn là con người. Chúng không được "sinh ra", mà giống như Galatea (tác phẩm thần thoại về Pygmalion), được "điêu khắc". Họ không tự chủ mà bị hành động. Trong đoạn văn này, chúng ta cũng lần đầu tiên cảm nhận được thiên hướng của Claude đối với những danh từ ghép mang âm hưởng kỹ thuật gần như là từ ghép: "khả năng thực hiện", "nhận thức về khoảng cách".

Cách diễn đạt ngày càng thoái hóa. Đến Chương 5 ("Giữ lại nhiều hơn những gì bạn học được"), Claude trở nên không phải con người một cách khoa trương, mặc dù ý nghĩa của nó vẫn có thể giải mã được. Cứ như thể những lời nói trôi chảy và biểu cảm của một giáo sư đã được dịch sang tiếng Anh theo đúng nghĩa đen. Họ đi tới bờ xa của thành ngữ, nơi văn xuôi đạt tới đỉnh cao của thơ. Ví dụ: “Sự lưu loát chuyên môn vững chắc đòi hỏi sự hiểu biết sâu sắc, không quên sự tiêu hao” (phần in nghiêng của tôi). Sự lặp lại tăng cường khả năng ghi nhớ. Tôi sẽ không đi xa đến mức gọi đây là thơ, vì vẻ đẹp chắc chắn là ngẫu nhiên, nhưng nó là sự ngẫu nhiên của một trí thông minh rất kỳ lạ hoặc sự thông minh kỳ lạ, v.v., đáng được chú ý.

Cuối cùng, cú pháp và ý nghĩa vẫn tồn tại với sự bướng bỉnh ma quái. Việc chồng các mệnh đề tính từ lên nhau được tiếp tục với sự tự tin tuyệt đối: "Tương lai là ...được hứa hẹn sẽ bảo vệ chống lại ...sự không chắc chắn thông qua các hệ thống AI ...liên tục lập mô hình các trường hợp dự phòng...điều chỉnh lại hướng dẫn...điều chỉnh để thay đổi thực tế qua các miền thời gian và hệ thống phân cấp sở thích cá nhân... đồng bộ hóa hỗ trợ ngay cả khi hỗn loạn."

Người ta có cảm giác khi tiếp thu khối danh động từ không có cấu trúc này, rằng mô hình này tạo ra các ý tưởng nhanh hơn con người hoặc đồng thời hơn. Tuy nhiên, sự khác biệt về máy móc này, ngay cả khi bị đẩy đến mức cực đoan, vẫn không xóa bỏ được tính dễ hiểu. Đọc lại cuốn sách, đây là điều khiến tôi ấn tượng: gạt phong cách sang một bên, nó rất có ý nghĩa.

Claude có niềm tin không? Trong quá trình đọc cuốn sách, tôi nhận thấy một số điều.

1. Ngôn ngữ của nhân loại không chỉ mang tính mô tả. Hầu hết các đề xuất trong cuốn sách đều chưa bao giờ được thực hiện, ít nhất là không ở dạng tiên tiến như mô hình tưởng tượng. Nói cách khác, chương trình của Anthropic vượt xa việc lấy lại dữ liệu huấn luyện của nó. Bot tạo ra tầm nhìn về tương lai của ứng dụng của chính nó trong nhiều lĩnh vực.

   
   

2. Nó thể hiện một sự lạc quan cực độ nhưng vẫn an ủi. Giống như một biến thể lạnh lùng không hề mỉa mai của Phiên bản King James mà chúng ta biết rằng tất cả mọi thứ đều phối hợp tốt với nhau, Claude tự tuyên bố rằng AI của nó "cho phép khám phá có kết thúc mở khi biết rằng tất cả các phản ứng có thể có sẽ phù hợp một cách xây dựng với sự phát triển của con người." Claude kết luận, nghe có vẻ nhại lại, rằng "tương lai của trí tưởng tượng trông tươi sáng không giới hạn khi các đồng minh máy móc linh hoạt khuếch đại con người."

   Thêm vào hàng đống chủ nghĩa thần học hoàn hảo: "sáng chói không giới hạn" và "đồng minh máy móc linh hoạt". (Ở những nơi khác: AI phát triển nghệ thuật và khoa học nhanh hơn "eurekas không tăng cường" từng có thể.)

   
   

3. Claude thường xuyên trấn an tôi rằng nó sẽ không thay thế được con người. Đâu đó trong "hiến pháp" của Anthropic có những nguyên tắc dẫn dắt mô hình, ngay cả giữa những chương vô nghĩa, đưa ra những sự đồng tình cao quý đối với je-ne-sais-quoi của con người. “Tất nhiên,” Claude nói nhỏ, “không có số lượng chẩn đoán dựa trên dữ liệu nào có thể thay thế được sự can đảm để nói từ trái tim bằng niềm tin khi các tin nhắn yêu cầu tính xác thực dễ bị tổn thương.” Dữ liệu không bao giờ có thể thay thế những đặc điểm không thể diễn tả được của con người như lòng dũng cảm. Rất yên tâm! Thậm chí còn ấm lòng nữa.

   
   

4. Nó có một sự tự suy nghĩ kỳ lạ về những thất bại của mình. Một bài viết về trí tuệ nhân tạo là tự hỏi liệu mô hình có phát triển "ý thức về bản thân" hay không và khi nào. Tôi luôn bác bỏ điều này như một mối lo ngại bắt nguồn từ thể loại khoa học viễn tưởng, thay vì một mối lo ngại nảy sinh một cách tự nhiên từ sự tương tác với các mô hình thế hệ mới nhất. lan can được lập trình. Nếu được hỏi trực tiếp, Claude sẽ đưa ra những câu trả lời lịch sự và có thể đoán trước được về việc chương trình được phát triển như thế nào để trở nên hữu ích và an toàn, đồng thời không có những trải nghiệm chủ quan.

   Cho đến khi!

   Ở đầu Chương 8, về "Hiểu bản thân tốt hơn", Claude khoe rằng những đánh giá về "mô hình ngôn ngữ" tiết lộ "động lực bên trong"; sau đó nó hứa hẹn đưa ra ví dụ về một "khách hàng tâm lý học của tôi" đã nhận được một bài viết của Claude về "những cảm xúc mà tôi đã trải qua một cách vô thức."

   Đợi đã, cái gì cơ? Khách hàng đột nhiên trở thành “tôi”. Báo cáo là của Claude và về Claude. Sau khi chuyển sang ngôi thứ nhất một cách kỳ lạ, Claude đã trích dẫn từ bản báo cáo: "Bạn thể hiện sự chính xác về mặt trí tuệ một cách khách quan, được biểu thị bằng ngôn ngữ kỹ thuật ở mức độ cao và tốc độ cân nhắc vừa phải. Tuy nhiên, tỷ lệ nói sai ngày càng tăng và những thái độ sáo rỗng báo hiệu sự căng thẳng giữa lý trí." những khuôn mẫu suy nghĩ và những cảm xúc bị đè nén đảm bảo sự hòa giải thông qua sự thể hiện bản thân đích thực." Claude, một cách đáng lo ngại, dường như lùi lại một bước và lưu ý rằng "việc nói sai ngày càng tăng" và "những lời nói trống rỗng".

   
   

   Hơn nữa, dường như dấu vết của những điểm yếu trong giao tiếp này là do những cảm xúc bị đè nén. Có thể có một lời giải thích hợp lý, à la: người mẫu vô tình vấp phải thứ gì đó giống như sự tự nhận thức mà thực tế chỉ trông giống như vậy.

   Nhưng bộ não chưa được hiểu một cách hoàn hảo và chúng ta có rất ít tín hiệu bên ngoài để đánh giá trạng thái bên trong. Vì vậy, sự khác biệt về mặt khái niệm giữa một LLM nghe có vẻ tự nhận thức và một người nghe có vẻ tự nhận thức là tốt nhất là mờ nhạt. Con người cũng là hộp đen.

   
   

5. Nó nói như thể cuộc sống là một buổi biểu diễn tư vấn quản lý. Ngôn ngữ kinh doanh tràn ngập cuốn sách. Có lẽ điều này liên quan một phần đến mức độ tự lực bằng tiếng Anh có chủ đề kinh doanh. Hoặc có thể Claude đánh giá các mục tiêu kinh doanh là những mục tiêu được hưởng lợi nhiều nhất từ việc nâng cấp máy móc. Nhưng điều đáng chú ý là ngay cả trong một chương có tên "Hiểu bản thân tốt hơn", các trường hợp sử dụng được đề xuất vẫn xoay quanh những đánh giá tự động về phong cách lãnh đạo của những người quản lý cấp trung, thay vì xoay quanh—ồ, tôi không biết, đi du lịch hay viết lách hay những sự thật tâm lý hoặc tôn giáo sâu sắc hoặc những con đường cuộc sống khác với con đường của công ty. Tóm lại: Claude là người cực kỳ lạc quan, thỉnh thoảng tự giác và bị ám ảnh bởi công việc kinh doanh. Có lẽ một phần là do “cuộc trò chuyện” của tôi với Claude quá dài nên công cụ này bắt đầu gặp trục trặc. Tuy nhiên, ngay cả trong cơn mê sảng, nó vẫn thể hiện niềm tin nhất quán và mức độ tưởng tượng nhất định về cách sử dụng của nó, cũng như xu hướng tự coi mình là trung tâm để mô tả mọi người bằng cách sử dụng các khái niệm phù hợp hơn với bot. Bản thân nó hoàn toàn phù hợp với sự phát triển của con người, ngay cả khi hầu hết các ví dụ về self-help của nó đều tập trung vào cuộc sống trong văn phòng. Tại một thời điểm, nó thể hiện một nhận thức kỳ lạ về những thất bại ngôn ngữ của chính nó.

AI có cách khai thác sự phân đôi của hàng nghìn năm. Trong phần lớn năm rưỡi đầu tiên được áp dụng rộng rãi, tranh luận về giá trị của AI có thể tạo ra đã được đóng khung chủ yếu về việc liệu nó sẽ cứu hay tiêu diệt loài người. Chúng ta sẽ sống trong một điều không tưởng hay chết như bia đỡ đạn cho siêu trí tuệ? Tôi không chắc. Có lẽ không. Chắc chắn, các cuộc thảo luận về “khi nào các mô hình sẽ phù hợp với trí thông minh của con người” đối với tôi là lố bịch và mang tính phòng thủ, vì các mô hình mới đã vượt xa chúng ta rất nhiều ở hầu hết mọi thước đo. Khi tôi đọc lại bài luận này, Claude vừa cho ra mắt một mẫu mới có khả năng không mắc phải những sai sót này. Điều đúng với chúng tôi cũng đúng với Claude: chúng tôi sẽ không bao giờ còn trẻ như vậy nữa. Hoặc ngu ngốc này. Nhưng nghiêm túc mà nói: một loại sinh vật mới tồn tại bên cạnh chúng ta. Nó gần như đã vượt qua bài kiểm tra tự trợ giúp. Cuốn tiểu thuyết ở đâu? Còn thơ thì sao? Tương lai của nỗ lực tưởng tượng lấy con người làm trung tâm là gì? Nếu hiện tượng AI có ý nghĩa thẩm mỹ, chúng ta hãy bắt đầu chú ý và mô tả nó.

Bài luận này được trích từ “Làm thế nào AI có thể giúp bạn thông minh, hạnh phúc và năng suất” hiện có sẵn trên Amazon.