TLDR; Bài viết này khám phá tiềm năng sáng tạo đáng ngạc nhiên của ảo giác AI trong các mô hình tạo ra AI như DALL·E. Trong khi thường được coi là sai sót trong học tập sâu, những "sai lầm" này có thể tạo ra sự rực rỡ nghệ thuật bất ngờ.Bằng cách so sánh trí tưởng tượng của con người với logic dựa trên mô hình của AI, bài viết đặt câu hỏi liệu những sai lầm của AI có thực sự có thể là một loại sáng tạo mới. Những ảo giác Các mô hình AI Học sâu trí tuệ nhân tạo What Does It Mean for AI to “Hallucinate”? Ý nghĩa của “hallucinate” là gì? Thuật ngữ Theo Oxford Advanced Learner’s Dictionary, ảo giác là: Hallucination 
 
 "Thực tế dường như nhìn thấy hoặc nghe thấy ai đó / cái gì đó không thực sự ở đó, đặc biệt là do bệnh tật hoặc ma túy." "Thực tế dường như nhìn thấy hoặc nghe thấy ai đó / cái gì đó không thực sự ở đó, đặc biệt là do bệnh tật hoặc ma túy." Nói cách khác, ảo giác thường liên quan đến nhận thức sai lầm - một cái gì đó để sợ hãi hoặc cố định. Khi một LLM (Mô hình Ngôn ngữ Lớn) như ChatGPT hoặc mô hình AI Lớn như DALL-E được cho là “sự ảo giác”, nó có nghĩa là nó đã sản xuất Các hậu quả của điều này là nghiêm trọng: nó cho thấy chúng ta không bao giờ có thể hoàn toàn tin tưởng vào mô hình. rủi ro tiềm tàng? sự thật gây hiểu lầm, lời khuyên nguy hiểm, hoặc phần mềm bị hỏng. Thông tin sai hoặc gây hiểu lầm Thông tin sai hoặc gây hiểu lầm When Hallucination Goes Too Far Khi ảo giác đi quá xa Hãy bắt đầu với mặt tối. Hãy tưởng tượng bạn đang lên kế hoạch cho một buổi tối lãng mạn ở một thành phố mà bạn chưa bao giờ đến thăm. Bạn yêu cầu ChatGPT giới thiệu một nhà hàng và chọn từ một danh sách đầy hứa hẹn các địa điểm. Nhưng khi bạn đến - tất cả mặc quần áo - bạn phát hiện ra rằng nhà hàng không tồn tại ở vị trí được chỉ định. Hơn nữa, nó không tồn tại ở bất kỳ địa điểm nào. Chắc chắn, nhưng đó là một ví dụ tương đối vô hại. Bây giờ xem xét các kịch bản có hại hơn: 
 
 
 
 
 Thông tin sai lệch y tế dẫn đến chẩn đoán và điều trị không chính xác. Những sai sót lịch sử khiến một học sinh phải trả giá. Lỗi mã phá vỡ toàn bộ hệ thống. Lái xe tự trị bị lỗi do sai lệch giải thích. ảo giác AI không chỉ là tác dụng phụ hư cấu; chúng có thể có . real-world consequences The Pentagon That Wasn’t Lầu Năm Góc đã không Hai năm trước, một tài khoản Twitter đã được xác minh (nay là X) đã đăng một Bức ảnh cho thấy một đám mây khói lấp lánh bên cạnh một tòa nhà có hình dạng như Tweet trở nên phổ biến và kích hoạt phản ứng thị trường nhanh chóng - chỉ số Dow Jones giảm 85 điểm chỉ trong bốn phút. Hình ảnh của một vụ nổ Lầu Năm Góc Đây là hình ảnh - hình ảnh là giả. Đây là hình ảnh - hình ảnh là giả. Hình ảnh có thể được tạo ra bởi AI, và vụ nổ không bao giờ xảy ra. . the financial damage had already been done Không rõ liệu đó là một lời nhắc theo thứ tự của con người đã tạo ra hình ảnh đó hay ảo giác của một mô hình, nhưng kết quả là như nhau. When Bots Make Up Policy Khi các bot tạo ra chính sách Gần đây hơn, Sự phẫn nộ sau đó - người dùng phàn nàn, một số thậm chí đã hủy bỏ đăng ký của họ. Bot hỗ trợ AI của Cursor thông báo cho người dùng rằng công cụ này không còn có thể được sử dụng trên nhiều hơn một máy Chỉ có một vấn đề: . it wasn’t true Giám đốc điều hành của Cursor sau đó làm rõ: “Chúng tôi không có chính sách như vậy. tất nhiên bạn được tự do sử dụng Cursor trên nhiều máy.”Ai là người chịu trách nhiệm, bạn hỏi? “Thật không may, đây là phản ứng không chính xác từ một bot hỗ trợ AI hàng đầu.” Vì vậy, về cơ bản, AI đã phát minh ra một chính sách ngoài không khí mỏng. The Courtroom Catastrophe Thảm họa tòa án Có lẽ ví dụ nổi tiếng nhất: t Mô hình được trích dẫn Các luật sư, không biết, đã nộp chúng cho một thẩm phán liên bang. kết quả? trừng phạt, tiền phạt, và sự xấu hổ của công chúng. luật sư sử dụng ChatGPT để giúp soạn thảo bản tóm tắt pháp lý completely fabricated legal cases Thẩm phán cho biết họ đã "từ bỏ trách nhiệm của họ" và tiếp tục đứng về phía các trích dẫn giả mạo ngay cả sau khi bị thẩm vấn. Can a Hallucination Be… Good? Một ảo giác có thể là... tốt? Những ví dụ này củng cố một kết luận: Mỗi đầu ra phải được kiểm tra hai lần, bất kể nó có vẻ thuyết phục và tự tin như thế nào. AI cannot be trusted blindly Tuy nhiên, bạn có thể tin tưởng con người hoàn toàn không? Tuy nhiên, bạn có thể tin tưởng con người hoàn toàn không? Và nếu chúng ta nhìn vào ảo giác từ một góc độ khác? Đó là khi tôi nhớ lại điều gì đó hấp dẫn.Một trong những bộ óc có tầm nhìn lớn nhất trong lịch sử công nghệ - một người đã giúp định hình thế giới chúng ta đang sống - cũng được biết đến với việc chấp nhận ảo giác. Steve Jobs, người đồng sáng lập Apple, đã công khai ghi nhận các loại thuốc tâm thần như LSD để mở rộng tư duy sáng tạo của mình. Jobs không được thúc đẩy bởi hiệp ước - anh ta được thúc đẩy bởi trí tưởng tượng. Yêu anh ta hoặc ghét anh ta, không ai có thể phủ nhận quy mô tác động của anh ta. anh ta không chỉ xây dựng sản phẩm; anh ta uốn cong thực tế để phù hợp với tầm nhìn của mình. Và nếu nhận thức thay đổi đóng một vai trò trong quá trình đó, chúng ta không nên xem xét lại những gì chúng ta có nghĩa là khi chúng ta nói rằng một ý tưởng - hoặc một hình ảnh - là "được ảo giác"? Jobs, LSD, and Creativity Jobs, LSD và sự sáng tạo Steve Jobs công khai ghi nhận những bước đột phá sáng tạo của mình cho những trải nghiệm tâm thần. trong tiểu sử của Walter Isaacson Hắn nói: Steve Jobs 
 
 LSD cho bạn thấy rằng có một mặt khác của đồng xu, và bạn không thể nhớ nó khi nó bị mòn, nhưng bạn biết điều đó. LSD cho bạn thấy rằng có một mặt khác của đồng xu, và bạn không thể nhớ nó khi nó bị mòn, nhưng bạn biết điều đó. (trang 37 chương: “The Dropout”) Nếu ảo giác có thể giúp con người nhìn thế giới khác nhau, thì ảo giác AI có thể phục vụ cùng một mục đích không? When Hallucination Becomes a Creative Compass Khi ảo giác trở thành một cái nón sáng tạo Có thể ảo giác, khi được đặt trong bối cảnh đúng đắn, không chỉ là một khuyết điểm? Trong các lĩnh vực mà độ chính xác là thứ cấp của tầm nhìn, chẳng hạn như nghệ thuật, kể chuyện hoặc thiết kế, có lẽ chúng ta không nhìn vào một lỗi, mà là một tính năng bất ngờ. tưởng tượng Tôi đã khám phá làm thế nào những ảo giác của DALL-E biến những bản phác thảo thô của trẻ em thành những minh họa sống động, đầy đủ. AI lấp đầy những khoảng trống không phải bằng sự thật, mà bằng tính cách - giải thích thay vì sao chép. Trong bài viết trước của tôi Nhưng chúng ta có thể đi xa hơn không? Nhưng chúng ta có thể đi xa hơn không? Là một nghệ sĩ, tôi biết trọng lượng của một khối sáng tạo. Nó lặn lặng lẽ, sau đó ở lại lâu hơn nó nên. Bạn càng cố gắng ép buộc sự độc đáo, ý tưởng của bạn càng xoay trở lại cùng một mô hình quen thuộc - an toàn, có thể dự đoán và không có cảm hứng. Bạn cuộn Pinterest trong nhiều giờ, săn lùng một tia lửa, nhưng tâm trí của bạn chỉ tiếp tục quay trở lại những thứ đã được nhìn thấy. Điều gì sẽ xảy ra nếu AI tạo ra không chỉ là một công cụ, mà là một loại Không phải để thay thế trí tưởng tượng của con người, mà để làm cho nó lỏng lẻo.Để gợi ý những con đường chúng ta sẽ không bao giờ đi một mình.Có lẽ, trong khoảng cách giữa độ chính xác và sai lầm, chúng ta tìm thấy một cái gì đó tốt hơn: Y học sáng tạo surprise. Logic Is Your Enemy Logic là kẻ thù của bạn Tâm trí chúng ta được cắm cho . Khi chúng ta nhìn thấy một lâu đài, chúng ta tưởng tượng một nàng công chúa. Một con chó? Có lẽ đuổi theo một quả bóng. Một đứa trẻ? Bắt một con gấu. Coherence Nhận dạng mô hình tự động này cực kỳ hữu ích cho cuộc sống hàng ngày - nó giúp chúng ta điều hướng thế giới một cách nhanh chóng và hiệu quả. trong bộ não của chúng ta. hộp mà tiềm năng sáng tạo của chúng ta. boxes limit The Categorisation Trap: Your Brain Loves a Story Bẫy phân loại: Bộ não của bạn yêu một câu chuyện Chúng ta hãy nhìn vào các thẻ sau: Bây giờ hãy tưởng tượng tôi đã yêu cầu bạn nhóm chúng thành 3 danh mục bằng nhau.Hầu hết tâm trí sẽ ngay lập tức thấy điều này: 
 
 
 
 Một bầu trời đêm với mặt trăng, một đám mây và một ngôi sao Một cảnh tiệc trà với một chiếc bàn, một miếng bánh, và có thể là một chậu trà Một khu rừng với một con ếch, một cái cây và một cái nấm Bạn có thể thêm sự thay đổi - có lẽ con ếch của bạn đang nhai nấm, hoặc có lẽ nếu bạn sáng tạo hơn người bình thường, nó đang ngồi bên cạnh một ngọn lửa trại, nướng nó trên một cây gậy. Context đóng chúng ta vào một khung. we still stick to the script Và khi mọi người làm việc từ cùng một khung ... sự độc đáo chết một chút. Breaking the Context (on purpose) Breaking the context (về mục đích) Bây giờ chúng ta hãy phá vỡ nó. Chúng ta hãy lắc đầu với những gì mong đợi và ném bản năng logic của chúng ta ra ngoài cửa sổ. Hình ảnh nhóm này thay vào đó: Hãy thách thức logic vì sự sáng tạo không giới hạn. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Đúng vậy, bộ não của bạn chỉ dừng lại, phải không? Bạn có thể không thể tạo ra một hình ảnh. hoặc nếu bạn đã làm, nó cảm thấy không phù hợp, vô lý, thậm chí không thoải mái. Nhưng đoán xem cái gì không chiến đấu? AI sinh sản tất nhiên. Thay vào đó, hãy giới thiệu nhóm sau: Và bây giờ, hãy tận hưởng trí tưởng tượng không giới hạn của DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Bắt đầu ăn mừng sinh nhật với một chiếc bánh nấm Tree Drinking Tea inside a Cloud Cây uống trà bên trong đám mây Fox and Moon Tea Party Tiện ích của Fox and Moon Tea Party Free from Human Logic Tự do khỏi logic của con người DALL-E có thể dễ dàng pha trộn các khái niệm không bao giờ xảy ra cùng lúc trong thế giới thực (cảm giác ảo giác). Tại sao lại có sự khác biệt như vậy giữa tâm trí chúng ta và suy nghĩ của Ngài? Con người có xu hướng lý trí dựa trên Khi được yêu cầu tưởng tượng một cảnh liên quan đến một mặt trăng, một con ếch và một chiếc bàn, bộ não của chúng ta theo bản năng cố gắng Tâm trí của chúng ta tìm kiếm logic, ngữ cảnh, hoặc ẩn dụ, và khi chúng ta không thể tìm thấy một, chúng ta thường dừng lại hoặc bỏ cuộc. Không phải ngẫu nhiên. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, mặt khác, không dựa vào trí nhớ cá nhân hoặc logic tuyến tính. , phơi bày nó để Nhiều người trong số họ là bất thường hoặc thậm chí siêu thực. Vì vậy, khi bạn nhắc nhở nó với các yếu tố không liên quan như một mặt trăng, một con ếch và một chiếc bàn, nó không ngần ngại hoặc đặt câu hỏi liệu kết nối có "có ý nghĩa hay không". Làm thế nào các đối tượng này xuất hiện Ngay cả khi gián tiếp. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts Nói cách khác: 
 
 
 Con người cần sự nhất quán. Dall-E chỉ cần sự tương quan. Và đó là sức mạnh của nó: bằng cách tự do khỏi nhu cầu của con người về logic hoặc sự nhất quán bên trong, DALL-E có thể Tất cả mọi thứ mà không cần đoán thứ hai. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Muse của con người Chúng ta đã được dạy để sợ ảo giác - đúng như vậy trong nhiều lĩnh vực. Trong y học, luật pháp, lịch sử và các hệ thống an toàn quan trọng, AI phải được giữ ở một tiêu chuẩn cao hơn của sự thật. Chính “sự thiếu sót” làm cho AI không đáng tin cậy như một nguồn thực tế có thể là những gì làm cho nó mạnh mẽ như một Sự ảo giác, trong tay phải, trở thành một cái gì đó hoàn toàn khác: . creative companion a spark Khi DALL-E “lầm hiểu” một con ếch, một mặt trăng và một cái bàn, nó không thất bại - nó Nó mời gọi chúng ta giải phóng sự nắm bắt của chúng ta về logic, để xem điều gì xảy ra khi chúng ta buông bỏ câu chuyện và nắm lấy khả năng. dares Hiện tượng này có thể chữa khỏi sự tắc nghẽn của một nghệ sĩ bằng cách giúp tâm trí chúng ta giải phóng bối cảnh và logic, nó có thể thúc đẩy sự sáng tạo và thổi lên những ý tưởng có thể vượt ra ngoài tầm nắm bắt của chúng ta. Vì vậy, có lẽ câu hỏi thực sự không phải là “Chúng ta có thể ngăn chặn AI bị ảo giác không?” 
 
 Có lẽ đó là: Chúng ta có thể xây dựng gì khi chúng ta để nó mơ? Có thể là: What can we build when we let it dream? Về tôi Về tôi Tôi là Maria Piterberg - một chuyên gia AI dẫn dắt nhóm phần mềm Runtime tại Habana Labs (Intel) và một nghệ sĩ bán chuyên nghiệp làm việc trên các phương tiện truyền thống và kỹ thuật số. tôi chuyên về các hệ thống đào tạo AI quy mô lớn, bao gồm thư viện truyền thông (HCCL) và tối ưu hóa thời gian chạy.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

Chào mừng bạn đến với Bảo tàng ảo giác AI

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

189 Stories To Learn About Reading Books

72 Stories To Learn About The Essays Of Adam Smith

309 Stories To Learn About Smart Contracts

145 Stories To Learn About Book

189 Stories To Learn About Reading Books

72 Stories To Learn About The Essays Of Adam Smith

309 Stories To Learn About Smart Contracts

145 Stories To Learn About Book

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps