TLDR; Artikel ini mengeksplorasi potensi kreatif yang mengejutkan dari halusinasi AI dalam model AI generatif seperti DALL·E. Sementara biasanya dilihat sebagai cacat dalam pembelajaran mendalam, "kesalahan" ini dapat menghasilkan kecemerlangan artistik yang tidak terduga.Dengan membandingkan imajinasi manusia dengan logika berbasis pola AI, bagian ini mempertanyakan apakah kebohongan AI sebenarnya bisa menjadi jenis kreativitas baru. Halusinasi yang Model Generasi AI Belajar yang mendalam Kecerdasan Buatan What Does It Mean for AI to “Hallucinate”? Apa yang dimaksud dengan “halusinasi”? Istilah Menurut Oxford Advanced Learner’s Dictionary, halusinasi adalah: Halusinasi 
 
 “Fakta tampaknya melihat atau mendengar seseorang / sesuatu yang tidak benar-benar ada di sana, terutama karena penyakit atau obat-obatan.” “Fakta tampaknya melihat atau mendengar seseorang / sesuatu yang tidak benar-benar ada di sana, terutama karena penyakit atau obat-obatan.” Dengan kata lain, halusinasi biasanya dikaitkan dengan persepsi palsu - sesuatu yang harus ditakuti atau diperbaiki. Ketika sebuah LLM (Large Language Model) seperti ChatGPT atau model AI generatif seperti DALL-E dikatakan untuk “halusinasi,” itu berarti telah menghasilkan Implikasi dari ini adalah serius: itu menunjukkan kita tidak pernah dapat sepenuhnya mempercayai model. risiko potensial? fakta yang menyesatkan, saran berbahaya, atau perangkat lunak yang rusak. Informasi palsu atau menyesatkan Informasi palsu atau menyesatkan When Hallucination Goes Too Far Ketika Halusinasi Terlalu Jauh Mari kita mulai dengan sisi gelap. Bayangkan Anda merencanakan malam romantis di kota yang belum pernah Anda kunjungi. Anda meminta ChatGPT untuk merekomendasikan restoran dan memilih dari daftar tempat yang menjanjikan. Tapi ketika Anda tiba - semua berpakaian - Anda menemukan bahwa restoran tidak ada di lokasi yang ditentukan. Tentu saja. tetapi ini adalah contoh yang relatif tidak berbahaya. Sekarang pertimbangkan skenario yang lebih merugikan: 
 
 
 
 
 Misinformasi medis menyebabkan diagnosis dan perawatan yang salah. Ketidaktepatan historis yang menghabiskan siswa dengan gelar mereka. Kesalahan kode yang menghancurkan seluruh sistem. Kegagalan mengemudi otonom karena interpretasi yang salah. Halusinasi AI bukan hanya efek samping fiktif; mereka dapat memiliki . real-world consequences The Pentagon That Wasn’t Pentagon yang tidak Dua tahun yang lalu, akun Twitter yang terverifikasi (sekarang X) memposting sebuah Foto itu menunjukkan awan asap bergelombang di sebelah sebuah bangunan berbentuk seperti Tweet itu menjadi viral dan memicu reaksi pasar yang cepat - Dow Jones turun 85 poin hanya dalam empat menit. Gambar dari Ledakan Pentagon yang Berikut ini adalah gambar - gambar itu palsu. Berikut ini adalah gambar - gambar itu palsu. Gambar itu mungkin dihasilkan oleh AI, dan ledakan itu tidak pernah terjadi. . the financial damage had already been done Tidak jelas apakah itu adalah petunjuk yang diatur oleh manusia yang menciptakan gambar itu atau halusinasi dari sebuah model, tetapi dengan cara apa pun hasilnya sama. When Bots Make Up Policy Ketika Bot Membuat Kebijakan Lebih baru-baru ini, Mengejutkan - pengguna mengeluh, beberapa bahkan membatalkan langganan mereka. Bot dukungan AI Cursor memberi tahu pengguna bahwa alat ini tidak lagi dapat digunakan pada lebih dari satu mesin Hanya ada satu masalah: . it wasn’t true CEO Cursor kemudian menjelaskan: “Kami tidak memiliki kebijakan seperti itu. Anda tentu saja bebas untuk menggunakan Cursor pada beberapa mesin.”Siapa yang bertanggung jawab, Anda bertanya? “Sayangnya, ini adalah tanggapan yang salah dari bot dukungan A.I. front-line.” Jadi pada dasarnya, AI telah menemukan kebijakan dari udara tipis. The Courtroom Catastrophe bencana pengadilan Contoh yang paling umum adalah : t Model yang disebutkan Para pengacara, tanpa menyadarinya, menyerahkan mereka ke hakim federal. hasilnya? sanksi, denda, dan rasa malu publik. pengacara menggunakan ChatGPT untuk membantu merumuskan brief hukum completely fabricated legal cases Hakim mengatakan mereka telah “meninggalkan tanggung jawab mereka” dan terus berdiri dengan kutipan palsu bahkan setelah ditanya. Can a Hallucination Be… Good? Apakah halusinasi bisa... baik? Contoh-contoh ini memperkuat satu kesimpulan: Setiap output harus diperiksa dua kali, tidak peduli seberapa meyakinkan dan percaya diri itu terdengar. AI cannot be trusted blindly Namun, apakah kita bisa sepenuhnya mempercayai manusia? Namun, apakah kita bisa sepenuhnya mempercayai manusia? Bagaimana jika kita melihat halusinasi dari sudut lain? Salah satu pikiran paling visioner dalam sejarah teknologi - seseorang yang secara harfiah membantu membentuk dunia di mana kita hidup - juga dikenal karena merangkul halusinasi. Steve Jobs, co-founder Apple yang ikonik, secara terbuka mengakui obat-obatan psikedelik seperti LSD untuk memperluas pemikiran kreatifnya. Jobs tidak didorong oleh konvensi - dia didorong oleh imajinasi. mencintainya atau membencinya, tidak ada yang bisa menyangkal skala dampaknya. dia tidak hanya membangun produk; dia membungkuk realitas untuk sesuai dengan visi-nya. dan jika persepsi yang diubah memainkan peran dalam proses itu, bukankah kita harus mempertimbangkan kembali apa yang kita maksudkan ketika kita mengatakan sebuah ide - atau gambar - "dihalusinasi"? Jobs, LSD, and Creativity Pekerjaan, LSD dan Kreativitas Steve Jobs secara terbuka menganggap penemuan kreatifnya sebagai pengalaman psikedelik. dalam biografi Walter Isaacson Dia berkata : Steve Jobs yang 
 
 “Mengambil LSD adalah pengalaman yang mendalam, salah satu hal yang paling penting dalam hidup saya. LSD menunjukkan kepada Anda bahwa ada sisi lain dari koin, dan Anda tidak dapat mengingatnya ketika itu rusak, tetapi Anda tahu itu. “Mengambil LSD adalah pengalaman yang mendalam, salah satu hal yang paling penting dalam hidup saya. LSD menunjukkan kepada Anda bahwa ada sisi lain dari koin, dan Anda tidak dapat mengingatnya ketika itu rusak, tetapi Anda tahu itu. (bagian ke-37 dari “The Dropout”) Jika halusinasi dapat membantu manusia melihat dunia dengan cara yang berbeda, apakah halusinasi AI dapat melayani tujuan yang sama? When Hallucination Becomes a Creative Compass Ketika Halusinasi Menjadi Kompas Kreatif Dapatkah halusinasi, ketika ditempatkan dalam konteks yang tepat, lebih dari sekedar cacat? Di daerah di mana presisi sekunder untuk visi, seperti seni, ceritanya, atau desain, mungkin kita tidak melihat bug, tetapi fitur yang tidak terduga. imajinasi , Saya mengeksplorasi bagaimana halusinasi DALL-E yang disebut mengubah sketsa anak-anak yang kasar menjadi ilustrasi yang dinamis dan lengkap. AI mengisi kekosongan tidak dengan fakta, tetapi dengan kecerdasan - menafsirkan daripada mereplikasi. Dalam artikel saya sebelumnya Tapi bisakah kita pergi lebih jauh? Tapi bisakah kita pergi lebih jauh? Sebagai seorang seniman, saya tahu beratnya blok kreatif. itu tersungkur diam-diam, kemudian bertahan lebih lama dari seharusnya. Semakin Anda mencoba untuk memaksa keaslian, semakin ide-ide Anda mengalir kembali ke pola yang sama yang akrab - aman, dapat diprediksi, dan tidak terinspirasi. Anda memutar Pinterest selama berjam-jam, berburu kilat, tetapi pikiran Anda hanya terus berputar kembali ke hal-hal yang sudah terlihat. Bagaimana jika AI generatif bukan hanya alat, tetapi semacam Tidak untuk menggantikan imajinasi manusia, tetapi untuk mengguncangnya. untuk menyarankan jalan kita tidak akan pernah berjalan sendiri. Mungkin, di ruang antara presisi dan kesalahan, kita menemukan sesuatu yang lebih baik: Pengobatan Kreatif surprise. Logic Is Your Enemy Logika adalah musuh Anda Pikiran kita tertutup untuk . Ketika kita melihat sebuah istana, kita membayangkan seorang putri. seekor anjing? mungkin mengejar bola. seorang anak kecil? memeluk beruang teddy. koherensi Pengenalan pola otomatis ini sangat membantu dalam kehidupan sehari-hari - itu membantu kita menavigasi dunia dengan cepat dan efisien. dalam otak kita. kotak-kotak yang potensi kreatif kita. boxes limit The Categorisation Trap: Your Brain Loves a Story The Categorization Trap: Otak Anda Menyukai Cerita Mari kita lihat kartu berikut ini: Sekarang bayangkan saya meminta Anda untuk mengumpulkan mereka ke dalam 3 kategori yang sama. kebanyakan pikiran akan segera melihat ini: 
 
 
 
 Sebuah langit malam dengan bulan, awan, dan bintang Sebuah adegan pesta teh dengan meja, potongan kue, dan mungkin pot teh Hutan dengan serigala, pohon, dan jamur Anda mungkin menambahkan variasi - mungkin rusa Anda sedang menghisap jamur, atau mungkin jika Anda lebih kreatif daripada orang rata-rata, itu duduk di samping api, menggorengnya pada tongkat. Konteks menutup kita dalam sebuah kerangka. we still stick to the script Dan ketika semua orang bekerja dari kerangka kerja yang sama ... keunikan mati sedikit. Breaking the Context (on purpose) Memecah konteks (dengan tujuan) Sekarang mari kita putus. Mari kita membuang apa yang diharapkan dan membuang naluri logis kita dari jendela. Gunakan gambar ini sebagai gantinya: Mari kita menantang logika demi kreativitas yang tak terbatas. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Ya, otak Anda baru saja berhenti, bukan? Anda mungkin tidak bisa membuat visual. atau jika Anda melakukannya, itu terasa tidak terhubung, absurd, bahkan tidak nyaman. Tapi tebak apa yang tidak berjuang? generatif AI tentu saja. Mari kita perkenalkan kelompok berikut: Dan sekarang, mari kita nikmati imajinasi tak terbatas dari DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Mulai merayakan ulang tahun dengan kue jamur Tree Drinking Tea inside a Cloud Pohon minum teh di dalam awan Fox and Moon Tea Party Fox dan Moon Tea Party Free from Human Logic Bebas dari Logika Manusia DALL-E dengan mudah dapat menggabungkan konsep yang tidak pernah terjadi bersama di dunia nyata (halusinasi). Mengapa ada perbedaan antara pikiran kita dan pemikiran-Nya? Manusia cenderung berpikir berdasarkan Ketika diminta untuk membayangkan adegan yang melibatkan bulan, katak, dan meja, otak kita secara naluri mencoba untuk Pikiran kita mencari logika, konteks, atau metafora, dan ketika kita tidak dapat menemukannya, kita sering berhenti atau menyerah. Bukan dengan random. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, di sisi lain, tidak bergantung pada memori pribadi atau logika linear. Untuk mengeksposnya ke Banyak dari mereka tidak biasa atau bahkan surreal. jadi ketika Anda memintanya dengan elemen yang tidak terkait seperti bulan, katak, dan meja, itu tidak ragu atau mempertanyakan apakah koneksi “merasa masuk akal.” Bagaimana benda-benda tersebut muncul Bahkan jika secara tidak langsung. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts Dengan kata lain: 
 
 
 Manusia membutuhkan koherensi. Dall-E hanya membutuhkan korelasi. Dan di situlah kekuatannya: dengan bebas dari kebutuhan manusia untuk logika atau konsistensi internal, DALL-E dapat Semuanya tanpa menebak sendiri. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Muzium Manusia Kita telah diajarkan untuk takut halusinasi - dengan benar begitu di banyak bidang. dalam kedokteran, hukum, sejarah, dan sistem keamanan kritis, AI harus dipegang pada standar yang lebih tinggi dari kebenaran. tetapi dalam seni, desain, dan imajinasi? aturan berbeda. “Kegagalan” yang membuat AI tidak dapat diandalkan sebagai sumber fakta mungkin yang membuatnya begitu kuat sebagai sumber informasi. Halusinasi, di tangan kanan, menjadi sesuatu yang sama sekali berbeda: . creative companion a spark Ketika DALL-E “mengerti salah” seekor rusa, bulan, dan meja, itu tidak gagal - itu Ini mengundang kita untuk melepaskan pegangan kita pada logika, untuk melihat apa yang terjadi ketika kita melepaskan narasi dan merangkul kemungkinan. dares Fenomena ini dapat menyembuhkan blokade seorang seniman dengan membantu pikiran kita melonggarkan konteks dan logika, itu dapat meningkatkan kreativitas dan memicu ide-ide yang bisa melampaui pemahaman kita. Jadi mungkin pertanyaan sebenarnya bukan “Bisakah kita menghentikan AI dari halusinasi?” 
 
 Mungkin itu: Apa yang bisa kita bangun ketika kita membiarkannya bermimpi? Mungkin itu : What can we build when we let it dream? tentang saya tentang saya Saya adalah Maria Piterberg - seorang ahli AI yang memimpin tim perangkat lunak Runtime di Habana Labs (Intel) dan seorang seniman semi-profesional yang bekerja di media tradisional dan digital. saya mengkhususkan diri dalam sistem pelatihan AI skala besar, termasuk perpustakaan komunikasi (HCCL) dan optimasi runtime.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Audio ini diproduksi dalam bahasa asli cerita!

Selamat datang di Museum Halusinasi AI

About Author

KOMENTAR

HANG TAG

ARTIKEL INI DISAJIKAN PADA

Related Stories

Why do you need JWT in your ASP.NET Core project?

How to Fetch Large Data Files Through GitHub API

NIGHT (continued)

THE DAWN COMES, AND MY UNCLE APPEARS IN A NEW SILK HAT

Why do you need JWT in your ASP.NET Core project?

How to Fetch Large Data Files Through GitHub API

NIGHT (continued)

THE DAWN COMES, AND MY UNCLE APPEARS IN A NEW SILK HAT

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps