Хиймэл оюун ухааны заль мэх: Хиймэл оюун ухааныг залилан мэхлэх зорилгоор хэрхэн зэвсэглэж байна вэ?

Хүний хийдэг шиг текст, зураг, аудио, тэр байтугай видео зэрэг шинэ контент бүтээхэд ашиглаж болох хиймэл хиймэл оюун ухааны технологи. Энэ технологи нь гайхалтай алдартай бөгөөд өргөн тархсан. Европолоос гаргасан тайланд онлайн контентын 90% нь хэдхэн жилийн дотор хиймэл оюун ухаанаар бий болно гэж таамаглаж байна. Гэсэн хэдий ч Generative AI бол хоёр талдаа иртэй сэлэм юм. Нэг талаас, Generative AI нь янз бүрийн салбарт асар их боломжийг агуулдаг. Энэ нь ухаалаг чатботоор дамжуулан хэрэглэгчийн үйлчилгээг сайжруулж, урлаг, хөгжим үүсгэх замаар бүтээлч үйлдвэрлэлд тусалж, биологийн нарийн төвөгтэй үйл явцыг дуурайж эмнэлгийн судалгаанд ч тусалж чадна. Гэсэн хэдий ч эдгээр инновацийг жолооддог ижил технологийг хорлонтой жүжигчид зэвсэглэж болно. Сүүлийн үед энэ технологийг залилан мэхлэх зорилгоор буруугаар ашиглах явдал ихсэж байна. Үүсгэх загварууд улам боловсронгуй болохын хэрээр муу жүжигчдийн тэдгээрийг хорлон сүйтгэх зорилгоор ашиглах арга нь улам бүр нэмэгдсээр байна. Төрөл бүрийн хиймэл оюун ухааныг урвуулан ашиглаж буй янз бүрийн арга замыг ойлгох нь хүчирхэг хамгаалалтыг хөгжүүлэх, дижитал платформуудын бүрэн бүтэн байдал, найдвартай байдлыг хангахад маш чухал юм. Муу жүжигчдийн энэ технологийг ашиглаж байгаа шинэлэг, ээдрээтэй арга замууд улам бүр боловсронгуй болж байгаа ч бид хохирогчдын өргөнөөр мэдээлж байгаа хиймэл хиймэл оюун ухаанаас үүдэлтэй залилангийн янз бүрийн хэлбэрийг судлах болно. Deepfakes ашиглан сонгуулийн ташаа мэдээлэл Хиймэл хиймэл оюун ухааны хамгийн алдартай хэрэглээ бол хүмүүсийн хэт бодитой хэрнээ хуурамч дүрслэл бүхий гүн хуурамч видеог бүтээх явдал юм. Ялангуяа дайн, сонгууль гэх мэт томоохон үйл явдлуудын хүрээнд олны танил улстөрчдийг онилсон тохиолдолд үр дагавар нь хүнд байх болно. Deepfakes нь нийтийг түгшээж, чухал үйл явдлыг тасалдуулахад хүргэдэг. Тухайлбал, дайны үеэр тархаж байсан бол сонгуулийн өмнөхөн Энэтхэгт Холбооны Дотоод хэргийн сайд Амит Шах кастаас хамаарсан бүх хүслийг цуцална гэж мэдэгдсэнийг харуулсан нь хоёр орны хооронд хурцадмал байдлыг үүсгэсэн. нийгэмлэгүүд. Саяхан Дональд Трампыг баривчилж буй хуурамч зураг X сайтад тарсан (Зураг 1-ийг үз). Украины Ерөнхийлөгч Владимир Зеленский бууж өгсөн тухай гүн хуурамч бичлэг хуурамчаар Санхүүгийн луйвар Нарийвчилсан хиймэл оюун ухаанаар ажилладаг чатботууд нь хүний яриаг гайхалтай нарийвчлалтайгаар дуурайж чаддаг. Луйварчид банкны төлөөлөгчдийн дүрийг бүтээхийн тулд хиймэл оюун ухааны чатбот ашиглан фишинг халдлага үйлддэг. Үйлчлүүлэгчид эдгээр роботуудаас дуудлага, мессеж хүлээн авдаг бөгөөд энэ нь дансны асуудлыг шийдвэрлэх нэрийдлээр нууц мэдээллийг авахыг шаарддаг. Сэжиггүй олон хүмүүс эдгээр луйврын золиос болж, ихээхэн хэмжээний санхүүгийн алдагдалд ордог. Луйварчид хиймэл оюун ухааныг ашиглан залилангийн гүйлгээг зөвшөөрөхийн тулд удирдах албан тушаалтнуудын дуу хоолойны бичлэгийг бий болгодог бөгөөд энэ нь "Гүйцэтгэх захирлын залилан" гэж нэрлэгддэг схем юм. Хонг Конгийн үндэстэн дамнасан фирмийн ажилтныг мэхэлж, гүн хуурамч технологи ашиглан компанийн санхүүгийн албаны ахлах албан тушаалтны дүрийг видео хурлын үеэр хууран мэхэлсэн байна. Эдгээр луйвар нь өндөр албан тушаалтнуудын итгэл, эрх мэдлийг ашиглаж бизнес эрхлэгчдэд ихээхэн хэмжээний санхүүгийн хохирол учруулдаг. хууран Хуурамч мэдээ Хиймэл оюун ухаан нь итгэл үнэмшил төрүүлэхүйц хуурамч мэдээний нийтлэлүүдийг гаргаж чаддаг бөгөөд үүнийг олон нийтийн мэдээллийн хэрэгслээр хурдан түгээх боломжтой. COVID-19 тахлын үеэр олон тооны хуурамч мэдээ нийтлэл, олон нийтийн мэдээллийн хэрэгслээр вирус болон вакцины талаар ташаа мэдээлэл тараасан. Whatsapp болон бусад олон нийтийн мэдээллийн хэрэгслээр Аюурведийн зарим эмчилгээ нь COVID-19-ийг эдгээж чадна гэсэн олон хуурамч мэдээ гарч байсан нь үймээн самуун, өөрийгөө эмчлэх буруу арга барилд хүргэсэн. Generative AI-ийн тусламжтайгаар луйварчид их хэмжээний хуурамч мэдээ үүсгэж, хүмүүсийн дунд үймээн самуун үүсгэхэд маш бага хүчин чармайлт гаргадаг. Жишээлбэл, та бодит хүмүүс, бодит газруудтай хялбархан өөрчилсөн зургуудыг үүсгэж, шуугиантай мэдээ болгож чадна. OpenAI-ийн DALL-E загварыг ашиглан үүсгэсэн газар хөдлөлтөд нэрвэгдсэн Таж Махалын хуурамч зургийг харуулсан нэг жишээ энд байна (Зураг 2). Мумбай дахь Таж зочид буудал шатаж байгааг харуулсан өөр нэг зураг (2008 оны террорист халдлагыг санагдуулам) Зураг 3-т байна. Зөвшөөрөлгүй порнограф, дарамт Кибер гэмт хэрэгтнүүд, түүнчлэн хорлонтой санаатай хүмүүс Generative AI технологийг ашиглан нэр хүндийг нь сүйтгэх, эсвэл онлайн дарамтын уламжлалт хэлбэрийг ашиглан дарамт шахалт үзүүлэх кампанит ажлыг эхлүүлэх боломжтой. Хохирогчид нь хувь хүмүүс эсвэл олон нийтийн зүтгэлтнүүд байж болно. Тактик нь эвдэрсэн нөхцөл байдалд эсвэл заль мэхтэй орчинд хуурамч зураг, хуурамч видео үүсгэх зэрэг байж болно. Жишээлбэл, 2024 оны 1-р сард поп-мега од Т нь олон нийтийн мэдээллийн хэрэгслийн платформ дээр өргөн тархсан. Айлор Свифт хиймэл оюун ухаан ашиглан хийсэн сексийн ил тод, зөвшилцөлгүй гүн хуурамч зургуудын хамгийн сүүлийн үеийн олны анхаарлын төвд байгаа Хуурамч дуу хоолойг ашиглан чиглэсэн залилан Хиймэл хиймэл оюун ухаан нь дуу хоолой, дүр төрхийг хуулбарлаж чаддаг тул хувь хүн бараг юу ч хэлж эсвэл хийж байгаа мэт харагдах боломжийг олгодог. Энэ технологи нь "deepfake" видеотой төстэй боловч дуу хоолойд хамаатай. AI-ээр үүсгэгдсэн дуу хоолойг хууран мэхлэх үйлдлийг сайжруулахад ашиглаж байгаа нь тэднийг илүү үнэмшилтэй болгож байна. Жишээлбэл, хэн нэгэн таны дуу хоолойг интернетээс хасч, эмээ рүүгээ утасдаж, мөнгө гуйхад ашиглаж болно. Аюул заналхийлэгчид олон нийтийн мэдээллийн хэрэгсэл эсвэл бусад аудио эх сурвалжаас хэн нэгний дуу хоолойг хэдхэн секундын турш хялбархан олж авч, хиймэл хиймэл оюун ухаан ашиглан тухайн хүний хэлэхийг хүссэн бүх скриптийг бүтээх боломжтой. Энэ нь зорилтот хүнийг найз нөхөд, хамаатан садныхаа дуудлага гэж итгүүлэх бөгөөд ингэснээр ойр дотны хүн нь хэрэгтэй байна гэж бодоод луйварчин руу мөнгө илгээх болно. Хуурамч мэдээлэл бүхий романтик луйвар Хайр дурлалын луйврын хэргүүд нэмэгдэж байгаа бөгөөд Энэтхэгт энэ нь хүмүүсийн 66 хувь нь хуурамч онлайн болзооны схемд автсан гэсэн гарчээ. Generative AI ашиглан бүрэн хуурамч дүрийг бүтээж болно. Луйварчид паспорт эсвэл аадхар карт гэх мэт зохиомол баримт бичгийг үүсгэж болно. Сайхан байшин, гоёмсог машины урд байгаа хуурамч хүний доор үзүүлсэн зураг шиг тэд өөрсдийнхөө тухай хуурамч дүр төрхийг бий болгож чадна. Тэд хуурамч дуугаар дуудлага хийж, хиймэл оюун ухаан бол жинхэнэ хүн гэдэгт итгүүлж, эцэст нь таны сэтгэл хөдлөлийг чиглүүлж, дараа нь танаас мөнгө эсвэл бэлэг авах боломжтой. Midjourney бот ашиглан бүтээсэн хуурамч хүний хиймэл хиймэл дүрсний жишээг (Зураг 4-т) үзүүлэв. мэдээлэл Онлайн худалдааны луйвар Хуурамч зар сурталчилгаа нь хуурамч зар сурталчилгаа, тэр ч байтугай хуурамч бүтээгдэхүүн, үйлчилгээг бий болгоход хүргэдэг. Энэ нь хэрэглэгчдийг мэдээлэлгүй эсвэл хуурамч худалдан авалт хийхэд хүргэж болзошгүй. GenAI нь цахим худалдааны платформ дээр хуурамч синтетик бүтээгдэхүүний тойм, үнэлгээ, зөвлөмж гаргахад ашиглагдаж болно. Эдгээр хуурамч шүүмжүүд нь чанар муутай бүтээгдэхүүний нэр хүндийг зохиомлоор өсгөх эсвэл жинхэнэ бүтээгдэхүүний нэр хүндэд сөргөөр нөлөөлдөг. Луйварчид GenAI-г ашиглан хуурамч бүтээгдэхүүний жагсаалт эсвэл хууль ёсны мэт харагдах вэб сайт үүсгэх боломжтой бөгөөд энэ нь хэрэглэгчдэд жинхэнэ худалдагч, хуурамч худалдагчийг ялгахад хэцүү болгодог. Чатботууд эсвэл хиймэл оюун ухаанд суурилсан харилцагчийн үйлчилгээний агентуудыг худалдан авагчдад төөрөгдүүлсэн мэдээлэл өгөхөд ашиглаж, мэдээлэл муутай худалдан авалтын шийдвэр гаргахад хүргэж болзошгүй. Тиймээс хуурамч бизнесийн бүхэл бүтэн экосистемийг хялбархан байгуулж болно. Сонор сэрэмжтэй байж, хиймэл оюун ухаанд суурилсан залилангийн гэмт хэргээс өөрийгөө хамгаалаарай Дээрх жишээнүүдээс харахад Generative AI ашиглан аюултай контентыг маш амархан үүсгэж болох нь тодорхой байна. Generative AI нь бүтээмжийн хэрэгсэл болж, агуулгын хэмжээ, боловсронгуй байдлыг нэмэгдүүлдэг. Сонирхогчид тоглоомд илүү амархан орж байгаа бөгөөд санхүүгийн ашиг олохын тулд олон нийтийн мэдээллийн хэрэгслийг ашиглахад чухал алхам болж байна. Нарийвчилсан ташаа мэдээлэл бүтээгчид өөрсдийн агуулгыг өмнө нь хүрч чадаагүй улс орон, хүмүүст хүргэхийн тулд өөр хэл рүү хөрвүүлэхийн тулд хиймэл оюун ухааныг томруулж, ашиглах маш чадвартай. Хүн бүр сонор сэрэмжтэй байж, хиймэл оюун ухаанаар ажилладаг залилангаас өөрсдийгөө хамгаалахын тулд хийж болох зарим алхмууд байдаг. Мэдлэг, сонор сэрэмж нь хиймэл оюун ухаанд суурилсан залилангаас хамгаалах түлхүүр юм. Агуулгын эх сурвалжийг үргэлж шалгаж байгаарай. Технологийн бүх томоохон компаниуд хиймэл оюун ухаанаар үүсгэсэн агуулгыг Watermarking буюу хиймэл оюун ухаанаар үүсгэсэн контентыг хөгжүүлэгчдэд шифрлэх, хиймэл ухаанаас илүү сайн илрүүлж, үнэн бодит байдлыг хангах гол шийдэл болгон ашиглаж байгаа хэдий ч технологийн бус хүмүүс ийм технологийн талаар огт мэддэггүй, мэддэггүй. усан тэмдгийг хэрхэн тодорхойлох эсвэл хиймэл оюун ухаанаар үүсгэсэн контент илрүүлэх хэрэгслийг ашиглах. Гэсэн хэдий ч хүн бүрийн хийж чадах үндсэн зүйл бол сэжигтэй зураг, видео эсвэл дуут мессежийн эх сурвалжийг үргэлж шалгах явдал юм. Хэрэв та дүрслэгдсэн хүнд тохирохгүй мэт видео хүлээн авбал бусад эх сурвалжтай харьцуулан шалгаж, тэр хүнтэй шууд холбоо бариарай. Тухайлбал, улстөрчийг өөгшүүлсэн мэдэгдэл хийж буй гүн хуурамч бичлэгийг албан ёсны сувгаар шалгах ёстой. Хамаатан садан нь хулгайлагдсан эсвэл зовж шаналж буй бичлэгийг тухайн хүн рүү залгаж эсвэл харилцан холболтоор баталгаажуулах ёстой. Үүнтэй адилаар өөрийгөө удирдах албан тушаалтан гэх хүн эсвэл банкны төлөөлөгч нууц мэдээлэл авахыг хүссэн дуут дуудлагыг банкны харилцагчийн үйлчилгээний албан ёсны дугаар гэх мэт мэддэг, найдвартай дугаар руу залгаж баталгаажуулах боломжтой. оюун Хувийн мэдээллийг хуваалцахыг хязгаарлах. Луйварчид итгэл үнэмшилтэй хуурмаг мэдээлэл, дуут мессеж үүсгэхийн тулд олон нийтийн мэдээллийн хэрэгслээр дэлгэрэнгүй мэдээллийг ашигладаг. Өөрийн хаяг, утасны дугаар, санхүүгийн мэдээлэл зэрэг нууц мэдээллийг нийтлэхээс зайлсхий. Нийтлэл болон хувийн мэдээллийнхээ харагдах байдлыг хязгаарлахын тулд нийгмийн сүлжээн дэх нууцлалын тохиргоог тохируулна уу. Зөвхөн итгэмжлэгдсэн найз нөхөд, гэр бүлийнхээ профайл болон нийтлэлийг үзэхийг зөвшөөр. Facebook эсвэл Instagram дээр та зөвхөн найзууддаа л таны нийтлэлийг харах боломжтой байхын тулд нууцлалын тохиргоогоо хянаж, тохируулах боломжтой. Таныг байхгүй үед залилан мэхлэгчид ашиглаж болзошгүй амралтын төлөвлөгөө гэх мэт дэлгэрэнгүй мэдээллийг хуваалцахаас зайлсхий. Хуурамч видео болон дуут дуудлагаар таны гэр бүл, найз нөхөд рүү залилан мэхлэхгүйн тулд профайл болон найзуудынхаа жагсаалтыг нууцал. Онлайнаар авах боломжтой хувийн мэдээллийн хэмжээг хязгаарласнаар луйварчид таны тухай мэдээлэл цуглуулахад хэцүү болгодог. Энэ нь тэд итгэл үнэмшил төрүүлэхүйц гүн хуурамч мэдээлэл үүсгэх эсвэл таны дүрд хувирах магадлалыг бууруулдаг. Бид хиймэл оюун ухаанд суурилсан эриний босгон дээр зогсох тусам инноваци ба мөлжлөгийн хоорондох тэмцэл улам ширүүссээр байна. Хиймэл оюун ухаанд суурилсан залилан мэхлэлтийн өсөлт нь зүгээр нэг сорилт биш, харин үйлдэл хийх уриалга юм. Итгэл төрүүлэхүйц гүн хуурмаг, бодит дуу хоолойны клон, боловсронгуй фишинг схемийг бий болгох чадвартай хиймэл хиймэл оюун ухааны тусламжтайгаар хууран мэхлэх боломж урьд өмнө байгаагүй юм. Гэсэн хэдий ч эдгээр аюул заналхийллийн дунд нэг боломж бий: дижитал аюулгүй байдал, итгэлцэлд хандах хандлагаа дахин тодорхойлох боломж. Мэдэх нь хангалтгүй; Бид илрүүлэлтийн дэвшилтэт систем, олон нийтийн боловсролын кампанит ажлыг хөгжүүлэхийн тулд ижил дэвшилтэт технологийг ашиглан идэвхтэй байх ёстой. AI-ийн ирээдүй урьдчилан тодорхойлогдоогүй байна. Өнөөдөр шийдэмгий арга хэмжээ авснаар бид хиймэл хиймэл оюун ухааны амлалт нь аюулд өртөхгүйгээр биелэх дижитал ландшафтыг бүрдүүлж чадна. Энэ бол бүх хүмүүст илүү аюулгүй дижитал ертөнцийг баталгаажуулах, өсөх, шинийг санаачлах, хамгаалах мөч байх болтугай.