היי, "אם אתה יכול לחלום על זה, אתה יכול לעשות את זה", נכון? ובכן, סופרים מדע בדיוני וחזונאים מדמיינים את זה במשך עשרות שנים, והנה אנחנו. קצת מבולבלים ילדים, לא באמת בטוחים אם סנטה מולנו הוא אמיתי. Human imagination is a tricky thing. כל יום, אני עובד כדי להבטיח כי רשתות נוירליות לשרת אותנו - במשחקים, בבלוקצ'יין, ומעבר לכך. זה כמעט בלתי אפשרי לומר את הזיופים הללו מלבד הדבר האמיתי. אותם רשתות יכולות לגנוב את הפנים שלך, את הקול שלך, אפילו את המוניטין שלך. Deepfakes הם מאוד אמיתיים, וזה לא "מראה שחורה" פרק. אנחנו יכולים ללכת כל כך רחוק כדי לשחזר ולשכפל אנשים דיגיטליים, בצורה כמעט בלתי ניתנת לזיהוי. Fighting Fire With Fire, Or The Ironic Loop Of AI Realism להילחם באש עם אש, או הליכה האירונית של ריאליזם AI עד שנת 2025, מציאות עמוקה הגיעה לרמה חדשה לגמרי.==מרוץ הנשק בין גנרטורים וזיהוי AI הפך למשבר אמון מפתח, עם כל התקדמות בדור עולה על ההגנה הטובה ביותר שלנו. מודלים מתקדמים של התפשטות וכלים טקסט-אל-וידאו (חשוב Sora קלונים, HeyGen, או D-ID) עכשיו לעשות את זה קל ליצור סרטונים מזויפים מציאותיים מאוד רק מההזמנה.הטכנולוגיה הזאת כבר נכנסת למקומות בלתי צפויים כמו Web3: רמאים השתמשו deepfakes של מייסדי קריפטוגרפיה כדי לדחוף מכירות טוקי מזויפים, ואפילו טריילרים משחקים יכולים להיות מזויפים כדי להפיץ פרויקטים שאינם קיימים. בינתיים, הטכנולוגיה הגדולה מתכווצת כדי להישאר מעודכן. המטרה היא להדביק את התמונות שנוצרו על ידי AI בצורה בלתי נראית, בעוד TruCheck של DeepMind מבטיח בדיקות אמינות בזמן אמת עבור קטעי וידאו. SynthID 2.0 תגיות 2.0 אבל הבעיה היא חזקה: אנו מאמנים את ה- AI כדי לפענח את ה- AI, אבל בזמן שהוא לומד, מודל אחר כבר טוב יותר לשקר. Detection ≠ Solution. We Need Faster Learning זיוף משכנע הוא תערובת מורכבת של גורמים עדינים: תנועות העיניים, ביטויים מיקרו-פנים, טקסטורה של העור, ואפילו חריגות קטנות בין סינכרון שפתיים ואודיו. Deepfake detection isn’t as simple as spotting one obvious glitch. לדוגמה, מעבדת תמונה AI של מטה מותאמת לתמונות, אך עשויה לפספס זיופים וידאו או אודיו שנעשו עם מודלים מתקדמים של הפצה כגון Runway Gen-3 או Sora. הם הראו כיצד כמה מחשבים נכשלים כאשר הרזולוציה או הדחיסה של מזויף משתנים - הסימנים של הסיפור נעלמים.לכן, מומחים רבים טוענים כי זיהוי לא יכול להסתמך רק על "הנחה חזותית". חוקרים ב MIT חוקרים ב MIT אבל אפילו סימני המים האלה יכולים להשתנות או להשתנות.ההתגלה?התגלה deepfakes הוא לא על לתפוס פגם יחיד - זה על לתפוס עשרות רמזים יחד ולהוכיח את האותנטיות לפני זיוף יכול להיות וירוס. No Deepfake Shall Pass. How Companies Keep the Fakes Out כאשר deepfakes יכול להופיע בכל מקום, מ וידאו AMA מזויף למשחקי טריילרים מזויפים, חברות נאלצות לשחק שומרי גוף דיגיטליים 24/7. סטודיו רבים ופרויקטים Web3 עכשיו לסרוק תוכן שנוצר על-ידי משתמשים (UGC) מהשחקנים וההשפעות, בודק פעמיים כל קליפ עבור סימנים של הטרדה מינית. חלקם הולכים רחוק יותר במשחק שערורייה עמוקה, שילוב של detectors AI עם תגי המקור נתמכים על ידי blockchain, כגון C2PA (Coalition for Content Provenance and Authenticity). הסטודיו מאשר כעת הצהרות וידאו רשמיות עבור הודעות גדולות, טריילרים ו- Live AMAs כדי לעצור אסונות PR עמוקים לפני שהם מתרחשים. Verification isn’t just for assets. חברות כמו אודיו, מיקרוסופט וסוני הצטרפו ליוזמה C2PA כדי לדחוף סטנדרטים בכל התעשייה, כדי להבטיח יצרנים ושחקנים יכולים לסמוך כי "התוכן הזה הוא העסקה האמיתית". זאת אומרת, הגנות שכבות הן ההימור הטוב ביותר שלנו נגד סביבה שבה אמון הוא כל הזמן תחת כיבוש. However, it’s not a silver bullet. Watermarks can be removed, and detection can fail. Future-Proofing Our Eyes: Trust, But Verify — Then Verify Again עתיד-מוכיח את העיניים שלנו: אמון, אבל לאמת - ואז לאמת שוב העתיד של deepfakes הוא לא רק על טכנולוגיה טובה יותר, אלא על הגדרת מחדש של אמון עצמו.עד שנת 2026, תוכן שנוצר על ידי AI יהיה מוכן לשלוט על הנוף המקוון והמידע הלא נכון.אנליסטים מ OODA Loop ואחרים צופים כי עד שנת 2026, עד 90% מהתוכן המקוון עשוי להיות שנוצר באופן סינתטי על ידי AI. "ברוב המקרים, מדיה סינתטית נוצרת למשחקים, כדי לשפר את השירותים או לשפר את איכות החיים", נכתב בדו"ח, "אבל עליית מדיה סינתטית וטכנולוגיה משופרת הובילה לאפשרויות של דיספורמציה". על פי דו"ח חדש על פי דו"ח חדש "בבסיס יומי, אנשים סומכים על התפיסה שלהם כדי להדריך אותם ולספר להם מה אמיתי ומה לא", המשיכו החוקרים. כאשר מדיה סינתטית הופכת זולה יותר וקל יותר ליצור, עם מודלים טקסט-אל-וידאו כמו Sora או Runway משפר כל חודש, ההגנה שלנו לא תהיה לאסור זיופים לחלוטין (זה בלתי אפשרי). כמה סטארט-אפים בונים תוספים לדפדפן שמדגימים deepfakes חשודים בזמן אמת.פלטפורמות גדולות עשויות בקרוב לאמץ תגי תוצאת תוכן ברירת המחדל, כך שהמשתמשים יודעים מאיפה כל קליפ בא. עלינו ללמד את הציבור להפסיק ולשאול: כפי שאמר אחד החוקרים, בעידן של אשליות AI, ספק סביר עשוי להיות המגן הגדול ביותר שלנו. “Who made this? How do I know?” “We can’t stop deepfakes. But we can help the world spot them faster than they can be weaponized.” יש הרבה מה לומר בסוף. Deepfakes הם כבר לא מדע בדיוני; הם המציאות של היום. כאשר כלי ייצור AI הופכים לחזקים יותר, האחריות להגן על אמון נופלת על חברות כמו גם על המשתמשים. כן, אלה שבונים רשתות נוירליות אלה חייבים להוביל את הדרך עם אמצעי הגנה חזקים, כלים גלויים של מקור, וסטנדרטים אוניברסליים. אבל גם המשתמשים חייבים להישאר ערניים ולדרוש אחריות. אחרי הכל, אם אתה בונה את העתיד, לוודא שזה אחד שבו האמת עדיין עומדת הזדמנות. 
 
 מקור התמונה מוצג כאן. מקור התמונה מוצג כאן.

2022 - HackerNoon Contributor of the Year - Cryptocurrency

2022 - HackerNoon Contributor of the Year - Digital Transformation

2022 - HackerNoon Contributor of the Year - Jobs

Follow me on Twitter! 

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Digital Transformation

Nominated for 2022 - HackerNoon Contributor of the Year - Cryptocurrency

האודיו הזה מופק בשפת המקור של הסיפור!

Deepfake Detection: רשתות נוירליות נלחמות בעצמם

About Author

הערות

תלו תגים

מאמר זה הוצג ב

Related Stories

The TechBeat: To Focus or Not Focus: How to Find the Right Product-Market Fit (3/10/2024)

100 Days of AI, Day 12: How to Quickly Demo Your Gen AI Experiments to Get Feedback

Fortunate Son From Our Neighborhood

100 Days of AI, Day 13: How Instruction Finetuning Improves a Pre-trained LLM

The TechBeat: To Focus or Not Focus: How to Find the Right Product-Market Fit (3/10/2024)

100 Days of AI, Day 12: How to Quickly Demo Your Gen AI Experiments to Get Feedback

Fortunate Son From Our Neighborhood

100 Days of AI, Day 13: How Instruction Finetuning Improves a Pre-trained LLM

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps