AI กำลังล้มเหลวในโลกไซเบอร์

ในเดือนตุลาคม พ.ศ. 2565 ฉันได้เผยแพร่บทความที่น่าอับอายที่สุดในอาชีพการงานของฉัน แต่ 2 ปีต่อมา ฉันเริ่มคิดว่าฉันอาจจะคิดถูกก็ได้

ขณะเดินผ่านโถงผู้ขายขนาดใหญ่ที่ BlackHat ในปี 2022 แผงขายของทุกแผงต่างก็อ้างสิทธิ์เกี่ยวกับ AI อย่างกล้าหาญ เช่น “ การวิเคราะห์ที่ขับเคลื่อนด้วย AI” “การผสมผสาน AI กับการตรวจจับแบบเรียลไทม์” หรือคำขวัญอื่นๆ เมื่อใดก็ตามที่คุณพูดคุยกับทีมขายเพื่อถามว่า AI ของพวกเขาทำอะไรกันแน่ คุณจะได้รับศัพท์เฉพาะด้าน AI มากมาย หรือคำอ้างเกี่ยวกับทีมวิจัยลับในห้องนิรภัยใต้ดินในแอนตาร์กติกา

หลังจากนั้น ฉันก็ตีพิมพ์บทความที่วิจารณ์ AI ว่าเป็นเพียงการตลาดไร้สาระอย่างมั่นใจ... “BlackHat 2022 ดีกว่าฉัน” ไม่กี่เดือนต่อมา ChatGPT ก็เปิดตัว ทันใดนั้น AI ก็กลายเป็นของจริง และทันใดนั้น บทความอันยอดเยี่ยมของฉันก็กลายเป็นเรื่องตลกและผิดพลาดอย่างโจ่งแจ้ง

แต่หลังจากที่ได้เดินผ่านโถงผู้ขายของ BlackHat 2024 ในปีนี้ บางทีฉันอาจจะไม่ห่างไกลจากสิ่งนั้นมากนัก

ปฏิเสธไม่ได้ว่า AI มีอยู่จริงและมีศักยภาพมหาศาลที่จะเปลี่ยนแปลงภูมิทัศน์ และในหลายๆ ด้าน AI ก็เปลี่ยนแปลงไปแล้ว ซึ่งเป็นสิ่งที่ฉันไม่เชื่อเมื่อ 2 ปีก่อน แต่เมื่อคุณเดินผ่านห้องโถงที่กว้างขวางของ Mandalay Bay สำหรับงาน BlackHat 2024 คุณยังคงเห็นสโลแกนเดิมๆ และฉันยังไม่พบการนำ AI ไปใช้อย่างมีความหมายในด้านความปลอดภัยที่ฉันสามารถชี้ให้เห็นได้ซึ่งตรงกับคำกล่าวอ้างที่กล้าหาญเหล่านี้

“สิ่งหนึ่งที่ฉันสังเกตเห็น [ใน BlackHat] คือผู้คนเบื่อ AI”

อาชิช ราจัน พอดแคสต์ AI CyberSecurity

เหตุใด AI ถึงไม่สามารถมีประสิทธิภาพในการรักษาความปลอดภัย?

เพื่อป้องกันการคัดค้านของคุณ ฉันทราบดีว่าผู้จำหน่ายระบบรักษาความปลอดภัยกำลังใช้ AI ในผลิตภัณฑ์ของตน แต่จนถึงขณะนี้ยังไม่มีผลลัพธ์ที่เปลี่ยนแปลงเกมใดๆ ที่เราสามารถชี้ให้เห็นได้ และสิ่งนี้ส่วนใหญ่ขึ้นอยู่กับว่าพวกเขานำ AI มาใช้ได้อย่างไร

หลังจากการเปิดตัว ChatGPT และโมเดล AI ที่ตามมา ผู้จำหน่ายจำนวนมากก็รีบเร่งเพิ่มเครื่องมือใหม่เหล่านี้ลงในแพลตฟอร์มของตน การใช้งานหลักๆ คือ "แนวทางการแก้ไขปัญหาที่ขับเคลื่อนด้วย AI" และ "บริบทเพิ่มเติมเกี่ยวกับการแจ้งเตือน"

แต่ความจริงเบื้องหลังเรื่องนี้ก็คือ การนำไปปฏิบัตินั้นส่วนใหญ่แล้วจะช่วยผู้ขาย ไม่ใช่ผู้ใช้ นั่นหมายความว่าพวกเขาไม่จำเป็นต้องเสียเวลาไปกับการจัดทำเอกสารมากนัก ไม่เพียงเท่านั้น ข้อมูลตามบริบทยังล้าสมัยอยู่เสมออย่างน้อย 2 ปีสำหรับโมเดล AI เชิงพาณิชย์ส่วนใหญ่

ความจริงก็คือการนำไปปฏิบัติส่วนใหญ่นั้นเป็นเพียงวิธีการที่จะทำให้คำมั่นสัญญาของผู้ขายเกี่ยวกับผลิตภัณฑ์ที่ขับเคลื่อนด้วย "AI" เป็นจริงเท่านั้น

ปัญหาอีกประการหนึ่งที่จำกัดความสามารถของ AI ในด้านความปลอดภัยคือความสามารถในการฝึกโมเดล AI บนข้อมูลด้านความปลอดภัยที่เฉพาะเจาะจง โมเดลเช่น ChatGPT นั้นยอดเยี่ยมสำหรับการแสดงให้เห็นถึงสิ่งที่โมเดล AI สามารถทำได้ แต่ยังคงห่างไกลจากความน่าเชื่อถือสำหรับกรณีการใช้งานเฉพาะ ดังที่ Dean De Beer กล่าว พอดแคสต์ AI + A16z “ChatGPT เป็นค้อนที่ยอดเยี่ยม [แต่] ฉันไม่แนะนำให้ใช้เมื่อคุณเริ่มผลิตและดำเนินการงานในระดับขนาดใหญ่” การฝึกอบรมโมเดลที่เน้นความปลอดภัยในขณะนี้ต้องการพลังการประมวลผลที่พิเศษ และแม้ว่าบริษัทขนาดเล็กสามารถซื้อ GPU ได้เพียงพอสำหรับการดำเนินการนี้ก็ตาม แต่ต้นทุนก็จะสูงลิ่ว!

“เรายังไม่ถึงจุดที่ AI เป็นมากกว่าฟีเจอร์ด้านผลิตภัณฑ์”

คาเลบ ซีม่า พอดแคสต์ AI CyberSecurity

ซึ่งหมายความว่ามีผู้เล่นรายใหญ่เพียงไม่กี่รายเท่านั้นที่มีความสามารถในการนำฟีเจอร์ AI มาใช้ ซึ่งทำได้มากกว่าการส่งข้อมูลทั่วไปไปยังโมเดลที่ผ่านการฝึกอบรมด้วย AI ทั่วไป ปัจจุบัน AI ยังคงเป็นฟีเจอร์เสริมในเครื่องมือรักษาความปลอดภัยส่วนใหญ่ โดยแทบจะเป็นลูกเล่นที่ทีมการตลาดสามารถนำไปใช้ทั่วโลกได้

คุณจะทำ AI ได้อย่างถูกต้องได้อย่างไร?

แม้จะยังคงมีข้อสงสัยอยู่บ้าง แต่ฉันยอมรับว่ามีการนำ AI มาใช้ในลักษณะที่น่าสนใจอยู่บ้าง เอไอสีม่วง โดย SentinelOne ซึ่งทำการตลาดในฐานะนักวิเคราะห์ความปลอดภัยด้าน AI ถือเป็นสิ่งที่น่าประทับใจเมื่อได้เห็นการใช้งานจริง (อย่างน้อยก็ในการสาธิต)

แล้วเราจะใช้ AI ได้อย่างไร โดยเฉพาะถ้าคุณไม่มีงบประมาณเท่ากับทีม Formula 1?

1. เพิ่มพลังให้มนุษย์ อย่าพยายามแทนที่พวกเขา

   ความจริงง่ายๆ ก็คือ ตอนนี้เราไม่และไม่ควรไว้ใจให้ AI เข้ามาแทนที่มนุษย์ เพราะหากเราไม่ไว้ใจ AI ก็จะตามหลังอยู่เสมอ และความสามารถของมันก็มีจำกัด AI เป็นเครื่องมือที่มีประสิทธิภาพในการช่วยเหลือมนุษย์

2. เน้นไปที่สิ่งที่ AI เก่งอยู่ตอนนี้ นั่นก็คือการจำแนกประเภท

   จุดแข็งเดิมของ AI คือการจำแนกประเภท เราสามารถป้อนบริบทต่างๆ มากมายให้กับ AI เกี่ยวกับช่องโหว่ และสร้างโมเดลเพื่อจำแนกและกำหนดลำดับความสำคัญของช่องโหว่ได้

3. ตรวจสอบให้แน่ใจว่าคุณใช้รุ่นที่ถูกต้อง

   ยิ่งเราให้ความสำคัญกับ AI มากเท่าไหร่ เราก็ยิ่งต้องการโมเดลที่มีความเฉพาะทางเท่าเทียมกันมากขึ้นเท่านั้น การฝึกโมเดลเหล่านี้ด้วยตัวเองอาจเป็นไปไม่ได้สำหรับคนส่วนใหญ่ แต่ก็มีโมเดลมากมายที่ทำงานได้ดีกว่าค้อนมาตรฐาน

คำว่า "A" จะกลายเป็น "I" ในด้านความปลอดภัยได้หรือไม่?

คำว่า "ปัญญาประดิษฐ์" เป็นคำที่มีความหมายชัดเจนและคลุมเครือ ทุกวันนี้ AI เริ่มเข้ามามีบทบาทในชีวิตประจำวันของเรามากขึ้น และเครื่องมือด้านความปลอดภัยก็มีศักยภาพมหาศาลสำหรับ AI ฉันแทบไม่สงสัยเลยว่าการนำ AI มาใช้อย่างสร้างสรรค์และมีประสิทธิภาพจะพร้อมใช้งานในเครื่องมือด้านความปลอดภัยอย่างแน่นอน แต่ตอนนี้เรายังไปไม่ถึงจุดนั้น

ผู้จำหน่ายระบบรักษาความปลอดภัยได้ขยายความสามารถด้าน AI ของตนมาเป็นเวลาหลายปี และเมื่อ ChatGPT ยื่นมือช่วยเหลือ พวกเขาก็พยายามดัดแปลงเครื่องมือให้เข้ากับคำขวัญของตนเอง ความจริงก็คือ การนำไปใช้อย่างมีประสิทธิผลจะแตกต่างไปจากที่เราเคยจินตนาการไว้ในตอนแรก AI จะมีประสิทธิผลเมื่อคำขวัญสอดคล้องกับเครื่องมือ ไม่ใช่ในทางกลับกัน