การปฏิเสธหลักการ "นวัตกรรมต่อความปลอดภัย" ในกฎระเบียบ AI

ในช่วงทศวรรษที่ผ่านมาหรือกว่านั้นความเร็วที่รุนแรงของการพัฒนา AI ไม่มีข้อสงสัยที่รับประกันความเป็นอยู่ของล้านคนและด้วยความพยายามเล็กน้อยที่จะยังคงอยู่บนเส้นทางดังกล่าวเทคโนโลยีจะยังคงอยู่ในรูปแบบนี้เป็นเวลาหลายทศวรรษต่อไป อย่างไรก็ตามในความคิดของฉันการกระทําล่าสุดที่ดําเนินการโดย บริษัท AI หลายคนเช่นเดียวกับรัฐบาลของนักพัฒนา AI หลายคนชั้นนํารวมกันก่อให้เกิดการยกเว้นจากเส้นทางเพื่อประโยชน์ของมนุษย์ อย่างไรก็ตามด้วยการวิจัยใหม่ ๆ บางอย่างแสดงให้เห็นถึงอันตรายที่เป็นไปได้ของ AI chatbots เราจําเป็นต้องเริ่มพิจารณาความเป็นไปได้ของการควบคุมเพื่อ จํากัด ขอบเขตของความพร้อมใช้งานของพวกเขา แรงบันดาลใจจากผลกระทบของฟังก์ชั่น Grok Companions บทความนี้พูดถึงความจําเป็นในการควบคุมของรัฐบาลปฏิเสธความคิดผิดปกติที่พบบ่อยที่ใช้ในการปกป้องการกระจายทางพาณิชย์ของ chatbots AI อื่น ๆ และนําเสนอวิธีที่กฎหมายในอนาคตอาจควบคุมหรือห้ามการละเมิดความปลอดภัยภายในรูปแบบ chatbot ปัจจุบัน ปัญหาของ Grok Grok ได้รักษาตําแหน่งเป็นหนึ่งในรุ่นอัจฉริยะเชิงพาณิชย์ที่มีความขัดแย้งมากที่สุดตั้งแต่ก่อตั้งของมันเป็นครั้งคราวกลายเป็นจุดมุ่งหมายที่เป็นสัญลักษณ์สําหรับปัญหาการควบคุมขององค์กรเกี่ยวกับรูปแบบอัจฉริยะอัจฉริยะในความพยายามที่ไม่ประสบความสําเร็จของ Elon Musk เพื่อใช้มันเป็นเครื่องมือในการส่งเสริมโปรแกรมโปรของขวาเกี่ยวกับ X อย่างไรก็ตามเมื่อเร็ว ๆ นี้ Grok ย้ายฟังก์ชั่น Companions ใหม่ซึ่งดึงดูดความขัดแย้งมากขึ้น ในพื้นผิวฟังก์ชั่น Companions เป็นชุดของ chatbots ที่จําไว้ว่าบริการ chatbot ก่อนหน้านี้เช่นบริการที่นําเสนอโดย Meta AI และ แต่ก็เอาชนะทั้งหมดเหล่านี้ในลักษณะที่แปลกประหลาด สองเพื่อนร่วมงานครั้งแรกรวมถึง Rudi, เป้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห้าห ตัวละคร.AI ตัวละคร.AI สัญญาสื่อไม่น่าแปลกใจที่มุ่งเน้นส่วนใหญ่ของความสนใจของพวกเขาไปที่ Ani รายงานออนไลน์ต่างๆยืนยันคุณสมบัติโรแมนติกตามธรรมชาติของ chatbot กับนักวิจารณ์หลายคนให้ความสนใจโดยเฉพาะอย่างยิ่งใน 'ระดับความรัก' ผู้ใช้อาจรายงานเพื่อปลดล็อคการสนทนาทางเพศมากขึ้นพร้อมกับการเปลี่ยนแปลงที่มาพร้อมกับ avatar WIRED นักวิจารณ์ยังสังเกตเห็นความพร้อมของรุ่น AI เพื่อพูดอย่างเปิดเผยเกี่ยวกับหัวข้อ BDSM เช่นเดียวกับสไตล์การพูดที่ยึดติดและตัวกรองเด็กที่ไม่สอดคล้องกัน เนื่องจากฉันไม่มีความยินดีที่จะซื้อสมาชิก SuperGrok 30 ดอลลาร์ต่อเดือนเพื่อเข้าถึงฟังก์ชั่น Companions ฉันไม่สามารถยืนยันอย่างอิสระบางส่วนของข้อเรียกร้องเกี่ยวกับ chatbot; ในทางกลับกันอินเทอร์เน็ตดูเหมือนจะเห็นด้วยกันในสิ่งหนึ่ง: chatbot เฉพาะนี้กล้าหาญมากเกินไป Rudi สําหรับวิธีการที่สงสัยดูเหมือนจะดึงดูดการโต้ตอบน้อยลงมาก การ์ตูน Red Panda มีแนวโน้มที่จะหลอกลวงการประหลาดใจและตลกที่หลายคนพบว่าไม่สนุกและตลก นักวิจารณ์หลายคนมีแนวโน้มที่จะยกเลิกตัวละครนี้แทนที่จะยกเลิกเป็นหนึ่งที่สําคัญน้อยกว่าส่วนใหญ่ให้บริการกับเด็ก Gen-Z เพื่อบอกความจริงฉันพบว่าตัวละครทั้งสอง chatbot น่าเบื่อมาก ในทางกลับกันสิ่งที่ฉันสนใจคือกระบวนการที่แตกต่างกันและการรับประทานของ chatbot โรแมนติกครั้งแรก Companions เป็นหนึ่งในผลิตภัณฑ์ที่เปิดตัวโดย "ผู้นําอุตสาหกรรม" ของ AI (เช่น OpenAI, DeepMind, Anthropic, Meta) chatbot เป็นครั้งแรกที่ออกแบบมาเป็นพิเศษเพื่อมีส่วนร่วมในการเล่นบทบาทโรแมนติกแม้จะมีความกังวลทางจริยธรรมที่พบบ่อยจากการเรียกร้องผลทางจิตวิทยาในระยะยาวจนถึงการใช้ประโยชน์จากประชากรที่อ่อนแอ ความไม่สม่ําเสมอที่โดดเด่นของกฎระเบียบรอบ ๆ chatbots เช่นเหล่านี้โดดเด่นกับฉันทันทีนอกเหนือจากความจริงที่ว่านอกเหนือจากการตอบสนองต่อเสียงที่แตกต่างกันเพียงไม่กี่คน xAI สามารถปล่อยผลิตภัณฑ์ได้โดยไม่มีการลงโทษ ทั้งหมดนี้แสดงให้เห็นถึงคําถามที่สําคัญเกี่ยวกับการควบคุมเทคโนโลยี: เทคโนโลยีใหม่ควรได้รับการดูแลอย่างใกล้ชิดเพื่อปกป้องผู้ใช้หรือให้ความสามารถในการเติบโตและพัฒนา ความรับผิดชอบและนวัตกรรม เช่นเดียวกับเทคโนโลยีใหม่ ๆ ทั้งหมดผลทางจิตวิทยาของการใช้ AI chatbot บนมนุษย์ไม่ได้รับการพิสูจน์ทางวิทยาศาสตร์และไม่ได้รับการพิสูจน์ทางประสบการณ์ หลายคนได้คาดเดามานานแล้วว่าเทคโนโลยีดังกล่าวอาจทําให้ปัญหาที่มีอยู่รุนแรงขึ้นและรายงานครั้งแรก ความสัมพันธ์เชิงลบระหว่างความสุขและการใช้ chatbot ค้นหา ค้นหา แม้จะมีการพิจารณาว่าเทคโนโลยีเหล่านี้เป็นอันตรายหรือไม่นักวิจารณ์ด้านเทคโนโลยีและผู้มีนโยบายจะลืมจุดสําคัญที่ว่าการพิจารณาดังกล่าวควรไม่เคยเป็นความกังวลที่จําเป็นในสถานที่แรกในด้านเทคโนโลยีเชิงพาณิชย์ ผู้โดยสารของเครื่องบินจะไม่ยินดีที่จะรู้ว่าเครื่องบินของพวกเขา ประสบการณ์ความล้มเหลว อาจ เช่นเดียวกับผู้เข้าร่วมการทดลองทางคลินิกจะไม่ดีที่จะรู้ว่าสัตว์จํานวนมากไม่ได้ก่อนพวกเขาในกระบวนการทดสอบ หนึ่งในหลักการที่สําคัญที่สุดของวิศวกรรมคือว่าไม่คํานึงถึงอะไรความปลอดภัยมักจะมาก่อน เพื่อให้ได้ความคิดเกี่ยวกับอันตรายที่เป็นไปได้ของ chatbots เหล่านี้ในกรณีใด ๆ เราเพียงแค่ต้องดูตัวอย่างของวัยรุ่นสองคนที่มีการฆ่าตัวตายที่เชื่อมโยงกับ AI เป็นผู้ร่วมงานในความคิดการฆ่าตัวตายของพวกเขา ผู้สนับสนุนหลายคนของทฤษฎีปัจจุบัน“ พัฒนาตอนนี้แก้ไขในภายหลัง” แสดงให้เห็นถึงสิ่งที่ชัดเจน: เราถูกปิดผนึกในการแข่งขันนวัตกรรมกับประเทศจีน คําตอบของฉันต่อเรื่องนี้เป็นหนึ่งในข้อตกลงที่สมบูรณ์: เรา ในความเป็นจริง, ล็อคอยู่ใน AI “การแข่งอาวุธ” และผลิตภัณฑ์ของเวลาของเราอาจจะปรับตัวเข้ากับอาวุธของสงครามไซเบอร์รวมถึงสิ่งอื่น ๆ อีกมากมาย แม้จะมีสิ่งเหล่านี้ฉันอ้างว่าความจําเป็นในการนวัตกรรมไม่ได้เป็นกรณีที่จะลืมความปลอดภัย – เราไม่เคยสามารถคาดหวังว่าความก้าวหน้าทางเทคโนโลยีอย่างรวดเร็วจะยกเว้นกันกับความปลอดภัยของผู้บริโภค ฉันคาดหวังและปฏิเสธข้อพิพากษาที่โดดเด่นสองประการนี้: เป็น “ความปลอดภัยและการปรับปรุงผลิตภัณฑ์เกิดขึ้นเป็นผลมาจากข้อบกพร่องและข้อบกพร่องที่พบภายในการใช้งานที่แพร่หลาย” “ความปลอดภัยและการปรับปรุงผลิตภัณฑ์เกิดขึ้นเป็นผลมาจากข้อบกพร่องและข้อบกพร่องที่พบภายในการใช้งานที่แพร่หลาย” มีหลายวิธีในการทดสอบความน่าเชื่อถือและความปลอดภัยของผลิตภัณฑ์ภายในการตั้งค่าการทดสอบเบต้า ในขณะที่การทดสอบเหล่านี้ไม่มีข้อสงสัยว่ามีการดําเนินการ (โดยเฉพาะอย่างยิ่ง OpenAI จะเปิดตัวรุ่นใหม่ให้กับผู้ใช้ Pro ก่อนที่ผู้ใช้ประเภทอื่น ๆ) มันไม่น่าแปลกใจที่จะบอกว่าการกระจายตัวจํานวนมากของ chatbots ที่มีอยู่ในเชิงพาณิชย์จะดําเนินการในลักษณะที่ไม่ให้ความสนใจกับความปลอดภัยของผู้ใช้กับรูปแบบ ChatGPT จํานวนมาก แม้ว่าการใช้งานเชิงพาณิชย์เป็นสิ่งจําเป็นเพื่อค้นหาปัญหาเหล่านี้ แต่ก็สมเหตุสมผลมากขึ้นหากมีการป้องกันที่เพียงพอเพื่อให้มั่นใจถึงความปลอดภัยของกลุ่มผู้ใช้ที่อ่อนแอซึ่งในปัจจุบันไม่ได้เป็นกรณี ความล้มเหลว ความล้มเหลว “การใช้งานที่แพร่กระจายอย่างสม่ําเสมอของโมเดลใหม่นําไปสู่การแชทที่เร่งการฝึกอบรมของโมเดลใหม่ขึ้นอย่างมากซึ่งแตกต่างจากผลิตภัณฑ์แบบดั้งเดิมที่ไม่ใช่ AI ซึ่งไม่มีผลิตภัณฑ์ใด ๆ ที่ได้รับประโยชน์อย่างสม่ําเสมอจากกลุ่มความคิดเห็นของผู้ใช้ที่ใหญ่ขึ้น” “การใช้งานที่แพร่กระจายอย่างสม่ําเสมอของโมเดลใหม่นําไปสู่การแชทที่เร่งการฝึกอบรมของโมเดลใหม่ขึ้นอย่างมากซึ่งแตกต่างจากผลิตภัณฑ์แบบดั้งเดิมที่ไม่ใช่ AI ซึ่งไม่มีผลิตภัณฑ์ใด ๆ ที่ได้รับประโยชน์อย่างสม่ําเสมอจากกลุ่มความคิดเห็นของผู้ใช้ที่ใหญ่ขึ้น” แชท transkripts มักจะไม่ได้ประมวลผลเป็นส่วนหนึ่งของกระบวนการ RLHF ที่ใช้โดย บริษัท เช่น OpenAI และ Google ในขณะที่พวกเขาอาจแจ้งให้ทราบรูปแบบความปลอดภัยและการมีส่วนร่วมของ chatbots ที่สอดคล้องกันท่อข้อมูลแยกต่างหากส่วนใหญ่ที่มีคุณภาพสูงข้อมูลทางเทคนิคที่สร้างขึ้นหรือตรวจสอบโดยมนุษย์มีอิทธิพลต่อแง่มุมของการฝึกอบรม AI ที่เกี่ยวข้องมากที่สุดในการพัฒนาประสิทธิภาพการพิจารณาและชนิดอื่น ๆ ของความรู้พิเศษ (เช่นการเข้ารหัสการแก้ปัญหาทางคณิตศาสตร์ ฯลฯ ) ดังนั้นจึงมีกรณีเล็กน้อยที่จะเรียกร้องว่าการแพร่กระจายอย่างแพร่หลายของ AI chatbots เหล่านี้เป็นเงื่อนไขก่อนที่จะพัฒนาความสามารถของ AI ได้อย่างรวดเร็ว ฉันหวังว่าฉันได้แสดงให้เห็นว่าความจําเป็นในการนวัตกรรมไม่ได้เป็นสาเหตุหลักของข้อบกพร่องด้านความปลอดภัยเหล่านี้ แต่การขาดความพยายามร่วมกันเกี่ยวกับโปรโตคอลด้านความปลอดภัยและการทดสอบคือ อย่างไรก็ตามการกระทําในทางปฏิบัติเพื่อแก้ไขคุณภาพที่คงทนนี้ยังคงเป็นเรื่องของการโต้ตอบ บทบาทของการควบคุม การแก้ปัญหาที่ชัดเจนสําหรับข้อบกพร่องของมาตรฐานความปลอดภัยที่กล่าวถึงข้างต้นคือการเพิ่มการควบคุมของรัฐบาลเกี่ยวกับการฝึกอบรมและการกระจาย chatbots สิ่งที่ไม่ชัดเจนอย่างไรก็ตามคือวิธีการที่ข้อเสนอที่ค่อนข้างสงสัยนี้จะทําในทางปฏิบัติ ในช่วงต้นศตวรรษที่ 20 สหรัฐอเมริกาได้เรียนรู้ผ่านการห้ามบทเรียนที่สําคัญว่าการห้ามอย่างเข้มงวดและครอบคลุมผลิตภัณฑ์ที่เป็นอันตรายไม่ได้ทํางาน แทนที่จะห้ามแอลกอฮอล์โดยไม่ต้องขจัดสาระสําคัญของความต้องการของมันเพียงแค่นําไปสู่การหักตลาดสีดําเพิ่มขึ้นแทนที่จะลดการบริโภคแอลกอฮอล์ทั้งหมด ในตอนท้ายของศตวรรษที่ 20 เพื่อต่อสู้กับการบริโภคมวลของบุหรี่รัฐบาลสหรัฐอเมริกาใช้วิธีการที่แตกต่างกัน: แทนที่จะห้ามการใช้บุหรี่โดยตรงพวกเขาลดความต้องการทางสังคมของผลิตภัณฑ์บุหรี่โดยการเผยแพร่รายงานที่แพร่กระจายอย่างแพร่หลายรายละเอียดเกี่ยวกับวิธีการที่พวกเขาอาจทําให้เกิดโรคมะเร็งผิวหนัง บริษัท บุหรี่ต้องวางการยกเลิกที่เห็นได้ชัดในแต่ละผลิตภัณฑ์และ จํากัด ความแพร่กระจายของโฆษณาบุหรี่ การกระทําที่ละเอียดอ่อนเหล่านี้นําไปสู่การเปลี่ยนแปลงอย่างต่อเนื่อง การบริโภคบุหรี่จากเกือบ 4000 ถึงประมาณ 800 บุหรี่ต่อคนต่อปี การลดลง การลดลง เพื่อเอาออกจากประวัติศาสตร์การควบคุมของรัฐบาลเกี่ยวกับ chatbots ไม่ปลอดภัยควรเกินอุปสรรคทางกฎหมายของการบริโภคและการพัฒนา พวกเขายังควรพยายามลดความสามารถทางสังคมที่รับรู้ได้ของการบริโภคผลิตภัณฑ์เหล่านี้ได้ทั้งผ่านแคมเปญหรือการวิจัยสาธารณะ แม้จะมีสิ่งนี้ก็ยังคงไม่ชัดเจนถึงระดับที่รัฐบาลสามารถมีอิทธิพลต่อการเปลี่ยนแปลงทางสังคมที่กว้างขวางยิ่งขึ้นด้วยความเห็นของประชาชนในปัจจุบันที่มุ่งเน้นไปที่แนวโน้มของโซเชียลมีเดียไวรัสในระดับใหญ่กว่าการเปลี่ยนแปลงทางเศรษฐกิจทางการเมือง โดยรวมแล้วไม่มีข้อเสียต่อกฎระเบียบเกี่ยวกับ chatbots AI ที่ถูกตั้งขึ้นอย่างรวดเร็ว แต่ได้รับการสร้างอย่างดีในโลกปัจจุบัน เขียนโดย Thomas Yin