ทําไม AI ฟิสิกส์ต้องเป็นซูเปอร์มนุษย์

แฮกเกอร์ บทความนี้เป็นบทที่สองในชุดสองส่วนเกี่ยวกับความเป็นจริงทางวิศวกรรมของ Physical AI ใน ชื่อของ , ฉันพูดคุยเกี่ยวกับวิธีที่โลกทางกายภาพที่โกลเด้นอัตราการล้มเหลวสูงและช่องว่าง Sim-to-Real ทําให้การใช้ AI ในตัวเป็นปัญหาที่ยากกว่าการสร้างข้อความภาพหรือวิดีโอผ่าน chatbot AI Part 1 The Next Great Engineering Frontier: ความซับซ้อนที่ซ่อนอยู่ของ AI ฟิสิกส์ The Next Great Engineering Frontier: ความซับซ้อนที่ซ่อนอยู่ของ AI ฟิสิกส์ อย่างไรก็ตามการครอบงําทางกายภาพเป็นเพียงครึ่งหนึ่งของการต่อสู้ การต่อสู้อื่นและมีแนวโน้มที่จะยิ่งใหญ่ขึ้นคือการกําหนดใหม่ความปลอดภัยที่ยอมรับได้ของระบบสุดท้ายเอง ในขณะที่วิศวกรใช้ระบบเหล่านี้อุตสาหกรรมจะถามคําถามที่สําคัญ: หลักเกณฑ์การยอมรับคืออะไรเพื่อให้หุ่นยนต์ได้รับการพิจารณาว่ามีความปลอดภัยเพียงพอ What is the acceptance criterion for a robot to be deemed safe enough? แคมป์หนึ่งเชื่อว่าเป้าหมายคือ ประสิทธิภาพ หากหุ่นยนต์สามารถขับรถเช่นเดียวกับคนขับรถแท็กซี่ที่ได้รับใบอนุญาตหรือถ้าหุ่นยนต์สามารถพับซักผ้าได้เร็วเท่าวัยรุ่นแล้วผลิตภัณฑ์นี้พร้อมแล้ว มันรู้สึกเหมือนจุดมุ่งหมายที่เห็นได้ชัดและสมเหตุสมผลสําหรับเรามนุษย์ Human-Level อย่างไรก็ตามฉันอยู่ที่นี่เพื่ออ้างว่าความเชื่อนี้เป็นข้อผิดพลาด วัตถุประสงค์ในการดําเนินงานของมนุษย์คือการมุ่งเน้นไปที่ความสม่ําเสมอ เราเป็นมนุษย์กลายเป็นเหนื่อย เรามีจุดตาบอดในใจกลางของตาข่ายของเราเช่นเดียวกับหลังศีรษะของเรา เราปล่อยให้อารมณ์มีอิทธิพลต่อการตัดสินใจของเราและถูก จํากัด โดยความสามารถในการควบคุมมอเตอร์ทางกายภาพของเรา หากวิศวกรออกแบบหุ่นยนต์เพื่อดูเหมือนมนุษย์และตอบสนองเหมือนมนุษย์พวกเขาได้สร้างผลิตภัณฑ์ที่ไม่สมบูรณ์และไม่ปลอดภัย ในบทความนี้ฉันจะอธิบายว่าทําไมการอนุญาตให้ AI ฟิสิกส์เพื่อให้บรรลุประสิทธิภาพที่เทียบเท่ากับมนุษย์เป็นสถานะล้มเหลว ฉันจะทําลายการคําอธิบายทางคณิตศาสตร์ว่าทําไมคุณไม่สามารถยืนยันสถิติของหุ่นยนต์เมื่อเทียบกับมาตรฐานของมนุษย์และทําไมอนาคตของความปลอดภัยขึ้นอยู่กับ . superhuman machines ทําไมต้องฟังฉัน หากคุณกําลังอ่านบทความของฉันเป็นครั้งแรกนี่คือการแนะนําสั้น ๆ ของฉัน ฉันเป็น และฉันช่วยสร้างระบบที่สําคัญด้านความปลอดภัยเพื่อให้มีชีวิตอยู่ ขณะนี้ฉันเป็นวิศวกรระบบตรวจจับระดับสูงที่ Waymo งานของฉันในระบบอัตโนมัติครอบคลุมกลุ่มโครงการพิเศษที่แอปเปิ้ลรถบรรทุกอัตโนมัติที่ Intuition แอปพลิเคชันและเทคโนโลยีที่ช่วยให้ผู้ขับรถที่ฟอร์ด Nishant Bhanot, ฉันได้เห็นการตรวจสอบความปลอดภัยจากมุมมองทุกมุม ซึ่งรวมถึงทุกอย่างตั้งแต่คุณสมบัติการสนับสนุนทางหลวงที่ใช้ในรถยนต์ผู้บริโภคในวันนี้ถึงรถแท็กซี่หุ่นยนต์ที่เป็นอิสระที่นําทางสภาพแวดล้อมในเมืองที่ซับซ้อน ฉันได้เรียนรู้อย่างหนักว่าดีพอในห้องปฏิบัติการบางครั้งก็ไม่ดีพอสําหรับโลกจริง ข้อ จํากัด ของฮาร์ดแวร์ชีวภาพ มุมและมือของมนุษย์เป็นสิ่งมหัศจรรย์ของวิศวกรรมทางวิวัฒนาการ พวกเขามีประสิทธิภาพด้านพลังงานและสามารถปรับตัวได้เพื่อตอบสนองความคิดทั่วไป อย่างไรก็ตามวิวัฒนาการทางชีวภาพได้เพิ่มประสิทธิภาพให้เราอยู่รอดไม่ใช่เพื่อความปลอดภัยทางวินิจฉัยความเร็วสูง เมื่อเราใช้ข้อ จํากัด ชีววิทยาเหล่านี้กับหุ่นยนต์ที่ทันสมัยเราตีขีด จํากัด ความสามารถของมนุษย์พื้นฐาน 1. Field of View คนพึ่งพึ่งพึ่งพึ่งพึ่งพยาน นี่บางครั้งยังเรียกว่า เราเห็นรายละเอียดความละเอียดสูงเพียงในขนาดเล็ก รั้วกลางและสมองเต็มที่ในส่วนที่เหลือด้วยการประเมินและหน่วยความจํา นอกจากนี้เรายังมีจุดตาที่ประสาทตาเชื่อมต่อกับตาข่าย เราต้องถูกรวมอย่างต่อเนื่องเพื่อติดตามสถานการณ์แบบไดนามิกในขณะที่เรากําลังเลื่อนดวงตาของเรารอบ ๆ เพื่อจับภาพที่สอดคล้องกัน tunnel vision 2 to 5 degrees อย่างไรก็ตามชุดเซนเซอร์หุ่นยนต์ไม่ได้มีข้อ จํากัด นี้ พิจารณาหน่วย LiDAR แบบดั้งเดิมหมุนที่ 10 Hz มันจับภาพ จุดคลาวด์ของโลกที่มีความแม่นยําในระดับเซนติเมตร มันทําเช่นนี้ในทุกทิศทางในเวลาเดียวกัน ชุดของกล้องหลายกล้องไม่สั่น พวกเขาไม่สูญเสียความตระหนักภายนอกเพียงเพราะพวกเขาจะมุ่งเน้นไปที่วัตถุเฉพาะ 360-degree 2. Latency เมื่อคนขับรถเห็นแสงเบรคเปลี่ยนเป็นสีแดงเกิดปฏิกิริยาโซ่ทางชีวภาพที่ซับซ้อน เริ่มต้นด้วยฟอโตนจากแสงจราจรที่ตีตาข่าย สัญญาณจะเดินทางลงไปยังระบบประสาทสายตา สมองประมวลผลภาพและเปลือกหน้าตัดสินใจที่จะกระทํา สัญญาณจะเดินทางลงจากกระดูกสันหลังไปยังกล้ามเนื้อขา เพียงครั้งเดียวแล้วเท้าจะเคลื่อนไหวเพื่อกดเบรค การศึกษาด้านความปลอดภัยในการจราจรเช่นการศึกษาจากสมาคมเจ้าหน้าที่ทางหลวงและขนส่งของสหรัฐอเมริกา (AASHTO) โดยปกติจะประเมินเวลาการรับรู้และปฏิกิริยานี้ สําหรับเหตุการณ์ที่ไม่คาดคิด ที่ความเร็วทางหลวงทั่วไปรถสามารถเดินทางประมาณครึ่งความยาวของสนามฟุตบอลในเวลานั้นก่อนที่จะเริ่มชะลอลง แม้ในสถานการณ์ที่ดีที่สุดเวลาการตอบสนองของมนุษย์ที่ระมัดระวังอย่างเต็มที่ไม่ค่อยลดลงต่ํากว่า 600 มิลลิวินาที 1 to 1.5 seconds วงจรควบคุมหุ่นยนต์ที่ใช้ซิลิคอนไม่ทํางานด้วยข้อ จํากัด เท่านั้น กรอบกล้องสามารถจับภาพประมวลผลโดยเครือข่ายประสาทและแปลงเป็นคําสั่งเบรคภายใต้ นี่คืออย่างน้อยสองครั้งดีกว่ามาตรฐานประสิทธิภาพที่ดีที่สุดของมนุษย์ 300 milliseconds 3. Precision ความแตกต่างนี้ใช้กับการผ่าตัดเช่นกัน ในขณะที่มือมนุษย์มีความสามารถในการทักษะที่น่าทึ่งก็ถูก จํากัด โดย แม้กระทั่งนักผ่าตัดที่มั่นคงที่สุดก็มีการสั่นสะเทือนทางจุลทรรศน์เนื่องจากความเหนื่อยล้าเกิดขึ้นหลังจากยืนอยู่บนโต๊ะผ่าตัดเป็นเวลาหลายชั่วโมง ความแม่นยําจะลดลงตามธรรมชาติ physiological tremor หุ่นยนต์ผ่าตัดไม่เหนื่อย มันสามารถปรับขนาดการเคลื่อนไหวลงเพื่อให้การเคลื่อนไหว 5 ซม. โดยนักผ่าตัดแปลเป็นการเคลื่อนไหว sub-millimeter ของศีรษะ The Bottom Line เส้นด้านล่าง เมื่อเราพูดว่าเราต้องการความปลอดภัยในระดับมนุษย์เรายอมรับข้อ จํากัด เหล่านี้ทางชีวภาพ เรายอมรับว่าจุดตาบอดออปติคัลความล่าช้าสูงและความแม่นยําที่ จํากัด ในทางชีวภาพเป็นมาตรฐานที่ต้องตอบสนอง เราไม่ควรเข้ารหัสข้อ จํากัด เหล่านี้ในเครื่องจักรของเรา เราควรวิศวกรผ่านพวกเขา ความท้าทายของการยืนยันสถิติ มีความแตกต่างพื้นฐานระหว่าง Generative AI และ Physical AI หาก chatbot แฮลูซีเนตมันจะเขียนบทกวีที่ไม่ดี หากหุ่นยนต์ทางกายภาพแฮลูซีเนตมันสามารถทําให้เกิดความเสียหายทางกายภาพ หุ่นยนต์มนุษย์สามารถขนส่งภาระหนักในคลังสินค้า นอกจากนี้ยังสามารถจัดการเครื่องมืออุตสาหกรรมที่คมชัดหรือชิ้นส่วนร้อนได้ เช่นเดียวกับยานพาหนะที่เป็นอิสระมีประสิทธิภาพเป็นระเบิดหลายตันที่เคลื่อนย้ายที่ความเร็วทางหลวง สุดท้ายหุ่นยนต์ส่งสินค้ากระจกไปยังสวนหลังในบริเวณที่อยู่อาศัย การล้มเหลวในโดเมนดังกล่าวมีผลทางกายภาพทันที ดังนั้นแถบการยืนยันต้องสูงอย่างไม่น่าเชื่อ เพื่อยืนยันระบบที่สําคัญด้านความปลอดภัยเรามักจะมองหาเมตริกเช่น เราทดสอบระบบจนกว่าเราจะมีข้อมูลเพียงพอเพื่อพิสูจน์สถิติว่ามันตอบสนองเป้าหมายความปลอดภัยของเรา Mean Time Between Failures (MTBF) ที่น่าสนใจคือแม้จะมีข้อ จํากัด ของเราทางชีวภาพมนุษย์จริง ๆ มีความปลอดภัยมาก ตามข้อมูลของ NHTSA ผู้ขับรถมนุษย์ในสหรัฐอเมริกาได้รับความเสียหายประมาณหนึ่งครั้งทุก 100 ล้านกิโลเมตร ซึ่งสร้างตัวแทนที่ใหญ่สําหรับการเปรียบเทียบสถิติใด ๆ หากเป้าหมายของเราคือการตอบสนองความปลอดภัยในระดับมนุษย์เราจะบังคับให้ตัวเองอยู่ในภาวะแทรกแซงทางสถิติ เพื่อพิสูจน์ทางวิทยาศาสตร์ว่าระบบอัจฉริยะทางกายภาพที่มีความสามารถในระดับมนุษย์จะปลอดภัยกว่ามนุษย์เพียง 20% คุณต้องมีขนาดตัวอย่างขนาดใหญ่พอที่จะสร้างความสําคัญทางสถิติ ซึ่งอาจหมายความว่ามีล้านชั่วโมงในคลังสินค้าหรือพันล้านกิโลเมตรในทางหลวง หากเรามุ่งมั่นที่จะปรับปรุงขั้นต่ํากว่ามาตรฐานของมนุษย์โดยใช้อัจฉริยะระดับความสามารถของมนุษย์การยืนยันจะใช้เวลามากมาก อย่างไรก็ตามกลยุทธ์การยืนยันจะเปลี่ยนแปลงหากเรามุ่งมั่นที่จะ ความสามารถในการใช้ระบบที่มีความปลอดภัยมากกว่ามนุษย์ เราสามารถพิสูจน์ให้เห็นว่าประเภทของอุบัติเหตุที่เฉพาะเจาะจง เนื่องจากการออกแบบที่เหนือกว่าของระบบ Superhuman ไม่น่าจะเป็นมาก วิศวกรรมซูเปอร์มนุษย์ คําถามที่ซับซ้อนคือ หากเราไม่สามารถยืนยันความปลอดภัยโดยการบังคับใช้มิลลิเมตรหรือชั่วโมงอย่างบริสุทธิ์เราจะบรรลุอย่างไร ฉันเชื่อว่าคําตอบอยู่ใน . Architectural Superiority ผู้ขับขี่มนุษย์ขึ้นอยู่เกือบทั้งหมดกับสเปกตรัมแสงที่มองเห็นได้ (ดวงตาของพวกเขา) มืดหลอกลวงความมืดหรือองค์ประกอบทั่วไปอื่น ๆ ของโลกจริงสามารถมืดพวกเขาบางส่วนหรือทั้งหมดในขณะนี้ อย่างไรก็ตามระบบอัจฉริยะทางกายภาพ AI ที่สร้างขึ้นด้วย นี่หมายความว่าระบบสามารถใช้ประเภททางกายภาพที่แตกต่างกันเพื่อตรวจสอบความเป็นจริงเดียวกัน orthogonal redundancy 1. Seeing the Invisible ในสถานการณ์ที่มีเมฆที่รุนแรงหรือแสงแดดที่หยาบคายตาของมนุษย์ถูกทําลายเนื่องจากแสงที่มองเห็นกระจายหรือชุบสังกะสี AI จิตวิทยาทางกายภาพที่เปิดใช้งานได้ ด้วยกล้องมีข้อบกพร่องนี้ อย่างไรก็ตามสถาปัตยกรรมที่รวมเซ็นเซอร์ต่อไปนี้ทํางานได้ดีขึ้น เฉพาะ Lidar ดําเนินการเป็นแหล่งแสงที่ใช้งาน มันออกอากาศเลเซอร์ของตัวเองเพื่อวัดระยะทางที่แน่นอนด้วยความแม่นยําในระดับฟอโตน มันสร้างแผนที่ 3D ที่แม่นยําของโลกไม่ว่ามันเป็นกลางวันสูงหรือกลางคืนที่ไม่มีดวงจันทร์ เรดาร์ทํางานในสเปกตรัมวิทยุ มันลืมความชื้นอย่างสมบูรณ์ตรวจจับผ่านเมฆและฝนเพื่อติดตามตําแหน่งและความเร็วของวัตถุที่เคลื่อนไหวด้วยความแม่นยํา Doppler โดยการรวมอินพุตเหล่านี้ระบบจะสร้างรูปแบบโลกที่แข็งแกร่งกับเงื่อนไขเดียวกันที่ผู้ประกอบการทางชีวภาพตาบอด กล่าวอีกนัยหนึ่งสถาปัตยกรรมช่วยให้สามารถเข้าถึงข้อมูลในสเปกตรัมที่มนุษย์ไม่สามารถรับรู้ได้ 2. Kinematic Degree of Freedom ข้อได้เปรียบนี้ขยายไปถึงรูปร่างทางกายภาพของหุ่นยนต์เอง คนถูก จํากัด โดยกลไกของกระดูกของรูปร่างลูมิเนียม ก้นของเราโค้งเพียงหนึ่งทิศทางและเข็มขัดและคอของเรามีช่วงการหมุนที่ จํากัด หากมนุษย์ต้องการถอนจากภัยคุกคามในขณะที่ขนส่งภาระพวกเขาต้องเดินกลับอย่างหยาบคายเสี่ยงการเดินทางหรือการขัดขวาง อย่างไรก็ตาม humanoid สามารถออกแบบด้วยข้อต่อที่สามารถ มันสามารถตรวจสอบอันตรายที่อยู่เบื้องหลังโดยไม่ต้องหมุนกระดูกสันหลังและสามารถเดินกลับด้วยเสถียรภาพและความปลอดภัยเดียวกันในขณะที่เดินไปข้างหน้า 360-degree rotation เส้นด้านล่าง ความปลอดภัยมาจากการสร้างระบบซูเปอร์มนุษย์ที่มีการเข้าถึงข้อมูลพื้นฐานความจริงและความสามารถทางกายภาพที่เกินขอบเขตพื้นฐานของมนุษย์ มาตรฐานการยอมรับทางสังคม มีเหตุผลสุดท้ายหนึ่งที่ทําไมการมุ่งเน้นไปที่ประสิทธิภาพระดับมนุษย์เป็นข้อผิดพลาดเชิงกลยุทธ์ สังคมตัดสินเครื่องจักรตามมาตรฐานที่แตกต่างจากที่มันตัดสินมนุษย์ หากคนขับขี่ได้รับ distracted และจบรถเราเรียกมันเป็นอุบัติเหตุ อย่างไรก็ตามถ้าหุ่นยนต์ทําความผิดพลาดเดียวกันก็ถูกฉลากว่าเป็นความล้มเหลวระบบ คนถูกตัดสินตามธรรมชาติของพวกเขา เมื่อ เราให้มันเป็น เมื่อ a เราสังเกตเห็นว่ามันเป็นสิ่งที่สามารถป้องกันได้ . human fails fatigue or distraction machine fails error in logic เนื่องจากเกณฑ์การยอมรับของสังคมนี้ AI แบบกายภาพไม่สามารถปลอดภัยเท่ากับมนุษย์ได้ เพื่อชนะความไว้วางใจของประชาชนหุ่นยนต์ต้องแสดงให้เห็นถึงระดับความสามารถที่สูงขึ้นซึ่งทําให้ความผิดพลาดเช่นมนุษย์เป็นไปไม่ได้ ข้อสรุป เราอยู่บนขอบเขตของการใช้งานหุ่นยนต์ที่ใหญ่ที่สุดในประวัติศาสตร์ ในขณะที่เราย้ายจาก chatbots ไปยังหุ่นยนต์ทางกายภาพเราต้องปล่อยให้จุดประสงค์ระดับมนุษย์อยู่เบื้องหลัง แต่น่าเสียดายที่วิวัฒนาการทางชีวภาพไม่ได้เพิ่มประสิทธิภาพให้เราเพื่อความปลอดภัยที่กําหนด เราทุกข์ทรมานจากความล่าช้าสูงมีข้อ จํากัด ของการมองเห็น tunnel และมีแนวโน้มที่จะเหนื่อยล้าหรือ distraction เพื่อสรุป: สถิติกําหนดว่าเราไม่สามารถยืนยันความปลอดภัยในระดับมนุษย์ภายในระยะเวลาที่เหมาะสม สถาปัตยกรรมช่วยให้เราเห็นสิ่งที่มองไม่เห็นและเคลื่อนย้ายในทางที่ชีววิทยาไม่สามารถ สังคมต้องการระดับประสิทธิภาพจากเครื่องจักรที่มันไม่เคยต้องการจากมนุษย์ ฉันเชื่อว่าวัตถุประสงค์ของ AI ฟิสิกส์ไม่ใช่การทําซ้ําผู้ประกอบการมนุษย์ แต่วัตถุประสงค์คือการสร้างประเภทผู้ประกอบการใหม่ ผู้ประกอบการที่ไม่ได้รับความกังวลหรือกลัวกลัว ผู้ประกอบการที่เห็นผ่านเมฆและเคลื่อนย้าย scalpel ด้วยความแม่นยําใต้มิลลิเมตร อนาคตของความปลอดภัยทางกายภาพ AI คือ ความสามารถ superhuman