Hey de hackers! Dit artikel is het tweede in een reeks van twee delen over de technische realiteit van fysieke AI. in De titel Ik besprak hoe de chaotische fysieke wereld, de hoge mislukkingspercentages en de Sim-to-Real gap het gebruik van geïncarneerde AI in robotica een moeilijker probleem maken dan het genereren van tekst, afbeeldingen of video via een AI-chatbot. Part 1   The Next Great Engineering Frontier: The Hidden Complexity of Physical AI De volgende grote technische grens: de verborgen complexiteit van fysieke AI Echter, het beheersen van de natuurkunde is slechts de helft van de strijd.De andere, en waarschijnlijk grotere, strijd is het herdefiniëren van de aanvaardbare veiligheid van het uiteindelijke systeem zelf. Terwijl ingenieurs deze systemen implementeren, stelt de industrie de kritische vraag: 
 
 Wat is het aanvaardingscriterium voor een robot om als voldoende veilig te worden beschouwd? What is the acceptance criterion for a robot to be deemed safe enough? Een kamp gelooft dat het doel Als een robot zowel kan rijden als een taxichauffeur, of als een humanoïde kledingstukken zo snel kan vegen als een tiener, is het product klaar. Human-Level Toch ben ik hier om een argument te maken dat dit geloof misleidend is. Het streven naar menselijke prestaties is gericht op middelmatigheid. Wij mensen worden moe. We worden afgeleid. We hebben een blinde vlek in het centrum van onze netvlies evenals achter ons hoofd. We laten emoties onze besluitvorming beïnvloeden en worden beperkt door onze fysieke motorische besturingsmogelijkheden. Als ingenieurs een robot ontwerpen om als een mens te zien en te reageren als een mens, hebben ze een onvolledig en onveilig product gebouwd. In dit artikel zal ik uitleggen waarom het mogelijk maken van fysieke AI om menselijke equivalente prestaties te bereiken een mislukte toestand is. ik zal de wiskunde breken van waarom je een robot niet statistisch kunt valideren tegen een menselijke benchmark, en waarom de toekomst van veiligheid beslissend afhangt van . superhuman machines Waarom luisteren naar mij? Als je voor het eerst een van mijn artikelen leest, dan is hier mijn korte introductie. Ik ben Ik ben momenteel Senior Sensing Systems Engineer bij Waymo. Mijn werk in autonome systemen omvat de Special Projects Group bij Apple, Autonomous Trucks bij Applied Intuition en bestuurdersassistentietechnologieën bij Ford. Nishant Bhanot, Ik heb veiligheidsvalidatie vanuit elke hoek gezien.Dit omvat alles, van snelweghulpfuncties die vandaag de dag in consumentenwagens worden ingezet tot volledig autonome robotaxis die complexe stedelijke omgevingen navigeren. De grenzen van biologische hardware Menselijke ogen en handen zijn wonderen van evolutionaire engineering. ze zijn energiezuinig en aanpasbaar voor algemene intelligentietaken. Wanneer we deze biologische beperkingen toepassen op moderne robotica, raken we de fundamentele grenzen van menselijke mogelijkheden. 1. Field of View Mensen vertrouwen op foveal visie. dit wordt soms ook aangeduid als We zien hoge resolutie details alleen in een grofweg De centrale kegel en de hersenen vullen de rest met schatting en geheugen. We hebben ook een blinde plek waar de oogzenuw verbindt met het netvlies. tunnel vision 2 to 5 degrees Een robot sensor suite heeft echter deze beperking niet. Overweeg een typische LiDAR-eenheid die bij 10 Hz draait. puntwolk van de wereld met centimeter-niveau nauwkeurigheid. Het doet dit gelijktijdig in elke richting. Een reeks van meerdere camera's knipperen niet. Ze verliezen niet perifere bewustzijn alleen omdat ze zich richten op een specifiek object. 360-degree 2. Latency Wanneer een menselijke bestuurder een remlicht rood ziet, treedt een complexe biologische kettingreactie op. Het begint met de fotonen van het verkeerslicht die het netvlies raken. Het signaal reist naar beneden naar de oogzenuw. De hersenen verwerken het beeld en de voorste cortex besluit te handelen. Het signaal reist naar benen naar benen. Pas dan beweegt de voet eindelijk om het rempedaal te drukken. Traffic safety studies, zoals die van de American Association of State Highway and Transportation Officials (AASHTO), schatten meestal deze perceptie-reactietijd op Bij typische snelheden op de snelweg kan een auto in die tijd ongeveer de helft van de lengte van een voetbalveld reizen voordat het zelfs begint te vertragen. 1 to 1.5 seconds Een op silicium gebaseerde robotica besturingsloop werkt niet met dezelfde beperkingen. Een camera-frame kan worden vastgelegd, verwerkt door het neurale netwerk en omgezet in een remcommand in onder Dit is minstens twee keer beter dan de beste menselijke prestatienormen. 300 milliseconds 3. Precision Dit onderscheid geldt ook voor chirurgie.Terwijl de menselijke hand in staat is tot ongelooflijke bekwaamheid, is het beperkt door Zelfs de meest stabiele chirurg heeft microscopische schokken als vermoeidheid ontstaat na uren staan over een operatietafel. physiological tremor Een chirurgische robot wordt niet moe.Het kan de beweging naar beneden schalen, zodat een 5-centimeter beweging door de chirurg zich vertaalt in een sub-millimeter beweging van de scalpel. The Bottom Line De bottom line Wanneer we zeggen dat we veiligheid op menselijk niveau willen, accepteren we impliciet deze biologische beperkingen.We accepteren dat optische blinde vlekken, hoge latentie en fysiologisch beperkte precisie de standaard zijn om te voldoen. We moeten deze beperkingen niet in onze machines coderen. De uitdaging van statistische validatie Er is een fundamenteel verschil tussen generatieve AI en fysieke AI. Als een chatbot hallucineert, schrijft het een slecht gedicht. Een humanoïde robot draagt zware lading in een magazijn. Het verwerkt ook scherpe industriële gereedschappen of hete onderdelen. Evenzo is een autonoom voertuig effectief een multi-ton projectiel dat zich op snelheden op de snelweg verplaatst. Ten slotte levert een leveringsdrone glaswaren naar een achtertuin in een woonwijk. Failure in dergelijke domeinen heeft onmiddellijke fysieke gevolgen. Om een veiligheidskritisch systeem te valideren, zoeken we meestal naar metricen zoals We testen het systeem totdat we voldoende gegevens hebben om statistisch te bewijzen dat het aan onze veiligheidsdoelen voldoet. Mean Time Between Failures (MTBF) Interessant is dat, ondanks onze biologische beperkingen, mensen eigenlijk vrij veilig zijn. Volgens NHTSA-gegevens lijden menselijke bestuurders in de Verenigde Staten ongeveer één keer per 100 miljoen mijl aan een dodelijk ongeluk. Om wetenschappelijk te bewijzen dat een fysiek AI-systeem met vermogens op menselijk niveau slechts 20% veiliger is dan een menselijk systeem, heb je een steekproefgrootte nodig die groot genoeg is om statistische betekenis vast te stellen. Als we streven naar marginale verbeteringen ten opzichte van menselijke benchmarks met behulp van AI op menselijk vermogensniveau, wordt validatie uiterst tijdrovend. De logica van validatie verandert echter als we ons richten op mogelijkheid om systemen te gebruiken die orders van grootte veiliger zijn dan mensen.We kunnen aantonen dat specifieke klassen van ongevallen Vanwege het inherente superieure ontwerp van het systeem. Superhuman Uiterst onwaarschijnlijk De supermenselijke architectuur De lastige vraag is dat als we veiligheid niet puur kunnen valideren door brute-forcing kilometers of uren, hoe bereiken we het? Ik denk dat het antwoord ligt in . Architectural Superiority Een menselijke bestuurder vertrouwt bijna volledig op het zichtbare lichtspectrum (hun ogen). mist, glans, duisternis of andere gemeenschappelijke elementen van de echte wereld kunnen hen gedeeltelijk of volledig verblinden in het moment. Echter, een goed ontworpen fysieke AI-systeem ontworpen met Dit betekent dat het systeem verschillende soorten fysica kan gebruiken om dezelfde werkelijkheid te verifiëren. orthogonal redundancy 1. Seeing the Invisible In een scenario met zware mist of verblindend zonlicht, wordt het menselijk oog in gevaar gebracht omdat zichtbaar licht verspreidt of verzadigt. Deze kwetsbaarheid wordt gedeeld met camera's. Echter, een architectuur die de volgende sensoren samenvoegt, werkt fundamenteel beter: alleen 
 
 
 Lidar fungeert als een actieve lichtbron. Het stuurt zijn eigen laserpulsen uit om de exacte afstand met fotonniveau nauwkeurigheid te meten. Het creëert een nauwkeurige 3D-kaart van de wereld, ongeacht of het hoog middernacht of een maanloze middernacht is. Het radar werkt in het radiospectrum. het negeert vocht volledig, detecteert door mist en regen om de positie en snelheid van bewegende objecten met Doppler-nauwkeurigheid te volgen. Door deze inputs samen te voegen, bouwt het systeem een wereldmodel op dat robuust is tegen de omstandigheden die biologische operatoren verblinden. 2. Kinematic Degree of Freedom Dit voordeel strekt zich uit tot de fysieke vorm van de robot zelf. Mensen zijn beperkt door de skeletmechanica van de primatenvorm. Onze knieën buigen slechts één kant, en onze torsen en nek hebben een beperkt rotatiebereik. Een humanoïde kan echter worden ontworpen met gewrichten die in staat zijn Het kan gevaren achter zich volgen zonder zijn torso te draaien en kan met dezelfde stabiliteit en veiligheid achteruit lopen als het vooruit gaat. 360-degree rotation De bottom line Veiligheid komt voort uit het bouwen van een supermenselijk systeem dat toegang heeft tot grondige waarheidsgegevens en fysieke mogelijkheden die de menselijke baseline overschrijden. Criteria voor maatschappelijke acceptatie Er is een laatste reden waarom het streven naar prestaties op menselijk niveau een strategische fout is. De maatschappij beoordeelt machines volgens een fundamenteel andere standaard dan het beoordeelt mensen.Als een menselijke bestuurder wordt afgeleid en een auto achteraf eindigt, noemen we het een ongeval.Als een robot echter precies dezelfde fout maakt, wordt het gemarkeerd als een systemisch falen. Mensen worden beoordeeld op basis van hun natuur. Wij geven het toe aan Wanneer a We zien het als een voorkomen . human fails fatigue or distraction machine fails error in logic Om het vertrouwen van het publiek te winnen, moet een robot een veel hoger niveau van competentie demonstreren dat menselijke fouten onmogelijk maakt. Conclusie Naarmate we van chatbots overgaan naar fysieke bots, moeten we de benchmark op menselijk niveau achterlaten. Helaas heeft de biologische evolutie ons niet geoptimaliseerd voor deterministische veiligheid.We lijden aan hoge latentie, zijn beperkt door tunnelzicht en zijn vatbaar voor vermoeidheid of afleiding. Om samen te vatten: 
 
 
 
 Statistieken dicteren dat we de veiligheid op menselijk niveau niet binnen een redelijk tijdsbestek kunnen valideren. Architectuur stelt ons in staat om het onzichtbare te zien en te bewegen op manieren die de biologie niet kan. De maatschappij eist van machines een niveau van prestaties dat ze nooit van mensen vragen. Ik geloof dat het doel van Physical AI niet is om de menselijke operator te repliceren. In plaats daarvan is het doel om een nieuwe categorie operator te bouwen. Een operator die niet wordt afgeleid of in paniek raakt. Een operator die door de mist ziet en de scalpel beweegt met submillimeter nauwkeurigheid. De toekomst van een veilige fysieke AI is van capaciteit. superhuman

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Deze audio wordt geproduceerd in de originele taal van het verhaal!

Waarom fysieke AI supermens moet zijn

About Author

OPMERKINGEN

LABELS

DIT ARTIKEL WERD GEPRESENTEERD IN

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps