Hej hackare! Denna artikel är den andra i en tvådelad serie om den tekniska verkligheten hos fysisk AI. i och titeln Jag diskuterade hur den kaotiska fysiska världen, de höga insatserna för misslyckande och Sim-till-Real-gapet gör användningen av förkroppsligad AI i robotik till ett svårare problem än att generera text, bilder eller video via en AI-chattbot. Part 1   Nästa stora ingenjörsgräns: Den dolda komplexiteten hos fysisk AI Nästa stora ingenjörsgräns: Den dolda komplexiteten hos fysisk AI Men att behärska fysiken är bara hälften av striden.Den andra, och förmodligen större, striden är att omdefiniera den acceptabla säkerheten för det slutliga systemet självt. När ingenjörer distribuerar dessa system ställer branschen den kritiska frågan: 
 
 Vad är kriterierna för att en robot ska anses tillräckligt säker? What is the acceptance criterion for a robot to be deemed safe enough? Ett lag tror att målet är Om en robot kan köra såväl som en licensierad taxichaufför, eller om en humanoid kan vika tvätt lika snabbt som en tonåring, är produkten klar. Human-Level Men jag är här för att argumentera för att denna tro är vilseledande. Att sträva efter mänsklig prestation är att sträva efter medelmåttighet. Vi människor blir trötta. Vi blir distraherade. Vi har en blindpunkt i mitten av vår näthinna samt bakom våra huvuden. Vi låter känslor påverka vårt beslutsfattande och begränsas av våra fysiska motorstyrningsförmågor. Om ingenjörer designar en robot för att se ut som en människa och reagera som en människa, har de byggt en ofullständig och osäker produkt. I den här artikeln kommer jag att förklara varför att tillåta fysisk AI att uppnå mänsklig ekvivalent prestanda är ett misslyckande tillstånd. jag kommer att bryta ner matematiken om varför du inte kan statistiskt validera en robot mot en mänsklig benchmark, och varför framtiden för säkerhet beror avgörande på . superhuman machines Varför lyssna på mig? Om du läser en av mina artiklar för första gången, här är min korta introduktion. Jag är Jag är för närvarande Senior Sensing Systems Engineer på Waymo. Mitt arbete inom autonoma system spänner över Special Projects Group på Apple, Autonomous Trucks på Applied Intuition och förarassistansteknik på Ford. Nishant Bhanot, Jag har sett säkerhetsvalidering från alla vinklar.Detta inkluderar allt från motorvägsassistansfunktioner som används i konsumentbilar idag till helt autonoma robotaxier som navigerar i komplexa urbana miljöer. Gränserna för biologisk hårdvara Mänskliga ögon och händer är underverk av evolutionär teknik.De är energieffektiva och anpassningsbara för allmänna intelligensuppgifter.Men biologisk utveckling optimerade oss för överlevnad, inte för höghastighetsdeterministisk säkerhet. När vi tillämpar dessa biologiska begränsningar på modern robotteknik träffar vi de grundläggande gränserna för mänskliga förmågor. 1. Field of View Människor förlitar sig på foveal vision. Detta kallas ibland också Vi ser högupplösta detaljer endast i ungefär centrala kon och hjärnan fyller resten med uppskattning och minne. Vi har också en blindpunkt där den optiska nerven ansluter till näthinnan. Vi måste ständigt saccade för att spåra en dynamisk scen när vi vrider våra ögon runt för att sticka ihop en sammanhängande bild. tunnel vision 2 to 5 degrees En robot sensorsvit har dock inte denna begränsning. Tänk på en typisk LiDAR-enhet som snurrar vid 10 Hz. Den fångar en punkten moln av världen med centimeter-nivå noggrannhet. Det gör detta samtidigt i alla riktningar. En uppsättning av flera kameror blinkar inte. De förlorar inte perifer medvetenhet bara för att de fokuserar på ett specifikt objekt. 360-degree 2. Latency När en mänsklig förare ser ett bromsljus som blir rött, uppstår en komplex biologisk kedjereaktion. Det börjar med fotonerna från trafikljuset som träffar näthinnan. Signalen reser ner till den optiska nerven. Hjärnan bearbetar bilden och frontal cortex bestämmer sig för att agera. Signalen reser ner från ryggraden till benmusklerna. Först då rör sig foten slutligen för att trycka på bromspedalen. Trafiksäkerhetsstudier, såsom de från American Association of State Highway and Transportation Officers (AASHTO), uppskattar vanligtvis denna uppfattnings-reaktionstid vid Vid typiska motorvägshastigheter kan en bil resa ungefär hälften av en fotbollsplan under den tiden innan den ens börjar sakta ner. 1 to 1.5 seconds En silikonbaserad robotkontrollslinga fungerar inte med samma begränsningar. En kameraham kan fångas, bearbetas av det neurala nätverket och omvandlas till en bromskommando under Detta är minst två gånger bättre än de bästa mänskliga prestationsstandarderna. 300 milliseconds 3. Precision Denna åtskillnad gäller även kirurgi.Medan den mänskliga handen är kapabel till otrolig skicklighet, är den begränsad av Även den mest stabila kirurgen har mikroskopiska skakningar som trötthet sätter in efter timmar av stående över ett operationsbord. physiological tremor En kirurgisk robot blir inte trött.Den kan skala ner rörelsen så att en 5-centimeter rörelse av kirurgen översätter till en sub-millimeter rörelse av skalpeln. The Bottom Line Den nedre linjen När vi säger att vi vill ha säkerhet på mänsklig nivå, accepterar vi implicit dessa biologiska begränsningar.Vi accepterar att optiska blinda fläckar, hög latens och fysiologiskt begränsad precision är standarden att uppfylla. Vi bör inte koda dessa begränsningar i våra maskiner. Utmaningen med statistisk validering Det finns en grundläggande skillnad mellan generativ AI och fysisk AI. Om en chatbot hallucinerar, skriver den en dålig dikt. En humanoid robot bär tunga nyttolast i ett lager. Den hanterar också skarpa industriella verktyg eller heta komponenter. På samma sätt är ett självkörande fordon effektivt ett multi-ton projektil som rör sig vid motorvägshastigheter. Slutligen levererar en leveransdrönare glasvaror till en bakgård i ett bostadsområde. Misslyckande i något sådant område har omedelbara fysiska konsekvenser. Därför måste valideringsfältet vara otroligt högt. För att validera ett säkerhetskritiskt system söker vi vanligtvis efter mätvärden som Vi testar systemet tills vi har tillräckligt med data för att statistiskt bevisa att det uppfyller våra säkerhetsmål. Mean Time Between Failures (MTBF) Intressant nog, trots våra biologiska begränsningar, är människor faktiskt ganska säkra. Enligt NHTSA data lider mänskliga förare i USA ett dödsfall ungefär en gång var 100 miljoner mil. Detta skapar en stor nämnare för någon statistisk jämförelse. För att vetenskapligt bevisa att ett fysiskt AI-system med kapacitet på mänsklig nivå bara är 20% säkrare än en människa, behöver du en provstorlek som är tillräckligt stor för att fastställa statistisk betydelse. Om vi strävar efter marginella förbättringar över mänskliga riktmärken med hjälp av mänsklig kapacitetsnivå AI blir validering extremt tidskrävande. Men valideringslogiken ändras om vi siktar på att förmåga att använda system som är ordningsvis säkrare än människor. vi kan bevisa att specifika klasser av olyckor är på grund av systemets inneboende överlägsna design. Superhuman Extremt osannolikt Den övermänskliga arkitekturen Den knepiga frågan är att om vi inte kan validera säkerhet rent genom att brutto tvinga miles eller timmar, hur uppnår vi det? Jag tror att svaret ligger i . Architectural Superiority En mänsklig förare förlitar sig nästan helt på det synliga ljusspektrumet (deras ögon). dimma, glimt, mörker eller andra vanliga element i den verkliga världen kan delvis eller helt blinda dem i ögonblicket. Men ett välkonstruerat fysiskt AI-system konstruerat med Detta innebär att systemet kan använda olika typer av fysik för att verifiera samma verklighet. orthogonal redundancy 1. Seeing the Invisible I ett scenario med tung dimma eller bländande solljus äventyras det mänskliga ögat eftersom synligt ljus sprider eller mättar. med kameror delar denna sårbarhet. emellertid fungerar en arkitektur som fusionerar följande sensorer fundamentalt bättre: endast 
 
 
 Lidar fungerar som en aktiv ljuskälla. Den avger sina egna laserpulser för att mäta den exakta avståndet med foton-nivå noggrannhet. Den skapar en exakt 3D-karta över världen, oavsett om det är högmånad eller en månlös midnatt. Radar fungerar i radiospektrumet. Det ignorerar fukt helt, detekterar genom dimma och regn för att spåra positionen och hastigheten på rörliga föremål med Doppler precision. Genom att sammanfoga dessa ingångar bygger systemet en världsmodell som är robust mot samma förhållanden som biologiska operatörer blundar. 2. Kinematic Degree of Freedom Denna fördel sträcker sig till den fysiska formen av själva roboten. Människan är begränsad av skelettmekaniken i primatformen. Våra knän böjer sig bara en väg, och våra torso och nacke har ett begränsat rotationsområde. Om en människa behöver dra sig tillbaka från en fara medan de bär en last, måste de gå bakåt blindt, riskerar en resa eller kollision. En humanoid kan dock utformas med leder som kan Den kan övervaka faror bakom den utan att vända sin torso och kan gå bakåt med samma stabilitet och säkerhet som den går framåt. 360-degree rotation Den nedre linjen Säkerhet kommer från att bygga ett övermänskligt system som har tillgång till grundläggande sanningsdata och fysiska förmågor som överskrider den mänskliga baslinjen. Kriterier för social acceptans Det finns en sista anledning till varför att sikta på prestanda på mänsklig nivå är ett strategiskt misstag. Samhället bedömer maskiner efter en grundläggande annan standard än vad det bedömer människor.Om en mänsklig förare blir distraherad och slutar en bil, kallar vi det en olycka. Människan bedöms utifrån sin natur. a. Vi tillskriver den till När a Vi ser det som en förebyggande . human fails fatigue or distraction machine fails error in logic För att vinna allmänhetens förtroende måste en robot visa en mycket högre kompetensnivå som gör mänskliga misstag omöjliga. Slutsats När vi flyttar från chatbots till fysiska bots, måste vi lämna referensvärdet på mänsklig nivå bakom oss. Tyvärr har den biologiska evolutionen inte optimerat oss för deterministisk säkerhet.Vi lider av hög latens, är begränsade av tunnelvision och är benägna att trötthet eller distraktion. För att sammanfatta: 
 
 
 
 Statistik dikterar att vi inte kan validera säkerheten på mänsklig nivå inom en rimlig tidsram. Arkitektur tillåter oss att se det osynliga och flytta på sätt som biologin inte kan. Samhället kräver en nivå av prestanda från maskiner som det aldrig begär av människor. Jag tror att målet med fysisk AI inte är att replikera den mänskliga operatören. Snarare är målet att bygga en ny kategori av operatörer. En operatör som inte blir distraherad eller panik. En operatör som ser genom dimman och flyttar skalpeln med submillimeter noggrannhet. Framtiden för en säker fysisk AI är och förmåga. superhuman

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Det här ljudet är producerat på berättelsens originalspråk!

Varför fysisk AI måste vara övermänsklig

About Author

KOMMENTARER

HÄNG TAGGAR

DENNA ARTIKEL PRESENTERAS I

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps