Hey hackerlar! Bu makale, Fiziksel AI'nin mühendislik gerçekliğine ilişkin iki bölümün ikinci bölümüdür. içinde Adı Soyadı Kaoslu fiziksel dünya, yüksek başarısızlık oranları ve Sim-to-Real farkının robotikte yerleşik AI'yi bir AI chatbot aracılığıyla metin, görüntüler veya video oluşturmaktan daha zor bir sorun haline getirdiğini nasıl tartıştım. Part 1   Sonraki Büyük Mühendislik Sınırı: Fiziksel AI'nin Gizli Karmaşıklığı Sonraki Büyük Mühendislik Sınırı: Fiziksel AI'nin Gizli Karmaşıklığı Bununla birlikte, fizikte hakim olmak sadece savaşın yarısıdır.Diğer ve daha büyük bir savaş, nihai sistemin kendisinin kabul edilebilir güvenliğini yeniden tanımlamaktadır. Mühendisler bu sistemleri kullanırken, endüstri kritik soruyu soruyor: 
 
 Bir robotun yeterince güvenli olarak kabul edilmesi için kabul kriterleri nelerdir? What is the acceptance criterion for a robot to be deemed safe enough? Hedef olduğuna inananlar var Eğer bir robot, lisanslı bir taksi şoförü ile birlikte araba kullanabiliyorsa, ya da bir humanoid, bir genç kadar hızlı bir şekilde çamaşır yıkayabiliyorsa, ürün hazır. Human-Level Ancak, bu inancın yanıltıcı olduğunu vurgulamak için buradayım. İnsan performansını hedeflemek ortaçağlıktan ibarettir. Biz insanlar yorgun oluyoruz. Uzaklaştık. Retina merkezimizde hem de kafamızın arkasında kör bir nokta var. Duygularımızın karar verme sürecimizi etkilemesine izin veriyoruz ve fiziksel motor kontrol yeteneklerimizle sınırlıyız. Mühendisler bir robotu insan gibi görmek ve insan gibi tepki vermek için tasarlarlarsa, tam ve güvenli olmayan bir ürünü inşa ettiler. Bu makalede, Fiziksel AI'nın insan eşdeğer performansını elde etmesine neden izin vermenin başarısız bir durum olduğunu açıklayacağım.Neden bir robotun insan referansına karşı istatistiksel olarak doğrulanamayacağına dair matematik anlayışını parçalayacağım ve güvenliğin geleceği niçin kararlı bir şekilde güvenliğe bağlıdır. . superhuman machines Neden beni dinleyin? Bu yazılarımı ilk defa okuduysanız, kısa bir öneri için buradayım. ben varım Şu anda Waymo'da üst düzey bir Sensing Systems Mühendisiyim. Otomatik sistemler alanındaki çalışmalarım Apple'daki Özel Projeler Grubu, Uygulamalı Intuition'da Otomatik Kamyonlar ve Ford'daki sürücü destek teknolojileri kapsamaktadır. Nishant Bhanot, Güvenlik doğrulamasını her açıdan gördüm.Bu, günümüzde tüketici otomobillerinde yerleştirilen otoyol yardımı özelliklerinden karmaşık kentsel ortamlara yönlendiren tamamen otonom robot taksiye kadar her şeyi içerir. Biyolojik donanımların sınırları İnsan gözleri ve elleri evrimsel mühendislik harikalarıdır. Enerji verimli ve genel zeka görevlerine adapte edilebilirler. Bununla birlikte, biyolojik evrim bizi hayatta kalmak için optimize etti, yüksek hızda belirtici güvenlik için değil. Bu biyolojik kısıtlamaları modern robotikte uyguladığımızda, temel insan yeteneklerinin sınırlarını vuruyoruz. 1. Field of View İnsanlar gözle görülebilir bir görüntüye güveniyorlar.Bu da bazen Yüksek çözünürlüklü ayrıntıları sadece yaklaşık bir Merkez kuyruk ve beyin geri kalanı tahmin ve hafıza ile doldurur. ayrıca göz sinirinin retina'ya bağlandığı kör bir nokta var. Dinamik bir sahneyi izlemek için sürekli sakatlamak zorundayız. tunnel vision 2 to 5 degrees Ancak, bir robot sensör paketi bu kısıtlamaya sahip değildir. tipik bir LiDAR birimi 10 Hz'de döner düşünün. Dünya'nın noktası bulutu santimetre seviyesinde doğrulukla. Bunu her yönden aynı anda yapar. Bir dizi çoklu kamera yanıp sönmez. Sadece belirli bir nesneye odaklandıkları için periferik farkındalığı kaybetmezler. 360-degree 2. Latency İnsan sürücüsü bir fren ışığı kırmızıya dönüştüğünü gördüğünde, karmaşık bir biyolojik zincir reaksiyon meydana gelir. Trafik ışığından gelen fotonlar retina'ya çarptığında başlar. Sinyal görsel sinir üzerine seyahat eder. Beyin görüntüyü işler ve ön korteks eyleme karar verir. Sinyal omurganı bacak kaslarına doğru seyahat eder. Sadece o zaman, ayak nihayet fren pedalına basmak için hareket eder. American Association of State Highway and Transportation Officials (AASHTO) gibi trafik güvenliği çalışmaları genellikle bu algı-reaksiyon süresini tahmin eder. Beklenmedik olaylar için. tipik otoyol hızlarında, bir araba, en iyi senaryoda bile yavaşlamaya başlamadan önce bir futbol sahasının uzunluğunun yaklaşık yarısını seyahat edebilir. 1 to 1.5 seconds Silikon tabanlı bir robotik kontrol döngüsü aynı sınırlamalarla çalışmaz. bir kamera çerçevesi yakalanabilir, nöral ağ tarafından işlenebilir ve aşağıda frenleme komutuna dönüştürülebilir. Bu, en iyi insan performans standartlarından en az iki kat daha iyidir. 300 milliseconds 3. Precision Bu farklılık ameliyat için de geçerlidir.İnsan elinin inanılmaz yetenek yeteneğine sahip olmasına rağmen, sınırlıdır. En istikrarlı cerrah bile, bir ameliyat masası üzerinde saatlerce durduktan sonra yorgunluk oluştuğunda mikroskobik titreşimlere sahiptir. physiological tremor Bir cerrahi robot yorgun kalmaz, hareketini 5 cm'lik bir hareketin, cerrah tarafından sub-milimetrik bir hareket haline getirebileceği şekilde ölçülebilir. The Bottom Line Aşağı hattı İnsan düzeyinde güvenlik istiyorsak, bu biyolojik kısıtlamaları anlamlı olarak kabul ediyoruz. optik kör noktalara, yüksek latensiyele ve fizyolojik olarak sınırlı hassasiyetlere uymak için standart olduğunu kabul ediyoruz. Bu kısıtlamaları makinelerimize yazmamalıyız, bunları aşmalıyız. İstatistiksel Validasyonun Sorunları Bir chatbot halüsinasyon yaparsa kötü bir şiir yazar, bir fiziksel robot halüsinasyon yaparsa fiziksel hasara neden olabilir. Bir humanoid robot depoda ağır yük taşıyor. Aynı zamanda keskin endüstriyel aletleri veya sıcak bileşenleri de ele alıyor. Benzer şekilde, otonom bir araç etkili bir şekilde yüksek hızlı yollarda hareket eden bir çok tonlu rokettir. Son olarak, bir teslimat dronu bir konut mahallesinde bir arka bahçeye cam malzemeleri teslim ediyor. Bu tür alanlarda başarısızlık hemen fiziksel sonuçlara sahiptir. Bu nedenle, onay çubuğu inanılmaz derecede yüksek olmalıdır. Güvenlik kritik bir sistemin onaylanması için, tipik olarak, örneğin Sistem, güvenlik hedeflerimizi karşılamayı istatistiksel olarak kanıtlamak için yeterli veri olana kadar test ederiz. Mean Time Between Failures (MTBF) İlginçtir ki, biyolojik sınırlamalarımıza rağmen, insanlar aslında oldukça güvenlidir. NHTSA verilerine göre, Amerika Birleşik Devletleri'ndeki insan sürücüleri her 100 milyon milde bir kez bir ölümle karşı karşıya kalıyor. Eğer hedefimiz insan düzeyinde güvenlik karşılamaksa, kendimizi istatistiksel bir tuzağa zorluyoruz. insan düzeyinde yetenekleri olan fiziksel bir AI sisteminin insandan sadece% 20 daha güvenli olduğunu bilimsel olarak kanıtlamak için, istatistiksel önemi sağlamak için yeterince büyük bir örnek boyutuna ihtiyacınız var. İnsan kılavuzlarına göre insan yetenek düzeyinde AI kullanarak sınırlı iyileştirmeleri hedefliyorsak, doğrulama son derece zaman alıcı hale gelir. Ancak, doğrulama mantığı değişir, eğer hedefimiz İnsanlardan daha güvenli olan sistemler kullanma yeteneği. Bu sistemin üstün tasarımından dolayı. Superhuman Çok muhtemel Süper insan mimarisi Karmaşık soru, güvenliği yalnızca kilometre veya saat sürerek doğrulayamazsak, bunu nasıl elde edeceğiz? Cevabın içinde olduğunu düşünüyorum . Architectural Superiority Bir insan sürücüsü neredeyse tamamen görünür ışık spektrumuna (gözlerine) güvenir. bulut, parlaklık, karanlık veya gerçek dünyanın diğer yaygın unsurları, anlık olarak onları kısmen veya tamamen kör edebilir. Ancak, iyi yapılandırılmış fiziksel bir AI sistemi ile Bu, sistemin aynı gerçekliği doğrulamak için farklı fizik türlerini kullanabileceği anlamına gelir. orthogonal redundancy 1. Seeing the Invisible Ağır bulutsuzluk veya körleşen güneş ışığı olan bir senaryoda, insan gözü zarar görüyor çünkü görünür ışık dağılıyor veya doyuruluyor. kameralar bu hassasiyeti paylaşıyor.Ama aşağıdaki sensörleri birleştiren bir mimari temel olarak daha iyi performans gösteriyor: Sadece 
 
 
 Lidar aktif bir ışık kaynağı olarak hareket eder. Fotoğraf düzeyinde doğruluk ile tam mesafeyi ölçmek için kendi lazer solucanları emer. Dünya'nın tam bir 3D haritasını oluşturur, yüksek öğleden sonra ya da aysız bir gece yarısı olsun. Radar, radyo spektrumunda çalışır ve nemi tamamen göz ardı eder ve Doppler hassasiyetiyle hareket eden nesnelerin konumunu ve hızını izlemek için bulut ve yağmur aracılığıyla tespit eder. Bu girişleri birleştirerek, sistem, biyolojik operatörlerin kör olduğu koşullara karşı sağlam bir dünya modeli oluşturur. 2. Kinematic Degree of Freedom Bu avantaj, robotun kendisinin fiziksel formuna kadar uzanır. İnsanlar primat formunun kemik mekanikleri tarafından sınırlıdır. Dizlerimiz sadece bir yöne eğilir ve torsolarımız ve boynumuz sınırlı bir dönme aralığına sahiptir. Eğer bir insan bir yük taşıyarak bir tehlikeden geri çekilmek zorunda kalırsa, bir yolculuk veya çarpışma riski altında kör bir şekilde geriye doğru yürümelidir. Ancak, bir humanoid, yapabilen eklemlerle tasarlanabilir. Vücudunu çevirmeden arkasındaki tehlikeleri izleyebilir ve ilerlerken aynı istikrar ve güvenle geriye doğru yürüyebilir. 360-degree rotation Aşağı hattı Güvenlik, temel gerçeğin verilerine ve insan temelini aşan fiziksel yeteneklere erişim sağlayan bir süper insan sisteminin inşa edilmesinden gelir. Toplumsal kabul kriterleri İnsan düzeyinde performans hedeflemenin stratejik bir hata olduğu son bir nedeni var. Toplum, makineleri insanları yargılamaktan tamamen farklı bir standartla yargılamaktadır.Eğer bir insan sürücüsü rahatsız olursa ve bir araba geri dönerse, bunu bir kaza olarak adlandırırız.Ama eğer bir robot aynı hata yaparsa, sistemik bir başarısızlık olarak etiketlenir. İnsanlar kendi doğalarına göre yargılanacaklardır. Biz buna itiraz ediyoruz Eğer a Önlenebilir bir durum olarak görüyoruz. . human fails fatigue or distraction machine fails error in logic Bu toplumsal kabul kriterinden dolayı, fiziksel AI sadece bir insan kadar güvenli olamaz. kamu güvenini kazanmak için, bir robot, insan gibi hataları imkansız kılan çok daha yüksek bir yetkinlik düzeyini göstermelidir. Sonuç Tarihin en büyük robotik dağıtımının zirvesindeyiz. sohbet botlarından fiziksel botlara geçtikçe, insan düzeyinde referans noktasını geride bırakmalıyız. Ne yazık ki, biyolojik evrim bizi determinist güvenlik için optimize etmedi. yüksek latensiyondan muzdarip, tünel görüşü ile sınırlıyız ve yorgunluk veya kaygıya eğilimliyiz. Özetlemek için: 
 
 
 
 İstatistikler, insan düzeyinde güvenliği makul bir süre içinde doğrulamayacağımızı söylüyor. Mimarlık, görünmez şeyleri görmemizi ve biyolojinin yapamayacağı şekilde hareket etmemizi sağlar. Toplum, makinenin insanlardan asla istemeyeceği bir performans seviyesini talep etmektedir. Fiziksel AI'nin amacı, insan operatörünü tekrarlamak değil, yerine yeni bir operatör kategorisi oluşturmak olduğunu düşünüyorum. Ayrılmayan veya panik yapmayan bir operatör. Bulutun içinden bakıp alt milimetre hassasiyetle scalpel'i hareket eden bir operatör. Güvenli bir fiziksel AI’nin geleceği kapasiteye sahip superhuman

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Bu ses hikayenin orijinal dilinde üretilmiştir!

Fiziksel AI Neden Süper İnsan Olmalı

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

HackerNoon Yazma Yarışmasını mı Kazanmak İstiyorsunuz? İşte #crypto-api Yarışması Kazananlarının Önerileri

Yapay Zekanın Gücünü Ortaya Çıkarıyoruz. En Son Tekniklerin Sistematik Bir İncelemesi: Özet ve Giriş

Floki'den Valhalla Hindistan'ın Sri Lanka Turuna Yardımcı Sponsor Olarak Katıldı

Kripto Büyümesi: Etkili Kullanıcı Kişilikleri Oluşturma

HackerNoon Yazma Yarışmasını mı Kazanmak İstiyorsunuz? İşte #crypto-api Yarışması Kazananlarının Önerileri

Yapay Zekanın Gücünü Ortaya Çıkarıyoruz. En Son Tekniklerin Sistematik Bir İncelemesi: Özet ve Giriş

Floki'den Valhalla Hindistan'ın Sri Lanka Turuna Yardımcı Sponsor Olarak Katıldı

Kripto Büyümesi: Etkili Kullanıcı Kişilikleri Oluşturma

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps