ハッカーたち! この記事は、物理AIのエンジニアリング現実に関する2つのシリーズの2つ目です。 イン タイトル 混沌とした物理世界、失敗率の高さ、そしてシム・トゥー・リアル・ギャップが、AIチャットボットを通じてテキスト、画像、またはビデオを生成するよりも、ロボットにおける実体化されたAIの使用をより困難な問題にする方法について議論しました。 Part 1   The Next Great Engineering Frontier: The Hidden Complexity of Physical AI(次の偉大なエンジニアリング国境:物理AIの隠れた複雑さ) The Next Great Engineering Frontier: The Hidden Complexity of Physical AI(次の偉大なエンジニアリング国境:物理AIの隠れた複雑さ) しかし、物理学を習得することは戦いの半分にすぎない。もう一つの戦いは、最終的なシステムそのものの安全性を再定義することだ。 エンジニアがこれらのシステムを展開するにつれて、業界は重要な質問を提起しています。 
 
 ロボットが十分に安全であると判断するための受け入れ基準は何ですか? What is the acceptance criterion for a robot to be deemed safe enough? One Camp Believes The Goal もしロボットがライセンスを取得したタクシー運転手とともに運転することができ、もしもヒューマノイドが十代の若者と同じくらい速く洗濯物を折れることができれば、製品は準備ができています。 Human-Level しかし、私はこの信念が誤解であるという議論をするためにここにいます。 人間のパフォーマンスをターゲットにしているのは、中途半端さをターゲットにしている。我々人間は疲れる。我々は分散する。我々は我々の網膜の中心と頭の後ろに盲点を持っている。我々は感情が我々の意思決定に影響を与え、我々の物理的モーター制御能力によって制限されている。もしエンジニアがロボットを設計して人間のように見て人間のように反応するなら、彼らは不完全で安全な製品を構築した。 この記事では、なぜ物理AIが人間に等しいパフォーマンスを達成することを可能にするのかを説明します。私は、なぜ人間の基準に比べてロボットを統計的に検証できないのか、そしてなぜ安全性の未来が決定的に依存しているのかという数学を分解します。 . superhuman machines なぜ私に耳を傾けるのか。 私の記事を初めて読んでいる方は、こちらが短い紹介です。 I AM 現在、Waymoのシニアセンサーシステムエンジニアを務めています。自動運転システムにおける私の仕事は、AppleのSpecial Projects Group、Applied Intuitionの自動運転トラック、Fordのドライバー支援技術をカバーしています。 Nishant Bhanot, 私はあらゆる角度から安全性の検証を見ました。これには、今日の消費者車に展開されている高速道路のサポート機能から、複雑な都市環境を航行する完全に自動的なロボタクシーに至るまで、すべてが含まれています。 生物ハードウェアの限界 人間の目と手は進化学的エンジニアリングの奇跡であり、エネルギー効率を高め、一般的な知能の課題に適応することができる。 これらの生物学的制約を現代のロボット技術に適用すると、人類の基本的な能力の限界に打ち当たります。 1. Field of View 人間は視力に依存するが、これは時として「視力」とも呼ばれる。 高解像度の詳細は、ほぼ 中央コンと脳は、評価と記憶で残りを満たす。私たちはまた、視覚神経が網膜に接続する盲点を持っています。私たちは一貫した画像をまとめるために目が回るように、ダイナミックなシーンを追跡するために絶えずサッカードしなければなりません。 tunnel vision 2 to 5 degrees しかし、ロボットセンサー スイートにはこの制限はありません。 10 Hz で回転する典型的な LiDAR ユニットを考慮してください。 センチメートルレベルの正確さで世界のポイントクラウドです. それはすべての方向で同時にこれをします. 複数のカメラのマレージは瞬くことはありません. 彼らは特定のオブジェクトに焦点を当てているだけで、周辺意識を失わない。 360-degree 2. Latency 人間のドライバーがブレーキライトが赤くなると、複雑な生物学的連鎖反応が起こります。それは、交通ライトからの光子が網膜に打つことから始まります。信号は視覚神経に移動します。脳は画像を処理し、前皮は行動することを決定します。信号は脊椎から足の筋肉に移動します。その後、足はついにブレーキペダルを押すために移動します。 アメリカ国営道路および輸送担当者協会(AASHTO)などの交通安全研究では、通常、この感覚反応時間を推定しています。 典型的な高速道路の速度で、車はその時点でサッカー場の長さの約半分を移動することができ、さらに減速を始めることさえもありません。 1 to 1.5 seconds シリコンベースのロボット制御ループは、同じ制限で動作しません。カメラフレームは、ニューラルネットワークによってキャプチャされ、処理され、ブレーキコマンドに変換することができます。 これは、人間の最高のパフォーマンス基準よりも少なくとも2倍優れている。 300 milliseconds 3. Precision この区別は外科手術にも当てはまりますが、人間の手は信じられないほどの巧妙さを持っているが、それによって制限されます。 最も安定した外科医でさえ、手術のテーブルの上に数時間立ってから疲労が発生するように、顕微鏡の震えがあります。 physiological tremor 外科手術ロボットは疲れないので、5センチの動きがスカルペルのサブミリメートルの動きに変わるように動きをスケールダウンすることができます。 The Bottom Line Bottom Line 私たちが人間レベルの安全を望むと言ったとき、私たちは暗示的にこれらの生物学的制約を受け入れ、光学的盲点、高い遅延、生理学的に制限された精度が満たされる基準であることを受け入れます。 我々はこれらの制限を機械に暗号化してはならない。我々はそれらを超えてエンジニアリングすべきである。 統計検証の課題 生成型AIと物理的なAIの間には根本的な違いがあります。チャットボットが幻覚を起こすと、悪い詩を書きます。物理的なロボットが幻覚を起こすと、物理的な損傷を引き起こす可能性があります。 ヒューマノイドロボットは倉庫で重い負荷を運ぶ。それはまた、鋭い工業道具や熱い部品を扱う。同様に、自動運転車は効果的に高速道路の速度で移動する多トンプロジェクトです。最後に、配達ドローンは住宅街の裏庭にガラス製品を配達します。そのような分野での失敗には直ちに物理的な結果があります。したがって、検証バーは信じられないほど高くなければなりません。 安全に重要なシステムを検証するために、我々は通常、例えば、 我々は、システムが我々の安全目標を達成することを統計的に証明する十分なデータを有するまで、システムをテストします。 Mean Time Between Failures (MTBF) 興味深いことに、私たちの生物学的限界にもかかわらず、人間は実際にはかなり安全です。 NHTSAのデータによると、米国の人間ドライバーは、およそ1億マイルごとに1回死に、これはあらゆる統計比較の大きな称号を作成します。 人間レベルのAIシステムが人間レベルの能力を持つ物理的なAIシステムよりもわずか20%安全であることを科学的に証明するには、統計的意義を確立するのに十分なサンプルサイズが必要です。 人間の基準よりも限界的な改善を目指すと、人間の能力レベルのAIを使用すると、検証は非常に時間がかかります。 しかし、検証の論理は、私たちが目指す場合に変化します。 人間よりも大規模に安全なシステムを使用する能力. 特定のクラスの事故が システムの固有の優れた設計により、 Superhuman 極めて不確実 超人類建築 困難な質問は、私たちが安全を純粋にマイルや時間の強制で検証できない場合、どのようにそれを達成するかということです。 答えは、中にあると思います。 . Architectural Superiority 人間のドライバーはほとんど完全に目に見える光のスペクトル(彼らの目)に依存します。霧、光、闇、または現実世界の他の共通の要素は、瞬間に部分的にまたは完全に彼らを盲目することができます。 しかし、よく設計された物理AIシステムは、 これは、システムが同じ現実を検証するために異なる種類の物理学を使用できることを意味します。 orthogonal redundancy 1. Seeing the Invisible 重い霧や太陽光の失明のシナリオでは、目が見える光が散り散ったり飽和したりするため、人間の目は損なわれます。 カメラと共にこの脆弱性がありますが、以下のセンサーを組み合わせたアーキテクチャは根本的に優れている: たった 
 
 
 リダールは活発な光源として機能し、光子レベルの正確さで正確な距離を測定するために独自のレーザーパルスを放出し、深夜か無月の真夜かを問わず、世界の正確な3Dマップを作成します。 レーダーはラジオスペクトルで動作し、湿気を完全に無視し、霧や雨を通じてドップレル精度で動く物体の位置と速度を追跡します。 これらの入力を統合することにより、システムは、生物学的オペレーターが盲目にしている条件に対して強力な世界モデルを構築します。 2. Kinematic Degree of Freedom この利点は、ロボット自身の物理的形態にまで広がります。人間は、プリマット形態の骨格のメカニクスによって制限されています。私たちの膝は片方しか曲がらず、トルソスと首は限られた回転範囲を持っています。もし人間が負荷を運ぶ間、危険から撤退する必要があるなら、彼らは盲目的に後ろを歩き、旅や衝突を危険にさらす必要があります。 しかし、ヒューマノイドは、関節で設計することができる。 背後にある危険を回転せずに監視することができ、前進するときと同じ安定と安全で後ろを歩くことができます。 360-degree rotation Bottom Line セキュリティは、人類の基準を超える真実データと物理的能力にアクセスできる超人間のシステムを構築することから生まれる。 社会的受け入れ基準 人間レベルのパフォーマンスを目指すことが戦略的ミスである理由の一つがあります。 社会は、人間を判断する基準とは根本的に異なる基準で機械を判断する。もし人間のドライバーが迷惑をかけ、車を後ろに落とすと、我々はそれを事故と呼ぶ。 人間は、自分の性質に基づいて判断される。 わたしたちは、それを、 ♪ A ♪ 私たちはそれを予防可能なものとして認識しています。 . human fails fatigue or distraction machine fails error in logic この社会的受け入れ基準により、物理的AIは人間と同じくらい安全ではないが、一般の人々の信頼を得るためには、ロボットは人間のようなエラーを不可能にするより高いレベルの能力を示す必要がある。 結論 私たちは歴史上最大のロボット展開の最前線にあり、チャットボットから物理的なボットに移行するにつれて、人間レベルの基準を置かなければなりません。 残念ながら、生物学的進化は私たちを決定的な安全性のために最適化しませんでした. 私たちは、高い遅延、トンネルの視力によって制限され、疲労や分散の傾向があります。 まとめると: 
 
 
 
 統計によると、人間レベルの安全性は合理的な期間内に検証できない。 アーキテクチャは、私たちが目に見えないものを見ることができ、生物学ができない方法で動くことを可能にします。 社会は機械から、決して人間に求められないレベルのパフォーマンスを要求する。 私は、物理AIの目標は、人間のオペレーターを複製するのではなく、むしろ、オペレーターの新しいカテゴリを構築することであると考えています。 迷惑やパニックを起こさないオペレーターです。 霧の中を見渡し、サブミリメートルの精度でスカルペルを移動するオペレーターです。 安全な物理AIの未来は 能力 superhuman

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

なぜ物理的なAIは超人間でなければならないのか

About Author

コメント

ラベル

この記事は

Related Stories

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

フロキのヴァルハラがインドのスリランカツアーのアソシエイトスポンサーに加わる

Telegram: クリプト島と本土を結ぶ橋

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

フロキのヴァルハラがインドのスリランカツアーのアソシエイトスポンサーに加わる

Telegram: クリプト島と本土を結ぶ橋

デジタルノマドの皆さん、タイの新しい DTV ビザについて知っておくべきこと

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps