インテリジェントロボットを含むAIアプリケーションを開発する場合、NVIDIAのJetson Xavierプラットフォームは最適な選択肢の一つです。2019年後半に発表され、市場に投入され始めたばかりのXavier NXは、384コアのVolta GPUと6コアのArm v8 CPUのパワーを組み合わせ、SODIMM（ラップトップメモリモジュール）サイズと形状のパッケージで21 TOPS（1兆演算/秒）の推論性能を実現します。
Xavier NX自体は単なるチップであり、接続するためのI/Oボードを独自に構築する必要があります。しかし、NXを使ってプログラミングとテストを始めたいだけの場合はどうすればよいでしょうか？本日399ドルで発売されるNvidia Xavier NX開発キットには、Xavier NX SoC、強力なファン、そして豊富なポートとピンを備えたI/Oボードなど、独自のAIアプリケーション開発に必要なすべてのものが含まれています。
Nvidia Xavier NX開発キットを実際に試用する機会があり、その推論能力と柔軟性の両方に感銘を受けました。本格的なAI開発に着手したいのであれば、このボードとプラットフォームはコンパクトで比較的手頃な価格です。メーカーや趣味の開発者は明らかにターゲット層ではなく、彼らにはCoral USB Accelerator for AIを搭載したRaspberry Pi、あるいはNvidia独自の99ドルのJetson Nano開発キットの方が間違いなく適しているでしょう。
Nvidia Xavier NX 開発キットの仕様
スワイプして水平にスクロールします
| グラフィックプロセッサ | 384 CUDA コア、48 Tensor コアを備えた Nvidia Volta |
| CPU | 6MB L2 キャッシュと 4MB L3 キャッシュを備えた 6 コア Nvidia Carmel ARM v8 CPU。 |
| ラム | 8GB LPDDR4（オンボード） |
| ストレージ | microSD / M.2 80mmスロット |
| ディスプレイ出力 | HDMI x 1 / ディスプレイポート x 1 |
| USB | USB 3.1（タイプA）×4、microUSB 2.0×1 |
| 接続性 | 802.11ac Wi-Fi、ギガバイトイーサネット |
| カメラポート | 2x CSI-2 ポート |
| GPIO | 40ピンGPIO |
| TDP | 15W、10W（低電力） |
| サイズ | 4.1 x 3.6 x 1.2インチ（103 mm x 90.5 mm x 31 mm） |
Nvidia Xavier NX 開発キットの設計と移植
Xavier NX開発キットは4.1 x 3.6 x 1.2インチで、Raspberry Pi 3Bを2台並べたサイズより少し大きいです。ファンが付属していますが、チップのTDPが15ワットであることを考えると、パッシブ冷却はあまり良いアイデアではないと思います。
これだけの広いボードスペースのおかげで、数多くの便利なポートと接続オプションを活用できます。背面には、USB Type-A 3.1ポートが4つ、ギガビットイーサネット、フルサイズのHDMIポート、そしてフルサイズのDisplayPortが1つずつあります。デュアルモニターをお持ちの場合は、各ポートに1台ずつ接続することで、より広い画面スペースを楽しむことができます。
Xavier NX開発キットにもMicro USBポートが搭載されていますが、Raspberry Piとは異なり、電源ではなくデータ転送に使用されます。開発キットは、バレルアダプターを使用する独自の電源アダプターを介して電源供給されます。レビュー機には65ワットのアダプターが付属していましたが、NVIDIAによると、今後の製品版ではおそらくもう少し小型の45ワットモデルが出荷される可能性があるとのことです。
このボードには、Raspberry Piの主要なアクセサリとの互換性を実現する2つの興味深い機能が搭載されています。2つのCSIカメラコネクタは、新しいRaspberry Pi High Quality Cameraを含む、あらゆるRaspberry Piカメラモジュールで使用できます。また、NVIDIAによると、プログラミング時に適切なPythonライブラリを使用すれば、Raspberry Pi HATで使用できるという40ピンGPIOヘッダーも搭載されています。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
Raspberry Piと同様に、Jetson Xavier NX開発キットはmicroSDカードから起動します。これは非常に便利です。異なるプロジェクト用に複数のOSイメージがあり、それらを切り替えたい場合、カードを1枚取り出して次のカードを挿入するだけで済むからです。残念ながら、microSDカードスロットへのアクセスは少々面倒です。NXモジュールの裏側にあるため、（箱から出した状態で）差し込んだ状態ではボードからわずか数ミリしか出ておらず、大人の指が入るスペースがありません（ピンセットを使うとうまくいきました）。
ボードの裏側には、SSDと内蔵Wi-Fiカードを取り付けるためのM.2スロットがあります。特にモデルをロードする際に高速メディアが必要な場合は、SSDが必須となることがあります。Wi-Fiが内蔵されているのは、ルーターのすぐそばでコーディングする人を想定してイーサネットしか搭載されていなかったJetson Nano開発キットと比べて大きな進歩です。
Xavier NX 開発ボード用ソフトウェア
Jetson Xavier NXは、Ubuntuの改良版であるLinux for Tegraを搭載しています。見た目や操作感は通常のUbuntuと全く同じですが、少なくとも私たちの環境では、特別なNVIDIAの壁紙が用意されていました。
また、画面右上には、電力/パフォーマンスプロファイルを変更して、2コア、4コア、または6コアすべてを使用するように設定できる機能があります。パフォーマンステスト（下記参照）で実行したように、スレッド数の少ないアプリを実行する場合は2コアプロファイルが適していますが、複数の異なる種類の推論を同時に実行する場合は6コアの方が理にかなっています。電力を節約したい場合は、10ワットの2コアまたは4コアモードを選択することもできます。
Xavier NX開発ボードのプログラミング
NvidiaのJetsonプラットフォームは、様々な機械学習タスクに対応するよう最適化された、多様なAI SDKとモデルを提供しています。例えば、Deepstream SDKは顔検出や人物検出といったインテリジェントビデオアナリティクス（IVA）アプリケーションの開発に使用され、Isaac SDKはロボットのトレーニングに特化しています。
また、言語インタープリターの BERT (Bidirectional Encoder Representations from Transformers)、オブジェクトを検出するための Resnet-18、人間の表情をマッピングするための Nvidia Facial landmarks / Gaze モデルなど、事前トレーニング済みのモデルも多数用意されています。これらのモデルは、Python を含むさまざまな言語でプログラムできます。
NVIDIAのプリロードされたコンテナデモを起動すると、4つの異なる推論アプリケーションが同時に実行されている画面が表示されました。左上隅には、様々な動画の中で歩行者を検出し、その周囲に緑色のボックスを描画するアプリケーションが表示されていました。
左下には、人のポーズや立ち方、動き方を検出する別のアプリケーションが表示されていました。右下には、人の目を識別して追跡することで、何を見ているのかを判断する視線検出アプリが表示されていました。
デモで最も興味深かったのは、右上の象限に表示され、5つの異なるトピックについて質問できる自然言語解釈アプリが示されました。私はNFL 2019シーズンのトピックを選択し、マイクを使って「スーパーボウルの優勝者は誰か」などの質問をしました。すると、システムは私のテキストを音声に変換し、そのトピックに関するテキストに基づいて回答しました。残念ながら、ここでのAIの精度は、入力したテキストの質に左右されます。ユーザーの言葉を解釈する機能はあまりありません。NFLシーズンに関するテキストは1段落しかなかったため、「レギュラーシーズンの試合数は？」など、グラフにない情報を質問すると、奇妙な回答が返ってきました。
Tom's Hardwareの歴史に基づいた独自のトピックを作成することもできました。Tom's Hardwareは1996年に設立されたと書いたので、「Tom's Hardwareはいつ設立されましたか？」と質問したところ、システムは正しい答えを返してくれました。しかし、「Tom's Hardwareは何年存在していますか？」と質問したところ、システムは計算して「24年」と答えるのではなく、「1996年」と返しました。
事前に読み込んだ動画から推論エンジンがポーズや人物を識別する様子を見るのも一興ですが、実際にライブでテストするのはまた別の話です。USBウェブカメラを接続し、私がポーズをとるとソフトウェアが私の特徴を正確に認識する様子を観察してみました。
なぜ人の視線やポーズを識別したいのでしょうか？もしあなたがロボットなら、相手があなたと交流しようとしているかどうかがわかるので、それは重要です。例えば、ホテルに接客ロボットがいて、私がその隣に立って友人と話しているとします。会話を中断してエレベーターへの行き方を尋ねられたら困ります。しかし、ロボットが私がじっと見つめていることを知れば、邪魔にならずに会話を始めることができます。
Nvidia Xavier NX 開発キットのパフォーマンス
Nvidia Jetson Xavier NXボードのポイントは、クラウドではなくエッジでAIを実行することです。そのため、パフォーマンスが非常に重要になり、性能の低いプロセッサでは4つのアプリケーションを同時に実行することはできません。
Nvidiaは、Xavier NXは、128コアの控えめなMaxwell CPUとクアッドコアARM A57プロセッサ、そして4GBのRAMを搭載した99ドルのJetson Nanoよりも10倍高速だと主張しています。Xavier NXのコア数増加と改良されたアーキテクチャを考えると、これは納得できます。
Nvidia が推奨するベンチマークのいくつかを Xavier NX で実行し、Jeston Nano の結果と比較しました (Nano の結果は、Nvidia が 2019 年 3 月に Nano について発表したプレス資料からのものであり、Nano をテストできなかったことに注意してください。ただし、これらの数値は Xavier NX が発表されるずっと前に公開されました)。
スワイプして水平にスクロールします
| AIテストモデル | Jetson Xavier NX (fps) | ジェットソンナノ（fps） |
|---|---|---|
| ResNet-50 | 871.6 | 36 |
| インセプション v4 | 317.1 | 11 |
| オープンポーズ | 231.6 | 14 |
| VGG-19 | 63.4 | 10 |
| ウネット | 142.4 | 18 |
| タイニー・ヨロ | 568.9 | 25 |
| 超解像度 | 157.2 | 15 |
上の表からわかるように、これらのモデルの一部では、Xavier NXはNanoよりも最大20倍高速です。このパフォーマンスの向上により、入力ストリームへの反応速度が向上するだけでなく、複数のアプリケーションを同時に処理することが可能になります。これは、動き、会話、そして人間のボディランゲージや音声の解釈を同時に行うことができるロボットを開発する際に不可欠です。
開発キットとXavier NXプロダクションモジュールの比較
少し不思議なことに、開発キットはスペック的には同等であるにもかかわらず、Xavier NX SoC単体よりもわずかに安価です。SoC単体の販売価格は現在459ドルで、開発に必要なI/Oボード付きのSoC単体よりも60ドル高くなります。しかし、Nvidiaは、開発キットのボードは「量産仕様のコンポーネント」を使用しており、5～10年の動作寿命を想定して設計されていると説明しています。工場向けのロボットを複数開発するのであれば、60ドルよりも信頼性の方が重要になるでしょう。
開発キットと製品レベルのボードとのもう一つの違いは、SoCに16GBのオンボードeMMCストレージが搭載されているため、別途microSDカードを用意する必要がないことです。組み込みシステムでは、障害発生の懸念からmicroSDカードを追加しない方が安全でしょう。
結論
本格的なプロ仕様のAI搭載ロボットの開発をお考えなら、NVIDIAのJetson Xavier NXは最適な選択肢です。そして、ロボットの開発を始める前に、Xavier NX開発キットが必要になります。
メーカーは、開発キットを使って単発のプロジェクトを楽しむかもしれません。Raspberry PiカメラやHATSが使えるのは大きなメリットです。しかし、これだけの金額を出すなら、ただ楽しむだけでは満足できないはずです。
Avram Piltchは特別プロジェクト担当の編集長です。仕事で最新ガジェットをいじったり、展示会でVRヘルメットを装着したりしていない時は、スマートフォンのルート化、PCの分解、プラグインのコーディングなどに取り組んでいます。技術的な知識とテストへの情熱を活かし、Avramはノートパソコンのバッテリーテストをはじめ、数多くの実環境ベンチマークを開発しました。
