エッジコンピューティングの躍進とその背景

本ブログはエッジコンピューティング機器向け AI 推論処理 IC を開発・提供する quadric.io, Inc. （以下クアドリック）が Web サイトに掲載している以下のホワイトペーパーをサイバートラストが許可を得て翻訳しています。

https://www.quadric.io/post/the-white-paper

エグゼクティブサマリ（要約）

カメラやセンサーが自律型機器に搭載されるようになり、消費電力の低減と演算能力の向上を両立させるソリューションが求められています。

クラウドコンピューティングはデータを保存し処理する方法に革命を起こしましたが、パフォーマンスや帯域幅などいくつかの不利な条件によりエッジ側での判断処理を最小限の遅延で実行する必要があるため、アプリケーションに制限があります。自動運転車、医療技術、ロジスティクスなど、自律性とロボット工学が社会の重要な機能に組み込まれるにつれて、クラウドコンピューティングに固有の高遅延、制限された帯域幅、脆弱なセキュリティ、オフラインアクセスができないといった問題は、深刻な懸念となっています。機器は、複雑で増え続ける外部刺激とアルゴリズムを認識して処理することが求められており、センサーと判断の間にはリアルタイムの直接通信が必要です。このような新たな需要によってエッジスーパーコンピューティングが推進されており、アプリケーションは、データの取得と処理がアクセスネットワークのエッジでありユーザーの近くで行われることが必要となります。

近年、エッジスーパーコンピューティングは非常に進歩していますが、開発者には、再構成可能性、汎用性、および拡張性を備えた統一的な製品アーキテクチャがまだ不足しています。サーバークラスのハードウェアのパワーとパフォーマンスをリソースに制約のあるエッジに備えるために、クアドリックのチームは、低遅延エッジコンピューティングのための世界初かつ唯一の専用プラットフォームを構築しました。私たちのスーパーコンピューターは、未来のアルゴリズムのデプロイを今、可能にします。これにより、開発者はコードをカスタマイズし、OpenCV、Tensorflow、C ++ などの一般的なライブラリやフレームワークを使用してデプロイすることができます。再構成が可能であり、人工知能の幅広いサポート、および高性能コンピューティングにより、開発者はパフォーマンスを損なうことなくアルゴリズムの可能性を広げることができます。

このホワイトペーパーでは、クアドリックの技術プラットフォームと製品ビジョンを紹介し、独自のソフトウェアスタック、製品の概要と実用的なアプリケーション、クアドリックスーパーコンピューターを差別化する技術の計画を紹介します。開発者の経験から何を期待できるか、高性能カーネルを人工知能モデルに組み込む方法、およびカーネルをクアドリックのハードウェア製品に展開する方法を学んでいただけます。ソフトウェアとハードウェアの両方の観点からクアドリックの製品を紹介し、開発者がソフトウェアとハードウェア両方に固有の複雑さを最小限に抑えながら、同時にシステム全体のパフォーマンスを向上させる方法をご案内します。

はじめに ～ エッジコンピューティングの躍進 ～

最近のソフトウェアアルゴリズム、計算性能、ディープラーニング（深層学習）の進歩は、人間と機械の相互作用に革命をもたらしています。これらの発展を交通機関に適用することにより、自律走行車が人や物を安全かつ効率的に運ぶことができます。ドローンの適用では、遠隔地のパイプラインやインフラ資産の安全検査を、人間が危険を冒すことなく行うことができます。産業用アプリケーションでは、開発者は製造プロセスにおける効率、精度、拡張性をより高いレベルで実現することができます。また、民生機器に応用すると、長年の懸案であった自動化を実現し、より多くのことに時間を使うことができるようになります。

エッジ側のマシンインテリジェンス（機械知能）は機器に組み込まれた様々なセンサーがリアルタイムに判断することを拠り所としており、そのために必要とされる計算能力や低遅延性は、現在のクラウドなどのデータ処理インフラが大規模に処理できるレベルより優れています。これらの条件は、データをどこでどのように処理するかに変化をもたらしています。
データセンターは、コンピューティングの一部をデータを送受信する機器の近くに移動させており、より多くの AI 対応機器のユーザーが、クラウドではなくオンサイトでデータを処理することを好むようになってきています。データが外部に送信されるのではなくローカルに保存されるため、特にプライバシーに関して、セキュリティのいくつかの側面が強化されます。エッジコンピューティングは、高性能、低遅延、エネルギー効率に優れた製品がかつてないほど求められる現代のコンピューティングに、新たなイノベーションの道を開くものです。

多くの分野で進歩しているにもかかわらず、最先端のアルゴリズムをエッジに展開する開発者は、リソースに制約を受けてしまいます。ハードウェアとソフトウェアの両方において、エッジに合わせた製品アーキテクチャの利用が制限されているため、タスクやプロセスを改善するマシンインテリジェンス（機械知能）の真の可能性は実現されいません。AI や高性能ワークロードは、開発者がターゲットとなるハードウェアに合わせて調整しますが、その逆はありません。ハードウェアは、これらのワークロードのために専用に作られるべきです。新しい課題に向けてアルゴリズムを編成しようとする開発者は、実験とイノベーションの余地を必要とします。イノベーター向けに提供されているエッジコンピューティング製品では、設計の柔軟性は確保できるかもしれませんが、アイデアを大規模に活用できる市場性のあるアプリケーションにするための処理能力が不足しているのです。

一方で、高性能コンピューティングを提供する製品は、プログラミングの柔軟性に欠けています。開発者は、製品定義が狭いロードマップに、より焦点を絞ったアルゴリズムを合わせようとしますが、その努力がボトルネックになっていることに気づきます。私たちは自身が開発者であることから、すべてのこのような課題に直面してきました。そこで、私たちはサーバークラスのパフォーマンスをエッジにもたらす製品を作るために、クアドリックを設立しました。

セミナーの詳細・お申込みはこちら

本記事に関連するリンク

• 組込み Linux に"プラス"して 長期間の製品ライフサイクルをサポートする 「EM+PLS」
• 長期利用可能な IoT・組込み用 Linux OS「EMLinux」