MERAコンパイラとソフトウェアフレームワーク
Supported Frameworks & Applications
MERAコンパイラとフレームワーク
EdgeCortix® MERAは、最新のニューラルネットワークモデルをフレームワークに依存しない方法で展開するための堅牢なプラットフォームを提供するコンパイラとソフトウェアフレームワークです。MERAは、Dynamic Neural Accelerator(DNA)を使用して、ディープニューラルネットワークグラフのコンパイルとAI推論を可能にし、事前学習済みのディープニューラルネットワークを展開するために必要なツール、API、コードジェネレータ、そしてランタイムを提供します。
MERAは、最も困難と言われている生成系AIアプリケーションをエッジで処理するように設計されており、デザイナーは視覚、言語、音声、その他多くのアプリケーションで使用する新しいコンテンツを作成することができます。
MERA には、AMD、Intel、Arm、RISC-V などの主要プロセッサに対する異機種サポートが組み込まれているため、EdgeCortix AI プラットフォームを既存のシステムに迅速かつ容易に統合できます。事前に定義され最適化されたモデルは、Hugging FaceやModel Libraryから直接入手することができ、その後キャリブレーションと量子化が行われます。
ワークフローを提供することで、チップレベルのハードウェアアーキテクチャの細部に精通していなくても、これらのモデルを開発できます。 MERAは、Apache TVMとMLIRの機能を活用しており、フロントエンドはプロジェクトチームに簡単に提供できるようにオープンソース化されています。
使い慣れたAI推論ワークフローに統合
MERAは、使い慣れたニューラルネットワークモデルのワークフローでモデリングから展開まで、エッジAI推論のためのスタック全体を提供し、既存システムとの容易な統合をサポートすることで、市場投入までの時間を短縮します。MERAは、SAKURA-IIと組み合わせることで、業界をリードするエネルギー効率と低レイテンシを実現し、最新のビジョンおよび生成系AIモデルに最適化されています。
MERAは、Dynamic Neural Accelerator(DNA)を用いて、ディープニューラルネットワークのグラフコンパイルとAI推論を可能にするコンパイラとソフトウェアフレームワークです。簡単なキャリブレーションと量子化ステップを経て、事前学習済みのディープニューラルネットワークをデプロイするために必要なツール、API、コードジェネレーターそしてランタイムを提供します。
MERAの主な利点
- Hugging FaceやEdgeCortix Model Libraryから、事前に定義されたモデルや最適化されたモデルをソースとして使用可能
- 生成系AIモデル - Llama-2、Stable Diffusion、Whisper、DETR、DistillBert、DINO、ViT
- ワークフロー統合とカスタマイズのためのPythonとC++インターフェースをサポート
- MLフレームワークであるPyTorch、TensorFlow Lite、ONNXをネイティブサポート
- ユーザー定義モデルのトレーニング後のキャリブレーションと量子化
- 推論レイテンシとスループットのスタンドアローン推定に対応
AI推論の開発・デプロイメントに必要な全てを提供
- ランタイムで再構成可能なDNA IP
- スタンドアローンで使用するためのシミュレーションとプロファイリング
- 低レベルIR(中間表現)
- ホストプロセッサのコード生成
- 高レベルのグラフ分割
- 一般的な機械学習フレームワーク用のAPI
- モデルのキャリブレーションと量子化
- Model Libraryの事前学習済みアプリケーション
MERAソフトウェアは、畳み込みから最新の生成系AIモデルまで、多様なニューラルネットワークをサポート
トランスフォーマーモデル | 畳み込みモデル | ||
DETR DINO Whisper Encoder / Decoder DistillBERT DistilBert - SST2 Nano-GPT GPT-2 - 150M Distil-GPT-2 (HF) GPT-2 (HF) - 117M GPT-2 (HF) - medium / large GPT-2 - XL (HF) - 1.5B |
TinyLama (HF) - 1.1B Phi-2 (HF) - 3B Open-Llama2 (HF) - 7B CodeLlama (HF) - 7B Mistral-v0.2 (HF) - 7B Llama3 - 8B ViT (HF) / CLIP / Mobile-ViT ConvNextV1/V2 (HF) SegFormer Roberta-Emotion StableDiffusion V1.5 |
ResNet 18 ResNet 50/101 Big YoloV3 TinyYolo V3 Yolo V5/V6/V8 YoloX EfficientNet-Lite EfficientNet-V2 SFA3D |
MonoDepth - MiDaS U-Net MoveNet DeepLab MobileNet V1-V2 MobileNetV2-SSD GladNet ABPN SCI |
トランスフォーマーモデル |
DETR DINO Whisper Encoder / Decoder DistillBERT DistilBert - SST2 Nano-GPT GPT-2 - 150M Distil-GPT-2 (HF) GPT-2 (HF) - 117M GPT-2 (HF) - medium / large GPT-2 - XL (HF) - 1.5B TinyLama (HF) - 1.1B Phi-2 (HF) - 3B Open-Llama2 (HF) - 7B CodeLlama (HF) - 7B Mistral-v0.2 (HF) - 7B Llama3 - 8B ViT (HF) / CLIP / Mobile-ViT ConvNextV1/V2 (HF) SegFormer Roberta-Emotion StableDiffusion V1.5 |
畳み込みモデル |
ResNet 18 ResNet 50/101 Big YoloV3 TinyYolo V3 Yolo V5/V6/V8 YoloX EfficientNet-Lite EfficientNet-V2 SFA3D MonoDepth - MiDaS U-Net MoveNet DeepLab MobileNet V1-V2 MobileNetV2-SSD GladNet ABPN SCI |
SAKURA-II M.2モジュール&PCIeカード
EdgeCortix SAKURA-IIは、ソフトウェア開発やAIモデル推論タスクのホストシステムに容易に統合できます。
M.2モジュールまたはPCIeカードを予約注文して、ぜひ試してみてください!
EdgeCortix エッジAIプラットフォーム
フルスタックソリューション: エコシステムの価値を長期的に高める統合プラットフォーム
「エッジでの情報処理における大きな変化を考慮すると、企業は今、データキュレーションとAIによる意思決定が一緒に行えるクラウドレベルに近いパフォーマンスを求めています。このような背景から、省電力でコストパフォーマンスの高いインテリジェントなソリューションを必要とするさまざまな分野の実用的なビジネスニーズが高まり、EdgeCortixのソリューションセットの市場機会はますます広がっています。データとデバイスの両方が世界的に急激に増加していることを考えると、既存のソリューションよりも桁外れに優れたエネルギー効率と低い総所有コストでパフォーマンスを実現できる業界をリードするIPポートフォリオを持ち、エッジAI市場に革新を起こしているEdgeCortixを今後サポートしていきたいと思います。」
ソフトバンクの先端技術研究所 所長である湧川隆次氏は、次のように述べています。「ネットワークインフラの性能向上と省電力化は、将来にかけて大きな課題です。EdgeCortixは、これらの課題を同時に解決するために必要なIPと技術に関する専門知識の両方を提供するパートナーとして期待しています。私たちは、今後も質が高いネットワークを提供するため、EdgeCortixと協力して、さらなる性能向上と省電力を実現する最適なアクセラレーターの研究を進めていきます」
「EdgeCortixは、市場において実にユニークなポジションにあります。主要な産業分野でAIアクセラレーションを活用した大規模なビジネスニーズに対応していることに加え、市場参入のためのソリューションをどのように開発するかというそのビジネス戦略が、大きな差別化要因となっています。半導体企業は少し近視眼的傾向があり、ほとんどの企業は、いかに素晴らしいソフトウエアのコードを提供するか、または、半導体のハード設計に注力しているかのどちらかです。しかし、EdgeCortixの特徴は、ソフトウェアとハードウェアIPの協調設計を行い、顧客のニーズに応じたソリューションを提供するというアプローチにあります。ソフトウェア中心のハードウェア・エコシステムで提供するこのアプローチこそが、同社の成長のキーであり、AIアクセラレーションの分野では他に類を見ない企業です。」
シリコンバレー・ジャパン・プラットフォーム エグゼクティブ・コミッティ・メンバー
「業界全体において、AI/機械学習のワークロードがかつてないほど増加する中、業界を牽引するIPプロバイダであるEdgeCortixと共に提供するソリューションは、当社のIntel Agilex FPGAベースの製品ポートフォリオを完全なものにします。当社の顧客は、現在だけでなく、将来の様々なビジネスニーズにおいて、リスクやコストを下げながら、パフォーマンスを向上させることができるという高い水準のAI推論ソリューションを求めていました。」
「多くのお客様がAI技術を含むアプリケーションソフトウェアを実装することが予想される ため、RZ/V MPUシリーズにMERAコンパイラと関連ツールセットを追加することに価値が あることをすぐに認識しました。お客様のニーズを満たすためにイノベーションを推進する 当社では、EdgeCortixと協力し、堅牢で高性能かつ柔軟なAI推論ソリューションを迅速にお 客様に提供します。EdgeCortixは素晴らしいパートナーであり、継続的な関係を築くこと で、我々とエンドユーザーに大きな価値をもたらすであろう今後の機会と可能性に期待して います。」