モデルの複雑さと推論スループットの関係は何ですか?
コンテンツタイプ: 製品情報 & ドキュメント | 記事 ID: 000059690 | 最終改訂日: 2023/03/02
ベンチマーク・ツールが、ギガ浮動小数点演算 (GFLOP) で定義される、非常に異なる複雑な 2 つのモデルに対して同様の推論 FPS を報告する理由を判断できません。
インテル® NCS2は、16 個のプログラマブル・シェーブ・コアと専用のニューラル・コンピュート・エンジンを備えたインテル® Movidius™ Myriad™ X VPU を基盤としています。この機能は、ネットワークのパフォーマンスを向上させます。