記事 ID: 000059690 コンテンツタイプ: 製品情報 & ドキュメント 最終改訂日: 2023/03/02

モデルの複雑さと推論スループットの関係は何ですか?

環境

NCS2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
概要

ベンチマーク・ツールで取得した FPS に影響を与える可能性がある要因

詳細

ベンチマーク・ツールが、ギガ浮動小数点演算 (GFLOP) で定義される、非常に異なる複雑な 2 つのモデルに対して同様の推論 FPS を報告する理由を判断できません。

解決方法
  • FLOP の数が多いと、FPS の数が減った場合に直接比例します。ただし、FPS とFLOP の間では公平な比較はありません。
  • ベンチマーク・ツールで取得した FPS に影響を与える可能性がある要因:
    • シンクロナスおよびアシンクロナス・モードで実行
    • ストリーム数
    • 推論リクエストの数
追加情報

インテル® NCS2は、16 個のプログラマブル・シェーブ・コアと専用のニューラル・コンピュート・エンジンを備えたインテル® Movidius™ Myriad™ X VPU を基盤としています。この機能は、ネットワークのパフォーマンスを向上させます。

このページのコンテンツは、元の英語のコンテンツを人力翻訳および機械翻訳したものが混在しています。この内容は参考情報および一般的な情報を提供するためものであり、情報の正確さと完全性を保証するものではありません。インテルは不正確な翻訳があった場合でもいかなる責任を負いません。このページの英語版と翻訳の間に矛盾がある場合は、英語版に準拠します。 このページの英語版をご覧ください。