新しい CPU での推論 INT8 モデルは、古い CPU よりも高速であることが期待されていますか?
コンテンツタイプ: 製品情報 & ドキュメント | 記事 ID: 000091932 | 最終改訂日: 2023/05/18
新しい CPU で推論された INT8 モデルと推論速度は、古い CPU での推論よりも高速です。
古い CPU での低速推論は、システム構成とハードウェアの仕様に基づくと予測されます。
特定のハードウェア構成での推論パフォーマンスについては、 インテル® ディストリビューションの OpenVINO™ ツールキットベンチマーク結果 を参照してください。