メインコンテンツへスキップ
サポート・ナレッジベース

GPU で ONNX モデルの Benchmark_app を実行できません

コンテンツタイプ: トラブルシューティング   |   記事 ID: 000095644   |   最終改訂日: 2023/07/24
詳細 解決方法 追加情報

環境

OpenVINO 2023年0月

詳細

  • CPU と GPU で OpenVINO™ 2023.0 Benchmark_appを搭載した ONNX モデルを推定。
  • CPU では推論に成功しましたが、GPU では失敗しました。

解決方法

現在、GPU のダイナミック・シェイプ・サポートはプレビュー機能であり、次の制限があります:

  • 主に自然言語処理 (NLP) モデルをサポートしています。すべての演算と最適化が成功し、ダイナミック・シェイプがサポートされるわけではありません。その結果、特定のモデルがクラッシュしたり、パフォーマンスが大幅に低下したりする可能性があります。
  • ホストデバイスの主なランタイム・オーバーヘッドにより、ダイナミック・シェイプはディスクリート GPU のスタティック・シェイプよりもパフォーマンスが悪い場合があります。
  • 動的ランクはサポートされていません。

追加情報

詳細については、 GPU デバイス を参照してください。

関連製品

本記事は、3 製品に適用します。
インテル® Xeon Phi™ プロセッサー・ソフトウェア OpenVINO™ toolkit パフォーマンス・ライブラリー

免責条項

このページのコンテンツは、元の英語のコンテンツを人力翻訳および機械翻訳したものが混在しています。この内容は参考情報および一般的な情報を提供するためものであり、情報の正確さと完全性を保証するものではありません。インテルは不正確な翻訳があった場合でもいかなる責任を負いません。このページの英語版と翻訳の間に矛盾がある場合は、英語版に準拠します。 このページの英語版をご覧ください。

ご質問はこちらへ

サポートに問い合わせる
サポートに問い合わせる