OpenVINO™推論時間は、複数のプロセスを実行すると長くなります

2 つのプロセスを実行して同じモデルを推論する場合、推論時間は 2 倍になります。

• OpenVINO™を使用してモデルを推論する。
• 推論時間は、単一プロセスを実行した場合、約 300ms です。
• 2つのプロセスを使用する場合、両方のプロセスの推論時間は600msになります。

1. アプリケーションに次の構成を追加します。
   Python*: core.set_property("CPU", {ov.properties.hint.enable_cpu_pinning(False)})
   C++ : core.set_property("CPU", ov::hint::enable_cpu_pinning(false));
2. デモを構築します。

• 既定値の enable_cpu_pinning property is enabled (true or YES) on Linux* and disabled (false or NO) on Windows* and macOS*.
• Linux では、デフォルト設定の enable_cpu_pinning is enabled, which in some scenarios can cause multiple processes to bind to the same CPU core, potentially doubling inference time.
• プロパティを false unbinds inferencing threads from specific CPU cores, allowing the operating system to schedule threads, which may be beneficial in applications with several parallel workloads. に設定する

詳細については、「パフォーマンスに関するヒントとスレッドのスケジューリング」を参照してください。