MULTI プラグインを使用して 2 つのインテル® ニューラル・コンピュート・スティック 2 (NCS2) で推論を行う際に推論時間を短縮できない

• MULTI プラグインを使用した 2 つの NCS2 で推論された YOLOv4 モデル MULTI:MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480.
• 推論の時間が短縮されませんでした。

複数のNCS2でマルチプラグインを使用する最良の方法は、各NCS2を 設定 し、上にマルチデバイスを 作成 することです。

from openvino.inference_engine import IECore

ie = IECore()

myriad1_config = {}
myriad2_config = {}
ie.set_config(config=myriad1_config, device_name="MYRIAD.3.1-ma2480")
ie.set_config(config=myriad2_config, device_name="MYRIAD.3.3-ma2480")
# Load the network to the multi-device, specifying the priorities
exec_net = ie.load_network(
network=net, device_name="MULTI", config={"MULTI_DEVICE_PRIORITIES": "MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480"}
)
# Query the optimal number of requests

#Use -nireq 10 to get maximum FPS.
nireq = exec_net.get_metric("OPTIMAL_NUMBER_OF_INFER_REQUESTS")

個々のデバイスを設定し、上にマルチデバイスを作成するを参照してください。