モデルサーバーでRESTを使用して予測を要求することは可能ですかOpenVINO™?
コンテンツタイプ: 互換性 | 記事 ID: 000098156 | 最終改訂日: 2024/03/21
モデル・サーバーで REST を使用して予測を要求OpenVINO™ことができません。
次のコードを使用して、OpenVINO™ モデル サーバーで REST を使用して予測を要求します。
from ovmsclient import make_http_client
client = make_http_client("localhost:8000")
with open("img.jpeg", "rb") as f:
data = f.read()
inputs = {"input_name": data}
results = client.predict(inputs=inputs, model_name="my_model")
TensorFlow* Serving API を参照してください。