web-dev-qa-db-ja.com

他の言語環境でTensorFlowのディープラーニングモデルを使用する

私はTensorFlowにかなりの経験があり、C#プロダクション環境でTensorFlowトレーニング済みモデルを使用することで最終的には最高潮に達するプロジェクトに着手しようとしています。基本的に、C#環境に入るライブデータがあり、最終的にはTensorFlowでのモデルの出力に基づいて決定を出力するか、特定のアクションを実行する必要があります。これは基本的に、既存のインフラストラクチャの制約にすぎません。

データをディスクに書き込んでからアプリケーションのPython部分を呼び出し、最後にPythonアプリケーションによる結果出力を読み取るなど、これを実装するためのいくつかの潜在的に悪い方法を考えることができます。それに基づいてアクションを実行します。ただし、これは低速です。

C#とPythonベースのTensorflowの間でこれと同じ統合された関係を実現するより速い方法はありますか? いくつかの方法があるようです C++とTensorFlowでこれを行うにはわかりますが、C#はどうですか?

13
Alex Alifimoff

これは TensorFlow Serving の主要なユースケースであり、トレーニングされたTensorFlowモデルで推論を実行できるC++プロセスを作成し、 gRPC で推論リクエストを処理できます。 gRPCがサポートする の任意の言語でクライアントコードを記述できます。 MNISTチュートリアルをご覧ください: C++ server および Python client コンポーネント。

10
mrry