Jetzt haben wir TensorFlow zum Trainieren und Exportieren eines Modells verwendet. Wir können den Inferenzdienst mit diesem Modell genauso implementieren wie mittensorflow/serving does.

Ich habe eine Frage, ob dastf.Session object ist threadsicher oder nicht. Wenn dies zutrifft, können wir das Objekt nach dem Start initialisieren und das Singleton-Objekt verwenden, um die gleichzeitigen Anforderungen zu verarbeiten.