Ahora hemos usado TensorFlow para entrenar y exportar un modelo. Podemos implementar el servicio de inferencia con este modelo de la misma manera quetensorflow/serving hace.

Tengo una pregunta sobre si eltf.Session El objeto es seguro para subprocesos o no. Si es cierto, podemos inicializar el objeto después de comenzar y usar el objeto singleton para procesar las solicitudes concurrentes.