Resultados de la búsqueda a petición "tensorflow-serving"
TensorFlow en producción para predicciones en tiempo real en aplicaciones de alto tráfico: ¿cómo usarlo?
¿Cuál es la forma correcta de utilizar TensorFlow para predicciones en tiempo real en una aplicación de alto tráfico? Idealmente, tendría un servidor / clúster que ejecutara Tensorflow escuchando en uno o varios puertos donde puedo conectarme ...
¿Es seguro para subprocesos cuando se usa tf.Session en el servicio de inferencia?
Ahora hemos usado TensorFlow para entrenar y exportar un modelo. Podemos implementar el servicio de inferencia con este modelo de la misma manera quetensorflow/serving hace. Tengo una pregunta sobre si eltf.Session El objeto es seguro para ...
¿Cómo hacer lotes en Tensorflow Serving?
Implementé Tensorflow Serving y ejecuté la prueba para Inception-V3. Funciona bien. Ahora, me gustaría hacer lotes para servir para Inception-V3. P.ej. quisiera enviar 10 imágenes para predicción en lugar de una. ¿Como hacer eso? ¿Qué archivos ...
¿Cómo cambio las firmas de mi modelo guardado sin volver a entrenar el modelo?
Acabo de terminar de entrenar mi modelo solo para descubrir que exporté un modelo para servir que tenía problemas con las firmas. ¿Cómo los actualizo? (Un problema común es configurar la forma incorrecta para CloudML Engine).
Convierta un proto de gráfico (pb / pbtxt) en un modelo guardado para utilizarlo en TensorFlow Serving o Cloud ML Engine
He estado siguiendo elTensorFlow para poetas 2 [https://codelabs.developers.google.com/codelabs/tensorflow-for-poets-2]codelab en un modelo que he entrenado y he creado un gráfico congelado y cuantificado con pesas incrustadas. Está capturado en ...
¿Cómo puedo usar el servicio de tensorflow para múltiples modelos?
¿Cómo puedo usar múltiplestensorflow modelos? Yo uso el contenedor docker. model_config_list: { config: { name: "model1", base_path: "/tmp/model", model_platform: "tensorflow" }, config: { name: "model2", base_path: "/tmp/model2", ...
¿Qué hace google cloud ml-engine cuando una solicitud Json contiene "_bytes" o "b64"?
La documentación de google cloud(Ver datos binarios en la entrada de predicción) [https://cloud.google.com/ml-engine/docs/prediction-overview#prediction_input_data] estados: Su cadena codificada debe formatearse como un objeto JSON con una sola ...
Ingrese múltiples archivos en el conjunto de datos de Tensorflow
Tengo el siguiente input_fn. def input_fn(filenames, batch_size): # Create a dataset containing the text lines. dataset = tf.data.TextLineDataset(filenames).skip(1) # Parse each line. dataset = dataset.map(_parse_line) # Shuffle, repeat, and ...
TensorFlow v1.10 + ¿cargar el modelo guardado con una ubicación diferente en el dispositivo o establecer manualmente la ubicación dinámica del dispositivo?
Así que en la guía de TensorFlow para usar GPU [https://www.tensorflow.org/guide/using_gpu#manual_device_placement] hay una parte sobre el uso de múltiples GPU en una "forma de múltiples torres": ... for d in ['/device:GPU:2', '/device:GPU:3']: ...
¿En qué etapa se configura un gráfico de tensorflow?
Un optimizador generalmente ejecuta el mismo gráfico de cálculo para muchos pasos hasta la convergencia. ¿Tensorflow configura el gráfico al principio y lo reutiliza para cada paso? ¿Qué sucede si cambio el tamaño del lote durante ...
Página 1 de 2