TensorFlow в производстве для прогнозов в реальном времени в приложении с высоким трафиком - как использовать?

На каком этапе создается тензор потока графа?

Оптимизатор обычно запускает один и тот же граф вычислений за несколько шагов до сходимости. Настраивает ли тензорный поток график в начале и повторно исполь...

Это потокобезопасно при использовании tf.Session в сервисе логического вывода?

Мне трудно представить, как выглядит ваш код из описания. Можете ли вы опубликовать свой текущий код как редактирование вопроса, вместе с полным стеком трассировки ошибки?

ртывание Tensorflow Serving и запуск теста для Inception-V3. Работает отлично.Теперь хотелось бы сделать дозировку для подачи на Inception-V3. Например. хоте...

Чтобы исправить это:

ько что закончил тренировать свою модель, только чтобы узнать, что я экспортировал модель для обслуживания, у которой были проблемы с подписями. Как мне их о...

Вам просто нужно заменить существующий файл pbtxt своим.

 пример с данными и пояснениями:

ю о странице «Обслуживание модели Tensorflow» https://www.tensorflow.org/serving/serving_basic [https://www.tensorflow.org/serving/serving_basic] но эти функции предполагают, что вы используете tf.Session (), чего нет в учебнике DNNClassifier ...

 --model_name, --model_base_path игнорируются.). Отредактировано сейчас

могу использовать несколькоtensorflow модели? Я использую докер-контейнер. model_config_list: { config: { name: "model1", base_path: "/tmp/model", model_platform: "tensorflow" }, config: { name: "model2", base_path: "/tmp/model2", ...

Да уж. Вам нужно будет сохранить модель с несколькими головками. Взгляните на образец переписи тензора ядра двигателя (без оценки)

я изо всех сил пытался понять, каковы основные задачи serve_input_fn (), когда обученная модель экспортируется в Tensorflow для служебных целей. В Интернете есть несколько примеров, которые объясняют это, но у меня проблемы с определением для ...

(1) TF имеет только один тип - байты. В основном, если вы используете имя _bytes, ожидается, что данные будут {"b64": ...}, но внутренний тип TF всегда будет байтовым, даже для "строк". (2) Возможно, вы правы в этом. Если вы попробовали приведенные выше инструкции, но они не работают, дайте мне знать, и я смогу обновить пост.

ная документация Google(см. Двоичные данные в прогнозе ввода) [https://cloud.google.com/ml-engine/docs/prediction-overview#prediction_input_data] состояния: Закодированная строка должна быть отформатирована как объект JSON с одним ключом с ...