Importe um arquivo Tensorflow frozen_model.pb simples e faça previsões em C ++
Estou tentando importar um gráfico que exportei do Tensorflow Python para o Tensorflow C ++. Já reimportei com sucesso o gráfico para o Python. A única coisa que quero agora é escrever o mesmo código em C ++, mas não tenho certeza sobre as funções da API C ++ e o uso que a documentação no site do Tensorflow não é boa o suficiente.
Aqui está o código C ++ que encontrei até agora.
C ++:
namespace tf = tensorflow;
tf::Session* session;
tf::Status status = tf::NewSession(tf::SessionOptions(), &session);
checkStatus(status);
tf::GraphDef graph_def;
status = ReadBinaryProto(tf::Env::Default(), "./models/frozen_model.pb", &graph_def);
checkStatus(status);
status = session->Create(graph_def);
checkStatus(status);
tf::Tensor x(tf::DT_FLOAT, tf::TensorShape());
tf::Tensor y(tf::DT_FLOAT, tf::TensorShape());
x.scalar<float>()() = 23.0;
y.scalar<float>()() = 19.0;
std::vector<std::pair<tf::string, tf::Tensor>> input_tensors = {{"x", x}, {"y", y}};
std::vector<string> vNames; // vector of names for required graph nodes
vNames.push_back("prefix/input_neurons:0");
vNames.push_back("prefix/prediction_restore:0");
std::vector<tf::Tensor> output_tensors;
status = session->Run({}, vNames, {}, &output_tensors);
checkStatus(status);
tf::Tensor output = output_tensors[0];
std::cout << "Success: " << output.scalar<float>() << "!" << std::endl;
session->Close();
return 0;
O problema que estou tendo com o código c ++ atual acima é que ele diz que não pode encontrar nenhuma operação com o nome deprefix/input_neurons:0
. Embora exista uma operação no gráfico, porque quando importo esse gráfico no código Python (mostrado abaixo), ele funciona perfeitamente.
Aqui está o código Python para importar o gráfico com sucesso.
Python: (Funciona perfeitamente bem)
def load_graph(frozen_graph_filename):
# We load the protobuf file from the disk and parse it to retrieve the
# unserialized graph_def
with tf.gfile.GFile(frozen_graph_filename, "rb") as f:
graph_def = tf.GraphDef()
graph_def.ParseFromString(f.read())
# Then, we can use again a convenient built-in function to import a graph_def into the
# current default Graph
with tf.Graph().as_default() as graph:
tf.import_graph_def(
graph_def,
input_map=None,
return_elements=None,
name="prefix",
op_dict=None,
producer_op_list=None
)
return graph
# We use our "load_graph" function
graph = load_graph("./models/frozen_model.pb")
# We can verify that we can access the list of operations in the graph
for op in graph.get_operations():
print(op.name) # <--- printing the operations snapshot below
# prefix/Placeholder/inputs_placeholder
# ...
# prefix/Accuracy/predictions
# We access the input and output nodes
x = graph.get_tensor_by_name('prefix/input_neurons:0')
y = graph.get_tensor_by_name('prefix/prediction_restore:0')
# We launch a Session
with tf.Session(graph=graph) as sess:
test_features = [[0.377745556,0.009904444,0.063231111,0.009904444,0.003734444,0.002914444,0.008633333,0.000471111,0.009642222,0.05406,0.050163333,7e-05,0.006528889,0.000314444,0.00649,0.043956667,0.016816667,0.001644444,0.016906667,0.00204,0.027342222,0.13864]]
# compute the predicted output for test_x
pred_y = sess.run( y, feed_dict={x: test_features} )
print(pred_y)
Atualizar
Eu posso imprimir as operações do script python. Aqui está a captura de tela.
Aqui está o erro que recebo.