Eu tenho trabalhado com os conjuntos de dados e feature_columns no tensorflow (https://developers.googleblog.com/2017/11/introducing-tensorflow-feature-columns.html) Vejo que eles têm recursos categóricos e uma maneira de criar recursos de incorporação a partir de recursos categóricos. Mas, ao trabalhar em tarefas PNL, como criamos uma única pesquisa de incorporação?

Por exemplo: considere a tarefa de classificação de texto. Cada ponto de dados teria muitas colunas de texto, mas elas não seriam categorias separadas. Como criamos e usamos uma única pesquisa de incorporação para todas essas colunas?

Abaixo está um exemplo de como atualmente estou usando os recursos de incorporação. Estou criando um recurso categórico para cada coluna e usando isso para criar incorporação. O problema seria que as combinações para a mesma palavra poderiam ser diferentes para colunas diferentes.

def create_embedding_features(key, vocab_list=None, embedding_size=20):
    cat_feature = \
        tf.feature_column.categorical_column_with_vocabulary_list(
            key=key,
            vocabulary_list = vocab_list
            )
    embedding_feature = tf.feature_column.embedding_column(
            categorical_column = cat_feature,
            dimension = embedding_size
        )
    return embedding_feature

le_features_embd = [create_embedding_features(f, vocab_list=vocab_list)
                     for f in feature_keys]