Я использую операцию embedding_lookup для генерации плотных векторных представлений для каждого токена в моем документе, которые передаются в сверточную нейронную сеть (сетевая архитектура аналогична архитектуре вWildML статья).

Все работает правильно, но когда я дополняю свой документ, вставляя в него значение заполнения, поиск встраивания также генерирует вектор для этого токена. Я думаю, что этот подход может изменить результаты в задаче классификации. То, чего я хочу достичь - это нечто похожее на то, что ФакелLookupTableMaskZero делает.

1) Верно ли то, что я хочу сделать?

2) Уже реализовано что-то подобное?

3) Если нет, как я могу замаскировать значение отступа, чтобы предотвратить генерацию соответствующего вектора для него?

Заранее спасибо,

Alessandro