Где я должен применить выпадение к сверточному слою?

Поскольку слово «слой» часто означает разные вещи применительно к сверточному слою (некоторые рассматривают все путем объединения как один слой, другие рассматривают свертку, нелинейность и объединение как отдельные «слои»;см. рис. 9.7) мне не ясно, где применять выпадение в сверточном слое.

Происходит ли отсев между нелинейностью и объединением?

Например, в TensorFlow это будет что-то вроде:

kernel_logits = tf.nn.conv2d(input_tensor, ...) + biases
activations = tf.nn.relu(kernel_logits)
kept_activations = tf.nn.dropout(activations, keep_prob)
output = pool_fn(kept_activations, ...)

Ответы на вопрос(1)

Ваш ответ на вопрос