Верна ли моя реализация стохастического градиентного спуска?

Я пытаюсь развить стохастический градиентный спуск, но я не знаю, правильно ли он на 100%. Стоимость, сгенерированная моим алгоритмом стохастического градиентного спуска, иногда очень далека от стоимости, сгенерированной FMINUC или ...

Верна ли моя реализация стохастического градиентного спуска?

Почему веса нейронных сетей должны быть инициализированы случайными числами?

Я пытаюсь построить нейронную сеть с нуля. Во всей литературе по ИИ существует консенсус, что веса должны быть инициализированы случайными числами, чтобы сеть сходилась быстрее. Но почему начальные веса нейронных сетей инициализируются как ...

Почему веса нейронных сетей должны быть инициализированы случайными числами?

Я пытаюсь построить нейронную сеть с нуля. Во всей литературе по ИИ существует консенсус, что веса должны быть инициализированы случайными числами, чтобы сет...

Многовариантный градиентный спуск в Matlab

Я делаю градиентный спуск в Matlab для нескольких переменных, и код не получает ожидаемые тэты, которые я получил с помощью обычного уравнения. то есть: theta = 1.0e + 05 * 3.4041 1.1063 -0.0665 с нормальным уравнением. Я реализовал. И с помощью ...

Многовариантный градиентный спуск в Matlab

Я делаю градиентный спуск в Matlab для нескольких переменных, и код не получает ожидаемые тэты, которые я получил с помощью обычного уравнения. то есть: thet...