Интуитивное понимание скрытого слоя MNIST

Для простейшего решения MNIST с 1 скрытым слоем могу ли я понять количество скрытых нейронов как количество частей, на которые мы делим входные данные? Например: [784,30,10] Могу ли я разделить 784 пикселя на 30 маленьких изображений (784/30 пикселей в каждом изображении), а затем выполнить вычисления? Спасибо!


person Demon    schedule 25.05.2017    source источник


Ответы (1)


Я не совсем понимаю, что вы имеете в виду. Если у вас есть многоуровневая сеть, например [784, 30, 10], у вас есть 784 входных нейрона, 30 скрытых нейронов и 10 выходных нейронов. Нейроны ничего не знают о «пикселях», это просто параметры. Сеть в основном вычисляет 30 значений из первого ввода, а вывод вычисляет 10 значений из предыдущих 30 значений.

Могу ли я сказать, что делю 784 пикселя на 30 небольших изображений (784/30 пикселей в каждом изображении), а затем выполняю расчет?

Нет, поскольку нейрон — это не образ.

person Thomas Wagenaar    schedule 25.05.2017
comment
Итак, я понимаю, что скрытый слой — это просто абстракция реального ввода, нейроны в скрытом слое также могут быть чем-то большим, чем ввод. Это правильно? - person Demon; 25.05.2017
comment
@Демон точно! Каждый скрытый слой представляет собой абстракцию реального ввода по отношению к желаемому результату. Нейронов в скрытом слое может быть любое количество, независимо от размера входа/выхода. - person Thomas Wagenaar; 25.05.2017