Как повысить точность работы сети на MNIST

Я следовал этому коду:
https://github.com/HyTruongSon/Neural-Network-MNIST-CPP

Это довольно легко понять. Точность 94%. Я должен преобразовать его в сеть с более глубокими слоями (от 5 до 10). Чтобы я чувствовал себя комфортно, я добавил только еще один слой. Тем не менее, независимо от того, сколько я тренируюсь, точность не превышает 50%. Я добавил 256 нейронов в каждом скрытом слое.
Вот как я изменил свой код:
Я добавил дополнительный слой, как это:

// From layer 1 to layer 2. Or: Input layer - Hidden layer
double *w1[n1 + 1], *delta1[n1 + 1], *out1;

// From layer 2 to layer 3. Or; Hidden layer - 2Hidden layer
double *w2[n2 + 1], *delta2[n2 + 1], *in2, *out2, *theta2;

// From layer 3 to layer 4. Or; Hidden layer - Output layer
double *w3[n3 + 1], *delta3[n3 + 1], *in3, *out3, *theta3;

// Layer 3 - Output layer
double *in4, *out4, *theta4;
double expected[n4 + 1];

Часть прямой связи модифицируется следующим образом:

void perceptron() {
for (int i = 1; i <= n2; ++i) {
in2[i] = 0.0;
}

for (int i = 1; i <= n3; ++i) {
in3[i] = 0.0;
}
for (int i = 1; i <= n4; ++i) {
in4[i] = 0.0;
}

for (int i = 1; i <= n1; ++i) {
for (int j = 1; j <= n2; ++j) {
in2[j] += out1[i] * w1[i][j];
}
}

for (int i = 1; i <= n2; ++i) {
out2[i] = sigmoid(in2[i]);
}

/////
for (int i = 1; i <= n2; ++i) {
for (int j = 1; j <= n3; ++j) {
in3[j] += out2[i] * w2[i][j];
}
}

for (int i = 1; i <= 3; ++i) {
out3[i] = sigmoid(in3[i]);
}

////
for (int i = 1; i <= n3; ++i) {
for (int j = 1; j <= n4; ++j) {
in4[j] += out3[i] * w3[i][j];
}
}

for (int i = 1; i <= n4; ++i) {
out4[i] = sigmoid(in4[i]);
}
}

Backpropogation изменяется таким образом:

void back_propagation() {
double sum;

for (int i = 1; i <= n4; ++i) {
theta4[i] = out4[i] * (1 - out4[i]) * (expected[i] - out4[i]);
}

for (int i = 1; i <= n3; ++i) {
sum = 0.0;
for (int j = 1; j <= n4; ++j) {
sum += w3[i][j] * theta4[j];
}
theta3[i] = out3[i] * (1 - out3[i]) * sum;
}

for (int i = 1; i <= n3; ++i) {
for (int j = 1; j <= n4; ++j) {
delta3[i][j] = (learning_rate * theta4[j] * out3[i]) + (momentum * delta3[i][j]);
w3[i][j] += delta3[i][j];
}
}

/////////////

for (int i = 1; i <= n2; ++i) {
for (int j = 1; j <= n3; ++j) {
delta2[i][j] = (learning_rate * theta3[j] * out2[i]) + (momentum * delta2[i][j]);
w2[i][j] += delta2[i][j];
}
}
/////////////////

for (int i = 1; i <= n1; ++i) {
for (int j = 1 ; j <= n2 ; j++ ) {
delta1[i][j] = (learning_rate * theta2[j] * out1[i]) + (momentum * delta1[i][j]);
w1[i][j] += delta1[i][j];
}
}
}

Я также публикую свои модификации, потому что я могу ошибаться где-то здесь. Как только я установил переменную epochs равной 1000 и позволил ей тренироваться в течение 24 часов, прогресс все еще не наступил :(. Я очень разочарован этим и не знаю, где могу ошибаться.