Каков наилучший способ нормализации отрицательных / нечисловых данных для нейронных сетей с функцией активации?
Я использую прямую, градиентный спуск, обратное распространение нейронных сетей
где скрытые / выходные нейроны используют функцию активации tanh, а входные нейроны являются линейными.
Каков, на ваш взгляд, лучший способ нормализации числовых данных, если:
-
Максимальное число известно, и, например, максимальное положительное число будет 1000, а максимальное отрицательное -1000.
-
Максимальное количество неизвестно.
И если бы я оставил максимальные числа одинаковыми для всех входов или все будет в порядке
если сетевые входы имеют другой способ нормализации?
Спасибо!
Решение
Если max а также min Известно, что самая простая нормализация это:
normalized = (val - min) / (max - min)
Если max неизвестно, вы можете нормализовать на основе данных, которые вы делать иметь со знанием того, что tanh имеет хорошие характеристики для значений, которые превышают величину 1.
Вы должен нормализовать различные входы на основе диапазона значений этих входов и вы может использовать разные процедуры нормализации для разных входов.
Другие решения
Других решений пока нет …
detector