Пакетной функцией обучения наискорейшему спуску является traingd. Веса и смещения обновляются в направлении отрицательного градиента функции эффективности. Если вы хотите обучить сеть с помощью пакетного наискорейшего спуска, необходимо установить сеть trainFcn к traingd, и затем вызовите функциональный train. Существует только одна учебная функция, сопоставленная с данной сетью.

Существует семь учебных параметров, сопоставленных с traingd:

Скорость обучения lr умноженные времена отрицание градиента, чтобы определить изменения в весах и смещениях. Чем больше скорость обучения, тем больше шаг. Если скорость обучения сделана слишком большой, алгоритм становится нестабильным. Если скорость обучения установлена слишком небольшая, алгоритм занимает много времени, чтобы сходиться. Смотрите страницу 12-8 [HDB96] для обсуждения выбора скорости обучения.

Учебное состояние отображено для каждого show итерации алгоритма. (Если show установлен в NaN, затем учебное состояние никогда не отображается.) Другие параметры определяют, когда обучение останавливается. Обучение останавливается, если количество итераций превышает epochs, если функция эффективности опускается ниже goal, если величина градиента меньше mingrad, или если учебное время более длительно, чем time секунды. max_fail, то, которое сопоставлено с ранним методом остановки, обсуждено в Улучшающемся Обобщении.

Следующий код создает набор обучающих данных входных параметров p и цели t. Для пакетного обучения все входные векторы помещаются в одну матрицу.

p = [-1 -1 2 2; 0 5 0 5];
t = [-1 -1 1 1];

Создайте сеть прямого распространения.

net = feedforwardnet(3,'traingd');

В этом простом примере выключите функцию, которая введена позже.

net.divideFcn = '';

На данном этапе вы можете хотеть изменить некоторые учебные параметры по умолчанию.

net.trainParam.show = 50;
net.trainParam.lr = 0.05;
net.trainParam.epochs = 300;
net.trainParam.goal = 1e-5;

Если вы хотите использовать учебные параметры по умолчанию, предыдущие команды не необходимы.

Теперь вы готовы обучить сеть.

[net,tr] = train(net,p,t);

Учебный tr записи содержит информацию о прогрессе обучения.

Теперь можно симулировать обучивший сеть, чтобы получить его ответ на входные параметры в наборе обучающих данных.

a = net(p)
a =
   -1.0026   -0.9962   1.0010   0.9960

Попробуйте демонстрацию Проекта Нейронной сети nnd12sd1 [HDB96] для рисунка эффективности пакетного алгоритма градиентного спуска.