Обучение линейного нейрона

Линейный нейрон обучается, чтобы отвечать на конкретные входы с целевыми выходами.

X задает два шаблона входа с 1 элементом (векторами-столбцами). T задает соответствующие 1-элементные цели ( векторы-столбцы). Один входной линейный нейрон с y смещением может использоваться, чтобы решить эту задачу.

X = [1.0 -1.2];
T = [0.5 1.0];

ERRSURF вычисляет ошибки для нейрона y с областью значений y возможных значений веса и смещения. PLOTES строит график этой поверхности ошибки с графиком y контура под. Лучшими значениями веса и смещения являются те, которые приводят к самой низкой точке на поверхности ошибки.

w_range = -1:0.2:1;  b_range = -1:0.2:1;
ES = errsurf(X,T,w_range,b_range,'purelin');
plotes(w_range,b_range,ES);

Figure contains 2 axes. Axes 1 with title Error Surface contains 2 objects of type surface. Axes 2 with title Error Contour contains 2 objects of type surface, contour.

MAXLINLR находит самую быструю стабильную скорость обучения для обучения линейной сети y. В данном примере эта ставка будет составлять только 40% от этого максимума. NEWLIN создает линейный нейрон y. NEWLIN принимает эти аргументы: 1) Rx2 матрица минимальных и максимальных значений для R входа элементов, 2) Количество элементов в векторе выхода, 3) Вход векторе задержки и 4) скорости обучения.

maxlr = 0.40*maxlinlr(X,'bias');
net = newlin([-2 2],1,[0],maxlr);

Переопределите параметры обучения по умолчанию, задав цель эффективности.

net.trainParam.goal = .001;

Чтобы показать путь обучения, мы будем обучать только одну эпоху в y время и вызывать PLOTEP каждую эпоху. График показывает y историю обучения. Каждая точка представляет эпоху, и синие линии показывают каждое изменение, сделанное правилом обучения (по умолчанию Widrow-Hoff).

% [net,tr] = train(net,X,T);
net.trainParam.epochs = 1;
net.trainParam.show = NaN;
h=plotep(net.IW{1},net.b{1},mse(T-net(X)));     
[net,tr] = train(net,X,T);                                                    
r = tr;
epoch = 1;
while true
   epoch = epoch+1;
   [net,tr] = train(net,X,T);
   if length(tr.epoch) > 1
      h = plotep(net.IW{1,1},net.b{1},tr.perf(2),h);
      r.epoch=[r.epoch epoch]; 
      r.perf=[r.perf tr.perf(2)];
      r.vperf=[r.vperf NaN];
      r.tperf=[r.tperf NaN];
   else
      break
   end
end

Figure contains 2 axes. Axes 1 with title Error Surface contains 20 objects of type surface, line. Axes 2 with title Error Contour contains 11 objects of type surface, contour, line.

tr=r;

Функция train выводит обученную сеть и историю y производительности обучения (tr). Здесь ошибки строятся относительно эпох обучения: Ошибка падала, пока не упала ниже цели ошибки (черная линия). В эту точку обучение остановилось.

plotperform(tr);

Figure Performance (plotperform) contains an axes. The axes with title Best Training Performance is 0.625 at epoch 0 contains 6 objects of type line. These objects represent Train, Best, Goal.

Теперь используйте SIM, чтобы протестировать ассоциатор с одним из исходных входов, -1.2, и увидеть, вернёт ли он цель, 1.0. Результат очень близок к 1, цели. Это можно сделать еще ближе, снизив цель эффективности.

x = -1.2;
y = net(x)
y = 0.9817