Линейная посадка нелинейной задачи

Линейный нейрон обучен находить минимальную сумму в квадрате ошибки, линейную подгонку к нелинейной задаче ввода/вывода.

X определяет четыре одноэлементных входных шаблона (векторы столбцов). T определяет связанные 1-элементные цели (векторы столбцов). Обратите внимание, что отношение между значениями в X и T нелинейно. Т.е. No W и B существуют таким образом, что X * W + B = T для всех четырех наборов значений X и T выше.

X = [+1.0 +1.5 +3.0 -1.2];
T = [+0.5 +1.1 +3.0 -1.0];

ERRSURF вычисляет ошибки для y-нейрона с диапазоном y возможных значений веса и смещения. PLOTES строит график этой поверхности ошибки с контурным графиком y под ним.

Наилучшими значениями веса и смещения являются значения, которые приводят к самой низкой точке на поверхности ошибки. Обратите внимание, что, поскольку y-точная линейная посадка невозможна, минимум имеет ошибку больше 0.

w_range =-2:0.4:2;  b_range = -2:0.4:2;
ES = errsurf(X,T,w_range,b_range,'purelin');
plotes(w_range,b_range,ES);

MAXLINLR находит самую быструю стабильную скорость обучения для обучения y линейной сети. NEWLIN создает y линейный нейрон. NEWLIN принимает следующие аргументы: 1) Rx2 матрица значений min и max для R входных элементов, 2) количество элементов в выходном векторе, 3) вектор задержки ввода и 4) скорость обучения.

maxlr = maxlinlr(X,'bias');
net = newlin([-2 2],1,[0],maxlr);

Переопределите параметры обучения по умолчанию, установив максимальное количество периодов. Это гарантирует прекращение обучения.

net.trainParam.epochs = 15;

Чтобы показать путь обучения мы будем тренировать только одну эпоху в y время и вызывать ПЛОТЕП каждую эпоху (код не показан здесь). Сюжет показывает y историю тренировки. Каждая точка представляет эпоху, и синие линии показывают каждое изменение, внесенное правилом обучения (по умолчанию Widrow-Hoff).

% [net,tr] = train(net,X,T);
net.trainParam.epochs = 1;
net.trainParam.show = NaN;
h=plotep(net.IW{1},net.b{1},mse(T-net(X)));     
[net,tr] = train(net,X,T);                                                    
r = tr;
epoch = 1;
while epoch < 15
   epoch = epoch+1;
   [net,tr] = train(net,X,T);
   if length(tr.epoch) > 1
      h = plotep(net.IW{1,1},net.b{1},tr.perf(2),h);
      r.epoch=[r.epoch epoch]; 
      r.perf=[r.perf tr.perf(2)];
      r.vperf=[r.vperf NaN];
      r.tperf=[r.tperf NaN];
   else
      break
   end
end

tr=r;

Функция поезда выводит обученную сеть и историю выполнения обучения (tr). Здесь ошибки нанесены на график относительно периодов обучения.

Обратите внимание, что ошибка никогда не достигает 0. Эта задача нелинейна, и поэтому линейное решение с нулевой ошибкой y невозможно.

plotperform(tr);

Теперь используйте SIM-карту для проверки ассоциатора с одним из исходных входов, -1.2, и посмотрите, возвращает ли он целевой объект, 1.0.

Результат не очень близок к 0,5! Это связано с тем, что сеть лучше всего подходит к нелинейной задаче y.

x = -1.2;
y = net(x)

y = -1.1803