Создание модели дискриминантного анализа

Модель для дискриминантного анализа:

Каждый класс (Y) генерирует данные (X) с помощью многомерного нормального распределения. Другими словами, модель принимает, что X имеет Гауссово распределение смеси (gmdistribution).
- Для линейного дискриминантного анализа модель имеет ту же ковариационную матрицу для каждого класса; только средние значения отличаются.
- Для квадратичного дискриминантного анализа отличаются и средние значения и ковариации каждого класса.

Под этим предположением моделирования fitcdiscr выводит среднее значение и параметры ковариации каждого класса.

Для линейного дискриминантного анализа это вычисляет демонстрационное среднее значение каждого класса. Затем это вычисляет выборочную ковариацию первым вычитанием демонстрационного среднего значения каждого класса от наблюдений за тем классом и взятия эмпирической ковариационной матрицы результата.
Для квадратичного дискриминантного анализа это вычисляет демонстрационное среднее значение каждого класса. Затем это вычисляет выборочные ковариации первым вычитанием демонстрационного среднего значения каждого класса от наблюдений за тем классом и взятия эмпирической ковариационной матрицы каждого класса.

Метод fit не использует априорные вероятности или затраты для подбора кривой.

Взвешенные наблюдения

fitcdiscr создает взвешенные классификаторы с помощью следующей схемы. Предположим, что M является N-by-K матрица членства в классе:

_Mnk = 1, если наблюдение n является от класса k
_Mnk = 0 в противном случае.

Оценка среднего значения класса для невзвешенных данных

${\hat{μ}}_{k} = \frac{\sum_{n = 1}^{N} M_{n k} x_{n}}{\sum_{n = 1}^{N} M_{n k}} .$

Для взвешенных данных с положительными весами _wn естественное обобщение

${\hat{μ}}_{k} = \frac{\sum_{n = 1}^{N} M_{n k} w_{n} x_{n}}{\sum_{n = 1}^{N} M_{n k} w_{n}} .$

Объективная оценка объединенного - в ковариационной матрице для невзвешенных данных

$\hat{Σ} = \frac{\sum_{n = 1}^{N} \sum_{k = 1}^{K} M_{n k} (x_{n} - {\hat{μ}}_{k}) {(x_{n} - {\hat{μ}}_{k})}^{T}}{N - K} .$

Для квадратичного дискриминантного анализа fitcdiscr использует K = 1.

Для взвешенных данных, принимая сумму весов к 1, объективная оценка объединенного - в ковариационной матрице

$\hat{Σ} = \frac{\sum_{n = 1}^{N} \sum_{k = 1}^{K} M_{n k} w_{n} (x_{n} - {\hat{μ}}_{k}) {(x_{n} - {\hat{μ}}_{k})}^{T}}{1 - \sum_{k = 1}^{K} \frac{W_{k}^{(2)}}{W_{k}}},$

где

$W_{k} = \sum_{n = 1}^{N} M_{n k} w_{n}$ сумма весов для класса k.
$W_{k}^{(2)} = \sum_{n = 1}^{N} M_{n k} w_{n}^{2}$ сумма весов в квадрате в классе.

Документация

Создание модели дискриминантного анализа

Взвешенные наблюдения

Смотрите также

Функции

Объекты

Похожие темы

Документация Statistics and Machine Learning Toolbox

Поддержка