Моделирование цепи Маркова

Обзор среды объекта дискретной цепи Маркова

dtmc объектная среда обеспечивает основные инструменты для моделирования и анализа дискретных цепей Маркова. Цепи поддержки объектов с конечным числом состояний, которые развиваются в дискретное время с гомогенной временем структурой перехода.

dtmc идентифицирует каждую Цепь Маркова с NumStates- NumStates матрица перехода P, независимый от начального состояния x 0 или начальное распределение состояний π 0. Можно задать P или как правильную стохастическую матрицу или как матрицу эмпирических количеств.

  • Как правильная стохастическая матрица:

    • Pij является неотрицательной вероятностью перехода от i состояния, чтобы утвердить j.

    • Каждая строка P суммирует к 1.

    • πt+1=πtP описывает эволюцию распределенности со времени t ко времени t + 1.

    Распределенность во время t, πt является вектором-строкой из длины NumStates.

  • Как матрица эмпирических количеств, Pij является наблюдаемым числом раз, утверждают переходы i, чтобы утвердить j. dtmc объект нормирует строки P так, чтобы это была правильная стохастическая матрица.

mcmix функция является альтернативным создателем объекта Цепи Маркова; это генерирует цепь с заданным нулевым шаблоном и случайными вероятностями перехода. mcmix хорошо подходит для создания цепей с различными временами смешивания для тестирования.

Визуализировать ориентированного графа или диграф, сопоставленный с цепью, использование graphplot объектная функция. graphplot похоже на plot объектная функция MATLAB® digraph объект, но это включает дополнительную функциональность для анализа структуры Цепи Маркова. Установки параметров подсвечивают связывающиеся классы (то есть, компоненты strongly connected диграфа) и определенные характеристики, влияющие на сходимость, такие как повторение, быстротечность и периодичность. Можно подсветить вероятности перехода в P путем окраски ребер графика с помощью интенсивности тепловой карты.

Визуализировать крупномасштабную структуру в цепи, graphplot может уплотнить связывающиеся классы к представительным узлам. Эта опция на основе condensation объектная функция digraph объект.

classify объектная функция является числовым аналогом выделения класса в графике. classify возвращает характеристики связывающихся классов, которые определяют ограничивающее поведение. Классификация состояния комбинирует теоретические графиком алгоритмы, такой как bfsearch (поиск в ширину) функция объекта graph MATLAB объект, но с более прямыми матричными расчетами, характерными для теории Цепи Маркова. subchain метод позволяет вам извлекать определенные классы передачи из цепи для последующего анализа.

isreducible и isergodic объектные функции дают краткие сводные данные цепной структуры. Вместе, они обеспечивают необходимые и достаточные условия для существования уникального ограничивающего распределения π, где π=πP и π0π для каждого начального распределения π 0. asymptotics объектная функция вычисляет π, если это существует и оценивает смесительное время с помощью анализа собственного значения. eigplot объектные графики функций собственные значения P. Этот рисунок показывает пример графика собственного значения, возвращенного eigplot.

Одно препятствие сходимости является периодичностью. lazy объектная функция устраняет периодичность путем корректировки инерции состояния (то есть, путем взвешивания диагональных элементов P), чтобы произвести заданные суммы “лени” в цепи. Ограничивающие распределения незатронуты этими преобразованиями.

simulate и redistribute объектные функции обеспечивают реализацию процесса, когда он развивается из заданного начального состояния или распределения. simplot и distplot объектные функции обеспечивают различную визуализацию. Этот рисунок является примером графика распределения, показывающего эволюцию распределенности, начинающей с универсального распределения начального состояния.

Аналитический рабочий процесс цепи Маркова

Можно начать создавать объект модели Цепи Маркова двумя способами:

  • Идентифицируйте подходящие дискретные состояния в процессе, и затем оцените вероятности перехода среди них. В самом простом случае теория предлагает цепную структуру и матрицу перехода P. В этой ситуации вы интересуетесь, в основном, тем, как теория теряет значение на практике — что-то, что не всегда очевидно из теории. Если вы знаете P, создаете объект Цепи Маркова путем передачи P dtmc, который реализует теоретическую цепь.

  • Если у вас есть менее определенная информация о процессе, то необходимо экспериментировать с различными количествами состояний и выполнимых шаблонов перехода, чтобы воспроизвести эмпирические результаты. mcmix функция обеспечивает понимание скелетной структуры цепи, которая может получить существенные особенности в данных. Посредством итеративного процесса можно настроить случайным образом сгенерированную матрицу перехода P, чтобы удовлетворить целям моделирования.

Для разработчика эконометрической модели самым важным последствием выбора P является асимптотическое поведение цепи. Чтобы изучить это поведение, идентифицируйте и разделите переходные состояния (те состояния, чьи возвращаются, разовые вероятности идут, чтобы обнулить асимптотически) от текущих состояний (те состояния, чей возвращаются, разовые вероятности переходят к одной асимптотически). Быстротечность и повторение являются свойствами, совместно использованными всеми состояниями в связывающемся классе. Чтобы определить визуально, являются ли состояния переходными или текущими, передайте объект Цепи Маркова graphplot возразите функционируют и задают 'ColorNodes',true. В качестве альтернативы выходные параметры classify объектная функция обеспечивает числовые инструменты для оценки. Этот рисунок является примером диграфа с классифицированными узлами.

Сжатое представление диграфа упрощает эту оценку путем консолидации каждого класса передачи в “суперузел”. В сжатом графике можно легко распознать быстротечность и повторение степень суперузла (степень, больше, чем 0, подразумевает быстротечность). Irreducible chains состоит из одного, обязательно текущего, связывающегося класса. Unichains состоит из одного текущего класса и любого количества спутниковых переходных классов. Unichains обеспечивают желательное ограничивающее поведение неприводимой цепи. Фактор сжатого графика часто является предшественником обрезки цепи несоответствующих переходных состояний. subchain функционируйте обрезает цепи переходных классов. Этот рисунок является сжатым представлением диграфа на предыдущем рисунке.

Два принципиальных препятствия универсальному ограничивающему поведению:

  • Reducibility, существование больше чем одного связывающегося класса

  • Periodicity, тенденция циклически повториться среди подклассов в едином классе

Комбинация graphplot и classify объектные функции могут идентифицировать эти проблемы. Если цепь приводима и не unichain, распространено разделить анализ среди независимых текущих классов или переформулировать цепь в целом. Если цепь является периодической (то есть, она содержит периодический текущий класс), но полная структура получает существенные детали приложения, lazy объектная функция обеспечивает средство. Ленивые цепи тревожат диагональные элементы P, чтобы устранить периодичность, уезжая asymptotics незатронутый.

isreducible и isergodic объектные функции обобщают классификацию состояния. Каждая цепь имеет stationary distribution π, где π=πP, в результате P, являющегося стохастическим и имеющего собственное значение одного. Если цепь неприводима, стационарное распределение уникально. Однако неприводимость, в то время как достаточный, не является необходимым условием для уникальности. Unichains также приводят к уникальному стационарному распределению, имеющему нулевую вероятностную меру в переходных состояниях. В этом отношении анализ классификации состояния важен потому что isreducible возвращает true только если цепь в целом состоит из одного класса передачи. isreducible возвращает false для произвольного unichains, в этом случае необходимо решить, являются ли переходные классы соответствующей частью модели.

Ergodicity или primitivity, является комбинацией неприводимости и апериодичности. Эргодическая цепь имеет уникальное ограничивающее распределение, то есть, π 0 сходится к π для каждого начального распределения π 0. Можно определить, является ли цепь, в целом, эргодической при помощи isergodic. Функция идентифицирует эргодический unichains путем оценки единственного текущего класса. Цепь является периодической, если это является неприводимым и не эргодическим, то есть, если ~tfirreduc + ~tfergo = false, где tfirreduc и tfergo возвращены isreducible и isergodic, соответственно.

Если вы подтвердили, что цепь является эргодической, можно определить уникальное ограничивающее распределение при помощи asymptotics объектная функция. asymptotics возвращает ограничивающее распределение π и оценка смесительного времени, которое является постоянной времени для затухания переходного поведения. Теорема Крыльца-Frobenius для неприводимых неотрицательных матриц (см. [1]) полезна для интерпретации этих результатов. Любая стохастическая матрица имеет спектральный радиус одного. Периодическим матрицам, периода k, распределили собственные значения k однородно вокруг модульного круга в корнях из единицы k. Величина самого большого собственного значения в модульном кругу определяет уровень затухания переходных состояний. eigplot объектная функция обеспечивает быструю визуализацию этой информации. Этот рисунок является графиком собственного значения Цепи Маркова с периодом три.

Независимо от асимптотических свойств цепи можно изучить ее смешивание уровня путем применения анализа конечного шага. hitprob и hittime функции возвращают совершающие нападки вероятности и ожидали сначала поражать времена для подмножества целевых состояний, начинаясь с каждого состояния в цепи. Обе функции опционально строят диграф с цветами узла, задающими совершающие нападки вероятности или времена. Этот рисунок показывает пример диграфа с цветами узла, задающими ожидаемые первые времена удара. Диграф также указывает, являются ли начинающиеся состояния удаленными для цели.

Симуляция и перераспределение позволяют вам генерировать статистическую информацию о цепи, которая затрудняет, чтобы вывести непосредственно из теории. simulate и simplot возразите функциям, и redistribute и distplot возразите функциям, обеспечьте вычислительные и графические инструменты для таких исследований. simulate, например, генерирует независимые случайные обходы через цепь. Как с simulate и объектные функции в другом месте в Econometrics Toolbox™, средние значения ансамбля зависимой статистики играют важную роль в прогнозировании. Соответствие simplot возразите, что функция предлагает несколько подходов к визуализации. Этот рисунок отображает пропорцию состояний, которые посещают после 100 случайных обходов длины 10 шагов через периодическую Цепь Маркова на предыдущем рисунке.

Ссылки

[1] Рог, R. и К. Р. Джонсон. Анализ матрицы. Кембридж, Великобритания: Издательство Кембриджского университета, 1985.

Смотрите также

Объекты

Функции

Похожие темы