1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

# конспект · шаг 10 из 10

Конспект: марковские цепи, случайные блуждания и MCMC

выжимка - её можно унести в заметки

Понятия

Марковская цепь - случайный процесс, в котором следующее состояние зависит только от текущего. Матрица переходов P: P[i][j] - вероятность перейти из i в j; сумма в строке равна 1.

Стационарное распределение π: π · P = π. Неприводимая цепь - из любого состояния достижимо любое. Апериодическая - без строгого ритма возвращений.

Время достижения h(u, v) - среднее число шагов от u до первого прихода в v. Время обхода - среднее число шагов до посещения всех вершин.

Детальное равновесие - π(x) · P(x → y) = π(y) · P(y → x) для каждой пары состояний.

Расстояние по вариации - половина суммы модулей разностей вероятностей. Время смешивания - число шагов, после которого расстояние до π мало при любом начале.

Что унести

ШАГ ЦЕПИ:  новое[j] = сумма по i:  r[i] · P[i][j]        через t шагов:  r · Pᵗ
сложение - по взаимоисключающим предыдущим состояниям;  умножение - переход не зависит от пути

сервер:            в строю   тормозит   лежит
  в строю            0,90      0,08      0,02          с любого начала через 20 шагов:
  тормозит           0,30      0,50      0,20          0,7911   0,1266   0,0823
  лежит              0,50      0,00      0,50
то же число - доля времени на одной длинной траектории:  0,797   0,124   0,079 за 20 000 шагов
СТАЦИОНАРНОЕ РАСПРЕДЕЛЕНИЕ
уравнения равновесия: приток в состояние = отток;  одно уравнение заменить на «сумма равна 1»
π₁ = 0,16·π₀,   π₂ = 0,104·π₀,   π₀ = 1 / 1,264 = 0,7911
два состояния, a туда и b обратно:  π = (b/(a+b), a/(a+b))
среднее время возвращения в i:  1 / π[i]

существует      всегда, если состояний конечно
единственно     если цепь неприводима                    два острова: любое распределение стационарно
цепь сходится   если ещё и апериодична                   маятник: [0, 1] ↔ [1, 0] вечно
лекарства       случайный прыжок - связность;   шанс остаться на месте - апериодичность
РАНЖИРОВАНИЕ СТРАНИЦ, d = 0,85
новый ранг = (1 − d)/n  +  d · сумма по ссылающимся:  ранг / число исходящих ссылок
шаг - проход по ссылкам, матрица не строится
страница без входящих ссылок:  (1 − d)/n             пять страниц:  0,364  0,185  0,365  0,056  0,030
БЛУЖДАНИЕ ПО НЕОРИЕНТИРОВАННОМУ ГРАФУ, m рёбер
π[v] = deg(v) / 2m          каждое ребро в каждую сторону - с частотой 1/2m
среднее возвращение в v: 2m / deg(v); двудольный граф - период 2
путь длины n:  от i до i + 1 в среднем 2i + 1 шаг;  от 0 до n:  n²       коридор 12:  145,2 при 144
за t шагов - расстояние порядка √t
ожидаемый обход всех вершин:  ≤ 2m(n − 1);   полный граф - n·ln n;   клубок с хвостом - порядка n³

ЧЕСТНАЯ ИГРА: капитал i, до n или до нуля
выигрыш с вероятностью i/n;   длительность i·(n − i)        3 из 12:  0,26 и 28,2 при 0,25 и 27
при 49% на ход шансы дойти от 50 до 100 - 12%
2-SAT БЛУЖДАНИЕМ
пока есть ложная скобка: поменять случайную из двух её переменных
X = число совпадений с решением S;  в ложной скобке хотя бы одна переменная расходится с S
вперёд ≥ 1/2  →  путь длины n  →  ≤ n² шагов;   2kn² шагов - неудача ≤ 1/2ᵏ
три литерала:  вперёд ≥ 1/3  →  снос назад  →  порядка 2ⁿ;   с перезапусками через 3n шагов - (4/3)ⁿ
ответ «невыполнима» - Монте-Карло;  найденное решение проверяется подстановкой
АЛГОРИТМ МЕТРОПОЛИСА: цепь под заданные веса w(x)
предложить соседа y симметрично;  принять с вероятностью min(1, w(y)/w(x));  иначе остаться
нужно только отношение весов - сумма по всем состояниям не требуется
веса 1 2 3 4 10:  доли 0,048  0,099  0,152  0,204  0,497

ВРЕМЯ СМЕШИВАНИЯ, 16 состояний, ленивая цепь, расстояние по вариации
шагов      1       4       16      64
кольцо     0,81    0,62    0,35    0,05
полный     0,44    0,04    0,00    0,00
правило говорит, К ЧЕМУ сходится цепь, и не говорит КОГДА;  решают узкие места

Каплинг: при правильных распределениях обеих цепей полная вариация не больше вероятности их различия; общие обновления позволяют оценить время забывания начального состояния.

M/M/1: при ρ=λ/μ<1 число клиентов имеет πₙ=(1−ρ)ρⁿ, L=ρ/(1−ρ), W=1/(μ−λ); L=λW относится к согласованным определениям клиентов и времени.

Ловушки джокера

Не включил в состояние то, от чего зависит будущее. Цепь считает уверенно и неверно.

Сложил столбец вместо строки. Единице равна сумма по строке.

Итерировал периодическую цепь «до сходимости». Маятник не сойдётся никогда; нужны уравнения или ленивая цепь.

Прочитал π как прогноз на следующий шаг. Это далёкое будущее и доли времени.

Выбрал вершину блужданием и счёл её равномерно случайной. Она распределена по степеням.

Оценил время как расстояние. На пути длины n от конца до конца в среднем n² шагов.

Убрал предел шагов в блуждании для 2-SAT. На невыполнимой формуле цикл не кончится.

Принял стабильные доли за сходимость. Цепь, застрявшая в одной области, тоже стабильна.

Взял соседние состояния цепи как независимую выборку. Они почти совпадают.

Проверь себя

Почему один шаг цепи - это умножение строки на матрицу? Какие два условия нужны для сходимости и какой пример нарушает каждое? Почему блуждание бывает в вершинах по степеням? Откуда n² на пути и при чём тут выполнимость формул? Что гарантирует правило Метрополиса и чего не гарантирует?

Комментарии

Пока нет комментариев. Будь первым!

Оставить комментарий

Комментарий появится после проверки. Email не публикуется. Войти, чтобы не вводить имя каждый раз.