Дан источник сообщений с алфавитом{ G,U,L,F }. Считая, что источник генерирует марковскую цепь первого порядка с известной матрицей переходов. Элементы матрицы выберите самостоятельно. Естественно сумма вероятностей в каждой строке должна быть равна единице
Используя программу Excel простыми итерациями найдите финальные вероятности знаков. Убедитесь, что финальное распределение ?, как результат итераций по схеме (9), инвариантно к начальному распределению ?(0). Найдите энтропию источника H(Z). Найти энтропию сообщения H(ZN) длиной в N=5 знаков и энтропию на знак HN(Z), считая, что источник выдает независимые последовательности с финальным распределением
С учетом памяти источника, то есть, реальной зависимости знаков в последовательности длиной в N=5 найдите H(ZN), HN(Z), H(Z|Z?).