Теория информации

Решить одну задачу на выбор

1. Случайный сигнал x(t) со среднеквадратическим отклонением σ = 2 в.на выходе аналогового датчика ограничен по мощности значением P= σ^2 . Найти закон распределения, обеспечивающий максимальную энтропию. 
2. Сообщения передаются двоичным кодом. В первом случае вероятности появления 0 и 1 равны соответственно p0=0,8 и p1=0,2. Помехи в канале связи отсутствуют, т.е. условные вероятности переходов 0 в 1 и 1 в 0 равны нулю. Во втором случае символы передаются с равными вероятностями p0=p1=0,5, однако в результате действия помех условные вероятности переходов равны p(1/1)=0,8; p(1/0)=0,2; p(0/0)=0,8; p(0/1)=0,2. Чему равна энтропия сообщений на выходе канала в первом и во втором случаях?