Задан источник сообщений А={ai}, где i = 1, 2, 3, 4, 5 с вероятностями, Р (а1) = 0,4, Р (а2) = 0,2, Р (а3) = 0,3, Р (а4) = 0,2, Р (а5) = 0,1.
Найти количество информации, содержащейся в каждом из символов источника при их независимом выборе. Вычислить энтропию и избыточность заданного источника. Показать, что при равных объемах алфавитов N, энтропия H(A) имеет максимальное значение Hmax (A)= log2N при равновероятных символах.