Тест по теории информации

Нужно ответить на вопросы:
1. Какой будет энтропия Шеннона случайной величины Х в случае полной определённости, т.е. в том случае, когда источник всегда выдаёт одну и ту же букву?
a) 1
b) 0
c) 1/2
d) -1/2
2. Длина алфавита d, появление всех букв алфавита равновероятно. Какой будет энтропия Шеннона случайной величины Х в этом случае?
a) 1/d
b) 1/2
c) log_2(d)
d) d
3. Какое количество информации содержится в сообщении длиной n?
a) Оно равно логарифму по основанию 2 от длины сообщения
b) Оно равно количеству информации в одной букве, умноженному на количество букв
с) log_2(n) + nH(p)
d) Оно равно n битам
4. Энтропию бинарной случайной величины обозначают через H(p). Какой вид имеет эта функция?
a) plog_2(p)
b) p*log_2(p) +(1-p)*log_2(1-p)
c) (1-p)*log_2(1-p)
d) -p*log_2(p) - (1-p)*log_2(1-p)