1. Почему в определении энтропии как меры неопределенности выбрана логарифмическая зависимость между Н и п? Почему выбран log2?
2. Какова энтропия следующих опытов:
(a) бросок монеты;
(b) бросок игральной кости;
(c) вытаскивание наугад одной игральной карты из 36;
(d) бросок двух игральных костей.
3. Алфавит русского языка содержит 34 буквы (с пробелом), английского - 27. Если считать появление всех букв в тексте одинаковым, то как соотносятся неопределенности, связанные с угадыванием случайно выбранной буквы текста?
4. Опыт имеет два исхода. Докажите, что энтропия такого опыта максимальна, если вероятности исходов будут обе равны 0,5.
5. По условиям задачи 12 приложения А определите, с результатом выстрела которого из стрелков - А или В - связана большая неопределенность.
6. Докажите, что для двух опытов справедливо соотношение: Н(α) + Нα(β) = Н(β) + Нβ(α).
7. Решите задачу, рассмотренную в примере 2.2, при условии, что шары возвращаются в ящик после извлечения.
8. Опыты аир состоят в последовательном извлечении без возврата двух шаров из ящика, в котором изначально находились п белых шаров и т черных. Найдите Н(α), Н(β), Нα(β) и Нβ(α).
9. Какое количество информации связано с исходом следующих опытов:
(a) бросок игральной кости;
(b) бросок 2-х монет;
(c) вытаскивание наугад одной игральной карты из 36;
(d) бросок двух игральных костей.
10. Мы отгадываем задуманное кем-то двузначное число.
(a) Какое количество информации требуется для отгадывания всего числа?
(b) Какова оптимальная последовательность вопросов при отгадывании? Каково их минимальное число?
(c) Изменится ли требуемое количество информации, если будем отгадывать не все число сразу, а по очереди: сначала 1-ю цифру числа, затем - 2-ю?
(d) Одинакова ли информация, необходимая для отгадывания 1-ой и 2-ой цифр?
11. Докажите, что I(α, β) = I (β, α).
12. Решите задачу, описанную в примере 2.7, при условии, что помимо деревень А и В имеется деревня С, жители которой дают по очереди то правдивые, то ложные ответы, причем, неизвестно, с какого они начинают.
13. Вопрос имеет два варианта ответа. Возможно ли, чтобы с каждым из ответов была связано различное количество информации?
14. Возможно ли, чтобы бинарный ответ содержал меньше 1 бит информации?
15. Какое количество информации содержит каждый из ответов на вопрос, если всего их 3 и все они равновероятны? А если равновероятных ответов п?
16. Источник порождает множество шестизнаковых сообщений, каждое из которых содержит 1 знак «*», 2 знака «%» и 3 знака «!». Какое количество информации содержится в каждом (одном) из таких сообщений?
17. С какой буквой русского алфавита «а» или «б» связано больше информации? Найдите эту информацию.
18. Средняя длина слова в русском языке 5,3 буквы, в английском - 4,5. Найдите вероятности появления в соответствующих текстах пробелов. Какое количество информации связано с пробелом в обоих языках?
19. По данным таблицы 2.1 с помощью Excel вычислите I1 для русского алфавита и проверьте приведенное в тексте значение.
20. Дайте объяснение тому, что количество информации на знак алфавита выражается нецелым числом.
21. Что такое «шенноновские сообщения»! Почему теория информации имеет дело именно с такими сообщениями?
22. Почему используется «избыточный» язык?
23. Одинакова ли на Ваш взгляд избыточность литературных и деловых текстов? Почему?