Теория кодирования    

3.      Задачи для самостоятельного решения

1. Вычислите какое количество информации приходится на одно сообщение длиной 3, 4, 5 и 6 символов, составленное из
а) двоичного,
б) троичного алфавита?
2. а) Чему равна максимальная энтропия системы, состоящей из двух элементов, каждый из которых может быть в двух состояниях?
б) Чему равна энтропия системы, состоящей из трех элементов, каждый из которых может быть в четырех состояниях?;
в) Чему равна энтропия системы, состоящей из четырех элементов, каждый из которых может быть в трех состояниях?
3. Дан алфавит мощностью 5. Определить количество информации на символ сообщения, составленного из этого алфавита:
а) если символы алфавита встречаются с равными вероятностями;
б) если символы алфавита встречаются в сообщении с вероятностями p1= 0,8; p2 = 0,15; р3= 0,03; р4 = 0,015; р5 = 0,005.
4. Чему равна неопределенность предпочтения одного из четырех государственных языков жителем Сингапура если китайский предпочитают 30% жителей, малайский – 20%, английский – 40%, тамильский – 10%.
5. Определить объем передаваемых данных и количество информации в тексте «Получила тройку с плюсом, но вздремнула я со вкусом», если для его передачи каждый символ заменяют 7 битами.
6. Вероятность появления некоторого события в данном опыте равна р, вероятность того, что это событие не произойдет . При каком значении результат опыта будет обладать максимальной неопределенностью?
7. Для прибора Z детали из кладовой отдела комплектации доставляет конвейерная лента 1, для прибора Y — лента 2. В комплектующие изделия прибора Z входят 10 конденсаторов, 5 резисторов и 5 транзисторов; в комплектующие изделия прибора Y входят 8 конденсаторов, 8 резисторов и 4 транзистора. Вычислить в дитах энтропию появления одной из деталей каждого из приборов на ленте.
8. Чему равно количество информации при получении сообщения о выходе из строя одного из восьми выключателей, произведенных в одно и тоже время на одном и том же заводе?
9. Специалисты знают, что каждый пятый фейерверк, запускаемый в нашей стране, выпускается фирмой «Праздник-праздник». Для неспециалистов запуск фейерверка любого производителя равновероятен. Определите, какое количество информации получит специалист и неспециалист при запуске фейерверка фирмы «Праздник-праздник»?
10. Сообщения составлены из равновероятного алфавита, содержащего 128 элементов. Чему равно количество символов в принятом сообщении, если известно, что оно содержит 42 бита информации? Чему равна энтропия этого сообщения?
11. Определить максимум энтропии системы, состоящей из 6 элементов, каждый из которых может быть в одном из четырех состояний равновероятно. 12. Экспериментальная модель робота-пылесоса может находиться в одном из 4 состояний:
1) с частотой 0,25 он пылесосит отлично;
2) в четвери случаев отказывается работать по непонятной причине;
3) в 30% случаев отказывается работать в связи с наступлением праздничных дней;
4) в двух случаях из 10 не работает в связи с необходимостью обновления его программного обеспечения. Определите энтропию робота и энтропию возможности проведения уборки этим роботом-пылесосом.
13. Определить энтропию источника сообщений, если статистика распределения вероятностей появления символов на выходе источника сообщений представлена следующей схемой:

14. Дан алфавит, состоящий из 5 символов, вероятности появления которых равны соответственно: p1 = 0,7; р2 = 0,2; р3 = 0,08; р4= 0,015; р5 = 0,005. Определить количество информации сообщении, состоящем из 20 символов. Каким будет количество информации в данном сообщении, если все символы будут равновероятны?
15. Определить энтропию системы, состоящей из двух подсистем. Первая подсистема состоит из трех элементов, каждый из которых может находиться в двух состояниях с вероятностями р1=0,6; p2=0,4. Вторая подсистема состоит из двух элементов, каждый из которых может находиться в трех состояниях с вероятностями р1=0,1; р2=0,4; р3=0,5.
16. Определить энтропию телевизионного изображения, воспроизводимого телевизионным приемником «Славутич-204», если у него разрешающая способность линий не менее 500, число градаций яркости 8, а условное число элементов строки — 700.