3. Задачи для самостоятельного решения
1. Вычислите какое количество информации
приходится на одно сообщение длиной 3, 4, 5 и 6 символов, составленное из
а) двоичного, б) троичного алфавита?
2. а) Чему равна максимальная энтропия системы, состоящей из двух элементов,
каждый из которых может быть в двух состояниях? б) Чему равна энтропия системы,
состоящей из трех элементов, каждый из которых может быть в четырех состояниях?;
в) Чему равна энтропия системы, состоящей из четырех элементов, каждый из
которых может быть в трех состояниях?
3. Дан алфавит мощностью 5. Определить количество информации на символ сообщения, составленного из этого алфавита:
а) если символы алфавита встречаются с равными вероятностями;
б) если символы алфавита встречаются в сообщении с вероятностями p1= 0,8; p2 = 0,15; р3= 0,03; р4 = 0,015; р5 = 0,005.
4. Чему равна неопределенность предпочтения одного из четырех государственных
языков жителем Сингапура если китайский предпочитают 30% жителей, малайский
– 20%, английский – 40%, тамильский – 10%.
5. Определить объем передаваемых данных и количество информации в тексте «Получила тройку с плюсом,
но вздремнула я со вкусом», если для его передачи каждый символ заменяют 7 битами.
6. Вероятность появления некоторого события в данном опыте равна р,
вероятность того, что это событие не произойдет . При каком значении
результат опыта будет обладать максимальной неопределенностью?
7. Для прибора Z детали из кладовой отдела комплектации доставляет конвейерная
лента 1, для прибора Y — лента 2. В комплектующие изделия прибора Z входят 10
конденсаторов, 5 резисторов и 5 транзисторов; в комплектующие изделия прибора
Y входят 8 конденсаторов, 8 резисторов и 4 транзистора. Вычислить в дитах
энтропию появления одной из деталей каждого из приборов на ленте.
8. Чему равно количество информации при получении сообщения о выходе
из строя одного из восьми выключателей, произведенных в одно и тоже время на одном и том же заводе?
9. Специалисты знают, что каждый пятый фейерверк, запускаемый в нашей
стране, выпускается фирмой «Праздник-праздник». Для неспециалистов
запуск фейерверка любого производителя равновероятен. Определите,
какое количество информации получит специалист и неспециалист при
запуске фейерверка фирмы «Праздник-праздник»?
10. Сообщения составлены из равновероятного алфавита, содержащего
128 элементов. Чему равно количество символов в принятом сообщении,
если известно, что оно содержит 42 бита информации? Чему равна энтропия этого сообщения?
11. Определить максимум энтропии системы, состоящей из 6 элементов,
каждый из которых может быть в одном из четырех состояний равновероятно.
12. Экспериментальная модель робота-пылесоса может находиться в
одном из 4 состояний: 1) с частотой 0,25 он пылесосит отлично;
2) в четвери случаев отказывается работать по непонятной причине;
3) в 30% случаев отказывается работать в связи с наступлением
праздничных дней; 4) в двух случаях из 10 не работает в связи с
необходимостью обновления его программного обеспечения. Определите
энтропию робота и энтропию возможности проведения уборки этим роботом-пылесосом.
13. Определить энтропию источника сообщений, если статистика
распределения вероятностей появления символов на выходе источника
сообщений представлена следующей схемой:
14. Дан алфавит, состоящий из
5 символов, вероятности появления которых равны соответственно:
p1 = 0,7; р2 = 0,2; р3 = 0,08; р4= 0,015; р5 = 0,005. Определить
количество информации сообщении, состоящем из 20 символов. Каким
будет количество информации в данном сообщении, если все символы будут равновероятны?
15. Определить энтропию системы, состоящей из двух подсистем.
Первая подсистема состоит из трех элементов, каждый из которых
может находиться в двух состояниях с вероятностями р1=0,6; p2=0,4.
Вторая подсистема состоит из двух элементов, каждый из которых может
находиться в трех состояниях с вероятностями р1=0,1; р2=0,4; р3=0,5.
16. Определить энтропию телевизионного изображения, воспроизводимого
телевизионным приемником «Славутич-204», если у него разрешающая
способность линий не менее 500, число градаций яркости 8, а условное
число элементов строки — 700.
|