Теория информации и кодирования

Ребят помогите решить задачи, не могу понять совсем...

Задание:
Влияние помех в канале связи описывается канальной матрицей, с помо-щью условных вероятностей P(Y/X) и P(Х/Y), где X – источник информации, Y – приемник информации.
1. Провести исследование канала информации со стороны источника ин-формации и со стороны приемника информации.
По результатам исследования определить:
- Потери информации Н(Y/xi), которые приходятся на каждый передан-ный хi сигнал и потери Н(Y/X) при передаче всех сигналов х;
- Потери информации Н(Х/уj), которые приходятся на каждый принятый уj сигнал и потери Н(Х/Y) при приеме всех сигналов yj.
Исходные данные:
Р(уj /xi) и Р(xi / уj) получить из матрицы совместных вероятностей, разме-ром 10 × 10, которую задать самостоятельно.
2. Определить энтропию Н(Х,Y) двухбуквенного сочетания и условную энтропию Н(Y/X) заданного текстового сообщения.
Х – 32-х буквенный алфавит
Y – 32-х буквенный алфавит

Контрольные задачи:
Задание 1
Определить энтропию источника сообщений, если вероятность появления сигналов на входе приемника р(b1) = 0,1; р(b2) = 0,3; р(b3) = 0,4; р(b4) = 0,2, а ка-нальная матрица р(а|b) имеет вид:

0,99 0,02 0 0
0,01 0,98 0,01 0,01
0 0 0,98 0,02
0 0 0,01 0.97

Задание 2
Определить частную условную энтропию относительно каждого символа источника сообщений при передаче по каналу связи, описанному следующей матрицей совместных вероятностей р(A, B)

0,2 0 0
0,1 0,2 0
0 0,1 0,4

Задание 3
В результате статических испытаний канала связи были получены сле-дующие условные вероятности перехода одного сигнала в другой: p(b1|a1)=0,85; p(b2|a1)=0,1; p(b3|a1)=0,05; p(b1|a2)=0,09; p(b2|a2)=0,91; p(b3|a2)=0; p(b1|a3)=0; p(b2|a3)=0,08; p(b3|a3)=0,92. Построить канальную матрицу и определить общую условную энтропию сообщений, передаваемых по данному каналу связи

Задание 4
Задана матрица вероятностей системы, объединенной в одну систему из двух взаимозависимых систем В и А р(А, В):

0,3 0 0
0,2 0,3 0,1
0 0,1 0

Определить полные условные энтропии Н(B|A) и H(A|B).

Помогите кто что знает, очень надеюсь...

	Комментарий модератора
	Правила форума CyberForum.ru 3. Запреты и ограничения. 15. Запрещено создавать темы с множеством вопросов во всех разделах, кроме разделов платных услуг. Один вопрос - одна тема.

0