• Гідрологія і Гідрометрія
• Господарське право
• Економіка будівництва
• Економіка природокористування
• Економічна теорія
• Земельне право
• Історія України
• Кримінально виконавче право
• Медична радіологія
• Методи аналізу
• Міжнародне приватне право
• Міжнародний маркетинг
• Основи екології
• Предмет Політологія
• Соціальне страхування
• Технічні засоби організації дорожнього руху
• Товарознавство продовольчих товарів

Розв'язання

Умовні ймовірності p(y_j/x_i) при i=j характеризують вплив завад у каналі зв'язку.

Часткова умовна ентропія спостерігача Y щодо джерела Xвизначається за формулою

.

Знайдемо часткові умовні ентропії для всіх x_i, i=1, …,3

(біт/сим);

(біт/сим);

(біт/сим).

Знаходимо загальну умовну ентропію дискретної випадкової величини (д. в. в.) Y стосовнод. в. в. X:

(біт/сим).

Скориставшись формулою множення ймовірностей

p(x_i, y_j)=p(x_i)×p(y_j/x_i),

побудуємо матрицю ймовірностей системи д. в. в. X, Y:

Перевіряємо умову нормування: = 0,6305+0,013+0,0065+

+0,03+0,258+0,012+0,0015+0,004+0,0445=1.

З матриці сумісних ймовірностей p(x, y) знаходимо взаємну ентропію д. в. в. X, Y:

(біт/сим).

Скориставшись заданим рядом розподілу ймовірностей д. в. в. X, знайдемо ентропію X:

(біт/сим).

Перевірка: H(X, Y)=HX+H(Y/X)=1,142+0,385»1,527(біт/сим).

Виконавши в матриці сумісних ймовірностей p_ij= p(x, y)згортку за i, отримаємо приблизний безумовний розподіл д. в. в. Y:

;

;

.

Перевіряємо умову нормування

p(y₁)+ p(y₂)+ p(y₃)=0,662+0,275+0,063=1.

Знаючи приблизний безумовний закон розподілу P_y={0,662; 0,275; 0,063}, знайдемо матрицю умовних ймовірностей p(x/ y), скориставшись формулою

.

.

Перевіряємо умови нормування:

;

;

.

Виходячи з розподілу безумовних ймовірностей д. в. в. Y, знайдемо ентропію Y:

(біт/сим).

З матриці умовних ймовірностей p(x/ y) знайдемо часткові умовні ентропії д. в. в. X стосовно д. в. в. Y:

(біт/сим);

(біт/сим);

(біт/сим).

Тоді загальна умовна ентропія X стосовно Y

(біт/сим).

Перевірка: H(X, Y)=HY+H(X/Y)=1,157+0,369=1,527(біт/сим).

Відповідь: H(Y/x₁)»0,222 (біт/сим); H(Y/x₂)»0,705 (біт/сим);

H(Y/x₃)»0,593 (біт/сим); H(Y/X)»0,385 (біт/сим); H(X/y₁)»0,289 (біт/сим); H(X/y₂)»0,383 (біт/сим); H(X/y₃)»1,148 (біт/сим); H(X/Y)»0,369 (біт/сим).

Приклад 2Матриця сумісних ймовірностей каналу зв'язку має вигляд

.

Знайти інформаційні втрати, пропускну здатність і швидкість передачі інформації по дискретному каналу зв'язку, якщо час передачі одного повідомлення t=10^-3 с.

Переглядів: 1005