• Гідрологія і Гідрометрія
• Господарське право
• Економіка будівництва
• Економіка природокористування
• Економічна теорія
• Земельне право
• Історія України
• Кримінально виконавче право
• Медична радіологія
• Методи аналізу
• Міжнародне приватне право
• Міжнародний маркетинг
• Основи екології
• Предмет Політологія
• Соціальне страхування
• Технічні засоби організації дорожнього руху
• Товарознавство продовольчих товарів

Тлумачний словник
Авто
Автоматизація
Архітектура
Астрономія
Аудит
Біологія
Будівництво
Бухгалтерія
Винахідництво
Виробництво
Військова справа
Генетика
Географія
Геологія
Господарство
Держава
Дім
Екологія
Економетрика
Економіка
Електроніка
Журналістика та ЗМІ
Зв'язок
Іноземні мови
Інформатика
Історія
Комп'ютери
Креслення
Кулінарія
Культура
Лексикологія
Література
Логіка
Маркетинг
Математика
Машинобудування
Медицина
Менеджмент
Метали і Зварювання
Механіка
Мистецтво
Музика
Населення
Освіта
Охорона безпеки життя
Охорона Праці
Педагогіка
Політика
Право
Програмування
Промисловість
Психологія
Радіо
Регилия
Соціологія
Спорт
Стандартизація
Технології
Торгівля
Туризм
Фізика
Фізіологія
Філософія
Фінанси
Хімія
Юриспунденкция

Задача 6.2.3

Матриця ймовірностей сумісної появи символів на виходах двох немарковських джерел з алфавітами та має вигляд:

Визначити, яке з джерел має більшу ентропію та чи є джерела статистично незалежними.

Розв’язання. Для відповіді на перше запитання розрахуємо, користуючись виразами (1.13), безумовні ймовірності появи символів на

виходах першого та другого джерел:

p(x₁) = 0,0336 + 0,3150 + 0,0714 = 0,42 ;

p(x₂) = 0,0264 + 0,2475 + 0,0561 = 0,33 ;

p(x₃) = 0,0200 + 0,1875 + 0,0425 = 0,25 ;

p(y₁) = 0,0336 + 0,0264 + 0,0200 = 0,08 ;

p(y₂) = 0,3150 + 0,2475 + 0,1875 = 0,75 ;

p(y₃) = 0,0714 + 0,0561 + 0,0425 = 0,17 .

Тепер можемо знайти ентропії джерел за виразом (6.1):

Таким чином, джерело з алфавітом має більшу ентропію, ніж джерело з алфавітом .

Відповідь на друге запитання можна отримати різними способами. По-перше, оскільки вже відомі значення ентропій та , доцільно перевірити, чи виконується рівність (6.18). Для цього розрахуємо сумісну ентропію . Підставивши чисельні значення ймовірностей у вираз (6.11), отримаємо:

Оскільки ,джерела є статистично незалежними.

Другий спосіб базується на перевірці виконання співвідношень для всіх пар символів:

p(x₁) × p(y₁) = 0,42×0,08 = 0,0336 ;

p(x₂) × p(y₁) = 0,33×0,08 = 0,0264 ;

p(x₃) × p(y₁) = 0,25×0,08 = 0,0200 ;

p(x₁) × p(y₂) = 0,42×0,75 = 0,3150 ;

p(x₂) × p(y₂) = 0,33×0,75 = 0,2475 ;

p(x₃) × p(y₂) = 0,25×0,75 = 0,1875 ;

p(x₁) × p(y₃) = 0,42×0,17 = 0,0714 ;

p(x₂) × p(y₃) = 0,33×0,17 = 0,0561 ;

p(x₃) × p(y₃) = 0,25×0,17 = 0,0561 .

Як і слід було очікувати, розраховані ймовірності цілком збігаються із відповідними значеннями ймовірностей сумісної появи символів, що наведені в умовах задачі.

Найбільш універсальним способом оцінки статистичної залежності джерел є обчислення повної взаємної інформації . Аналізуючи вираз (6.23), легко зрозуміти, що для джерел цієї задачі ,оскільки для усіх пар

Ще один спосіб розв’язання задачі базується на аналізі матриці умовних імовірностей. Розрахуємо, наприклад, умовні ймовірності , користуючись виразом :

Всі елементи кожного стовпця однакові і дорівнюють безумовній ймовірності появи відповідного символу . Це означає, що ймовірність появи символу на виході першого джерела не залежить від символу на виході другого джерела. Можна переконатись, що i в матриці умовних ймовірностей всі елементи кожного стовпця будуть однаковими і дорівнювати .

Читайте також:

1. Б. Задача
2. Взаємне положення площин. Перша позиційна задача
3. Взаємне положення прямої і площини. Друга позиційна задача.
4. Вторая задача анализа на чувствительность
5. Головна задача м/н фінансового менеджменту полягає у оцінці короткострокових і довгострокових активів і зобов’язань фірми у часовому і просторовому використанні м/н ринків.
6. Двоїста задача
7. Двухмерная задача Коши
8. З праці В. Леніна «О задачах пролетариата в данной революции»
9. Загальна задача лінійного програмування (ЗЛТ)
10. Задача # 12 (з тих, що вона скидувала)
11. Задача 1
12. Задача 1

Переглядів: 249