• Гідрологія і Гідрометрія
• Господарське право
• Економіка будівництва
• Економіка природокористування
• Економічна теорія
• Земельне право
• Історія України
• Кримінально виконавче право
• Медична радіологія
• Методи аналізу
• Міжнародне приватне право
• Міжнародний маркетинг
• Основи екології
• Предмет Політологія
• Соціальне страхування
• Технічні засоби організації дорожнього руху
• Товарознавство продовольчих товарів

Швидкість передачі інформації й пропускна здатність дискретних каналів з завадами

Швидкість передачі інформації з дискретних каналів без перешкод. Оптимальне статистичне кодування

Продуктивність джерела дискретних повідомлень

Розглянемо джерело дискретних повідомлень

, , де m – об'єм алфавіту джерела,

Для такого джерела можемо визначити середню кількість інформації в повідомленнях (ентропію).

Джерело працює на інтервалі T і генерує за цей час кількість інформації .

Швидкість видачі інформації джерелом, якщо процес ергодичний,

Якщо джерело видало n елементарних повідомлень, а тривалість повідомлень ,тоді:

.

Визначимо максимальну продуктивність джерела

.

Якщо відсутні завади, то при узгодженні джерела з каналом швидкість передачі інформації дорівнює продуктивності джерела повідомлень:

,

де - кількість символів джерела, - кількість символів каналу.

Завданням статистичного кодування є максимізація швидкості передачі інформації з каналом зв'язку.

У цей час використовується двійкове кодування.

Щоб забезпечити максимальну швидкість передачі інформації каналом без завад, необхідно реалізувати оптимальне статистичне кодування (ОСК) повідомлень джерела двійковим кодом. Можна довести, що для виконання ОСК необхідно виконати правило: , де - кількість символів у комбінації двійкового коду.

Тобто кількість символів у кодовій комбінації повинне рівнятися кількості інформації в повідомленні, що кодується.

Існує ряд алгоритмів статистичного кодування. Основна мета всіх схем ОСК - мінімізація середньої тривалості кодових комбінацій. Необхідно здійснити кодування таким чином, щоб повідомлення що, найбільш часто зустрічаються кодувалися найбільш короткими комбінаціями. Найбільш відомі схеми кодування Шеннона-Фано й Хаффмена. Характерно те, що в таких схемах попередньо всі повідомлення записуються в порядку зменшення їхніх імовірностей. Кодування виконується так, щоб жодна коротка комбінація не була початком більш довгої. Саме ця властивість дає можливість декодування.

Таблиця 1.1- Схема кодування Шеннона - Фано.

Оптимальне статистичне кодування забезпечує передачу інформації з каналів зв'язку з максимальною швидкістю. Недолік: перешкоди або збої в апаратурі, спотворення одного символу ведуть до спотворення всіх інших комбінацій.

Щоб усунути цей недолік необхідно вводити інтервали між кодовими комбінаціями. Величина захисного інтервалу між комбінаціями повинна бути кратна тривалості символу й не менш тривалості одного символу. Це знижує достоїнства оптимального коду.

Нехай джерело генерує повідомлення

- апріорна імовірність

Оцінимо швидкість передачі інформації -вхід, -вихід

- передане повідомлення

варіанти прийнятих повідомлень.

Якщо відсутні завади, то мають місце однозначні переходи. Якщо завади присутні, то мають місце помилкові переходи.

Матриця перехідних імовірностей:

Завжди імовірність переходу .

Вона показує ймовірність переходу переданого символу в прийнятий . Максимальне значення перехідних імовірностей лежить на головній діагоналі матриці – .

Кількість інформації в переданому повідомлені визначається як:

.

Кількість інформації у прийнятому символі

.

У випадку відсутності помилок у передачі

.

Аналізуючи прийняті повідомлення, можемо побудувати матрицю апостеріорних імовірностей.

- апостеріорна імовірність.

, якщо прийнято вірно

Завжди

Ця величина визначає, яку кількість інформації необхідно ще одержати, щоб повідомлення стало вірогідним. Така кількість інформації була загублена в каналі зв'язку при передачі повідомлення .

Кількість інформації, отримана одержувачем:

Взаємна інформація - кількість переданої інформації, що міститься в при прийомі :

Нас цікавить середня кількість інформації, доставленої на вихід каналу одним прийнятим повідомленням:

- ентропія джерела, тобто середня кількість інформації, що міститься в кожному переданому символі.

- ентропія втрат, тобто середня кількість інформації, що втрачається при передачі одного символу.

- середня кількість інформації, що доставляється споживачеві при прийманні одного повідомлення.

- суміш корисного повідомлення із шумом.

- ентропія вихідного сигналу, середня кількість інформації, що міститься в одному вихідному символі (суміші сигналу з завадою).

- ентропія шуму, середня кількість інформації, що додається шумом.

,

За час одержуємо кількість інформації:

Швидкість передачі інформації:

- пропускна здатність.

Значення залежать від співвідношення сигнал/шум, способу обробки сигналу, виду сигналу, виду канального кодування й матриці перехідних імовірностей.

Читайте також:

1. V здатність до встановлення та підтримки гарних особистих стосунків і веденню етичного способу життя.
2. Vу -швидкість ударника
3. Активний опір ліній електропередачі
4. Алфавітний підхід до вимірювання кількості інформації.
5. Аналіз ефективності використання каналів розподілу
6. Аналіз зовнішньої інформації
7. Аналіз інформації та постановка задачі дослідження
8. Аналіз та інтерпретація інформації
9. Аналіз та узагальнення отриманої інформації.
10. Аналіз якості виробничої інформації
11. Аналітико-синтетична переробка інформації
12. Аналітична обробка інформації вузлами інформаційно-аналітичної функціональної підсистеми МОЗ України і питань НС.

Переглядів: 2782