• Гідрологія і Гідрометрія
• Господарське право
• Економіка будівництва
• Економіка природокористування
• Економічна теорія
• Земельне право
• Історія України
• Кримінально виконавче право
• Медична радіологія
• Методи аналізу
• Міжнародне приватне право
• Міжнародний маркетинг
• Основи екології
• Предмет Політологія
• Соціальне страхування
• Технічні засоби організації дорожнього руху
• Товарознавство продовольчих товарів

Алфавітний підхід до вимірювання кількості інформації.

Змістовний підхід до вимірювання кількості інформації.

Підходи до вимірювання кількості інформації.

Одиниці вимірювання кількості інформації.

Базовою одиницею інформації є біт, що приймає значення «0» або «1».

Байт (Byte) є наступною одиницею вимірювання інформації, він складається з 8 бітів.

1 байт = 8 біт

Наступними одиницями вимірювання інформації є:

1 Кілобайт (1 Кбайт, Кб) = 2¹⁰ байт = 1024 байт;

1 Мегабайт (1 Мбайт, Мб) = 2¹⁰ Кб = 2²⁰ байт = 2²³ біт;

1 Гігабайт (1 Гбайт, Гб) = 2¹⁰ Мб = 2²⁰ Кб = 2³⁰ байт = 2³³ біт;

1 Терабайт (1 Тбайт, Тб) = 2¹⁰ Гб = 2²⁰ Мб = 2³⁰ Кб = 2⁴⁰ байт = 2⁴³ біт;

1 Петабайт (1 Пбайт, Пб) = 2¹⁰ Тб = 2²⁰ Гб = 2³⁰ Мб = 2⁴⁰ Кб = 2⁵⁰ байт= 2⁵³ біт;

1 Ексабайт (1 Ебайт, Еб) = 2¹⁰ Пб = 2²⁰ Тб = 2³⁰ Гб = 2⁴⁰ Мб = 2⁵⁰ Кб = 2⁶⁰ байт = 2⁶³ біт;

1Зеттабайт (1 Збайт, Зб) = 2¹⁰ Еб = 2²⁰ Пб = 2³⁰ Тб = 2⁴⁰ Гб = 2⁵⁰ Мб = 2⁶⁰ Кб = 2⁷⁰ байт = 2⁷³ біт;

1 Йоттабайт (1 Йбайт, Йб) = 2¹⁰ Зб = 2²⁰ Еб = 2³⁰ Пб = 2⁴⁰ Тб = 2⁵⁰ Гб = 2⁶⁰ Мб = 2⁷⁰ Кб = 2⁸⁰ байт =2⁸³ біт.

Може виникнути питання, чому в міжнародній системі СІ приставки Кіло, Мега та Гіга раптом одержали інше значення. Відповідь тут у великих літерах. Кіло та кіло – це дві великі різниці.

1 кілобайт (кб) = 10³ байт = 1 000 байт

1 мегабайт (мб) = 10⁶ байт = 1 000 000 байт

1 гігабайт (гб) = 10⁹ байт = 1 000 000 000 байт.

У листопаді 2000 р. міжнародною електротехнічною комісією (МЕК) були прийняті виправлення до міжнародного стандарту. По цьому рішенню приставки, кратні ступеням 2 одержали свою особливу назву:

1 кібібайт (Кіб)= 2¹⁰ байт = 1024 байт

1 мебібайт (Міб) = 2¹⁰ Кіб = 1 048 576 байт

1 гібібайт (Гіб)= 21⁰ Міб = 1 073 741 824 байт

На жаль, ці приставки не стали звичними нашому слуху, хоча строк їхнього існування вже досить великий.

Швидкість передачі даних і пропускну здатність каналів зв'язку прийнято вимірювати в бітах у секунду (біт/с) і кратних такому:

1 кілобит (кбіт/с) = 10³ біт/с

1 мегабіт (мбіт/с) = 10⁶ біт/с

1 гігабіт (гбіт/с) = 10⁹ біт/с

А при вимірі оперативної пам'яті прийнятий вимір в одиницях, кратних не степеням десятки, а степеням двійки.

Для людини інформація – це знання людини. Розглянемо питання із цього погляду. Одержання нової інформації приводить до розширення знань. Якщо деяке повідомлення приводить до зменшення невизначеності нашого знання, то можна говорити, що таке повідомлення містить інформацію. Звідси необхідно зробити висновок, що повідомлення інформативне (тобто містить ненульову інформацію), якщо воно поповнює знання людини.

Наприклад, прогноз погоди на завтра – інформативне повідомлення, а повідомлення про вчорашню погоду неінформативне, тому що нам це вже відомо.

Неважко зрозуміти, що інформативність того самого повідомлення може бути різною для різних людей.

Наприклад: «2x2=4» інформативно для першокласника, що вивчає таблицю множення, та неінформативно для старшокласника.

Але для того щоб повідомлення було інформативним воно повинне ще бути зрозумілим. Бути зрозумілим, значить бути логічно пов'язаним з попередніми знаннями людини.

Визначення «значення певного інтеграла дорівнює різниці значень первісної підінтегральної функції на верхній та на нижній границі», швидше за все, не поповнить знання й старшокласника, тому що воно йому не зрозуміле. Для того, щоб зрозуміти дане визначення, слід закінчити вивчення елементарної математики та знати початки вищої.

Отримання будь-яких знань повинно йти від простого до складного. І тоді кожне нове повідомлення буде в той же час зрозумілим, а виходить, буде нести інформацію для людини.

Повідомлення несе інформацію для людини, якщо відомості, що містяться ньому, є для неї новими та зрозумілими.

Очевидно, розрізняють лише дві ситуації: «немає інформації» – «є інформація» для вимірювання інформації недостатньо. Потрібна одиниця вимірювання, тоді ми зможемо визначати, у якому повідомленні інформації більше, у якому – менше.

Одиниця вимірювання інформації була визначена в науці, що називається теорією інформації. Ця одиниця зветься «біт». Її визначення звучить так:

Повідомлення, що зменшує невизначеність знань у два рази, несе 1 біт інформації.

Наприклад, після здачі заліку або виконання контрольної роботи студент мучиться невизначеністю, він не знає, яку оцінку одержав. Нарешті, викладач повідомляє результати, і він одержуєте одне із двох інформаційних повідомлень: «залік» або «незалік», а після контрольної роботи одне із чотирьох інформаційних повідомлень: «2», «3», «4» або «5».

Інформаційне повідомлення про оцінку за залік приводить до зменшення невизначеності знання у два рази, оскільки отримано одне із двох можливих інформаційних повідомлень. Інформаційне повідомлення про оцінку за контрольну роботу приводить до зменшення невизначеності знання в чотири рази, оскільки отримано одне із чотирьох можливих інформаційних повідомлень.

Невизначеність знань про деяку подію – це кількість можливих результатів події.

Розглянемо ще один приклад.

На книжковому стелажі вісім полиць. Книга може бути поставлена на кожну з них. Скільки інформації містить повідомлення про те, де перебуває книга?

Застосуємо метод половинного ділення. Задамо кілька питань, що зменшують невизначеність знань у два рази.

Питання:

- Книга лежить вище четвертої полиці?

- Ні.

- Книга лежить нижче третьої полиці?

- Так .

- Книга – на другій полиці?

- Ні.

Отже, книга лежить на першій полиці!

Кожна відповідь зменшувала невизначеність у два рази.

Усього було задано три питання. Значить набрано 3 біти інформації. І якби одразу було сказано, що книга лежить на першій полиці, то цим повідомленням були б передані ті ж 3 біти інформації.

Якщо позначити можливу кількість подій, або, інакше кажучи, невизначеність знань N, а буквою I кількість інформації в повідомленні про те, що відбулося одне з N подій, то можна записати формулу:

2^І = N

Кількість інформації, що міститься у повідомленні про те, що відбулася одна з N рівноймовірних подій, визначається з розв’язання показникового рівняння: 2^І = N.

Отже, якщо у деякому повідомленні містяться відомості про те, що відбулася одна із N рівноймовірних подій, то кількість інформації, яка міститься у даному повідомленні, – х біт – число N пов’язані формулою: 2^х = N, х = log₂ N.

Звідси, кількість інформації у повідомленні про реалізацію одну із N рівноймовірних подій:

і = log₂ N.

При визначенні кількості інформації на основі зменшення невизначеності наших знань ми розглядаємо інформацію з погляду змісту, її зрозумілості та новизни для людини. Із цього погляду в досвіді по киданню монети однакова кількість інформації отримується у зоровому образі монети, що впала і в короткому повідомленні "Орел", і в довгій фразі "Монета впала на поверхню землі тією стороною догори, на якій зображений орел".

Однак при зберіганні й передачі інформації за допомогою технічних пристроїв доцільно відволіктися від змісту інформації й розглядати її як послідовність знаків (букв, цифр, кодів кольорів пікселів зображення тощо).

У такому випадку доцільно використовувати алфавітний підхід до вимірювання кількості інформації, який дозволяє визначити кількість інформації, що міститься у тексті.

Алфавіт – множина символів, яка використовується при запису тексту.

Потужність (розмір) алфавіту – повна кількість символів у алфавіті.

Наприклад:

· потужність алфавіту з російських букв дорівнює 32 (без букви е);

· потужність алфавіту тексту набраного із клавіатури дорівнюють 256 (рядкові й прописні латинські й росіяни букви, цифри, знаки арифметичних операцій, дужки, розділові знаки й т.д.);

· потужність двійкового алфавіту дорівнює 2;

· потужність алфавіту арифметичних виражень дорівнює 16 (цифри 0, 1, 2, 3, 4, 5, 6, 7, 8, 9; операції +, -, *, / ; знак = ; кома).

При алфавітному підході вважається, що кожен символ тексту має інформаційну ємність. Інформаційна ємність знака залежить від потужності алфавіту.

Слід використовувати наступні позначення:

N – потужність алфавіту;

K – кількість символів у тексті;

i – кількість інформації, яку несе кожен символ алфавіту;

I – об’єм інформації, що міститься у тексті.

Якщо припустити, що всі символи алфавіту зустрічаються у тексті з однаковою частотою (рівноймовірно), то кількість інформації, яку несе кожен символ, обчислюється по формулі:

і = log₂ N або 2ⁱ=N.

Якщо весь текст складається із K символів, то при алфавітному підході розмір інформації, яка міститься у ньому обчислюється по формулі:

I = K∙i = K∙ log₂ N

Швидкість передачі інформації вимірюється в бітах за секунду й обчислюється по формулі:

V = І/t,

де V – швидкість передачі інформації, І – кількість інформації в повідомленні, t - час передачі повідомлення.

Приклад

Так, у російському алфавіті, якщо не використати букву ё, кількість подій (букв) дорівнює 32. Тоді: 32=2^і, звідки і = 5 бітів.

Отже, кожен символ несе 5 бітів інформації (його інформаційна ємність дорівнює 5 бітам).

Читайте також:

1. III етап. Системний підхід
2. IV етап. Ситуаційний підхід
3. Автоматизація водорозподілу на відкритих зрошувальних системах. Методи керування водорозподілом. Вимірювання рівня води. Вимірювання витрати.
4. Аксіологічний підхід до вивчення педагогічних явищ.
5. Аналіз та узагальнення отриманої інформації.
6. Асимптотичний підхід до порівняння оцінок
7. Багатоаспектний підхід до прийняття управлінськихрішень
8. Багаторівневий підхід. Протокол. Інтерфейс. Стек протоколів.
9. Баланс підприємства як джерело інформації.
10. В якості критеріїв для оцінки або вимірювання предмета завдання з надання впевненості не можуть використовуватись очікування, судження або власний досвід аудитора.
11. Важливо також правильно обрати: цінні папери яких підприємств, якого виду і в якій кількості слід купувати для поповнення своїх активів. Зупинимося на цьому більш детально.

Переглядів: 4458