• Гідрологія і Гідрометрія
• Господарське право
• Економіка будівництва
• Економіка природокористування
• Економічна теорія
• Земельне право
• Історія України
• Кримінально виконавче право
• Медична радіологія
• Методи аналізу
• Міжнародне приватне право
• Міжнародний маркетинг
• Основи екології
• Предмет Політологія
• Соціальне страхування
• Технічні засоби організації дорожнього руху
• Товарознавство продовольчих товарів

Інформація. Інформаційні потоки в живих системах

Інформація (від лат. informatio - роз'яснення, освідомлення) - це один із широко використовуваних на сьогодні термінів, що вживає людину в процесі діяльності. Створюються інформаційні центри, передаються інформаційні програми, говорять про лавинний ріст інформаційних потоків, повідомляється інформація «для міркування» і т.д. Практично одночасно і взаємозалежно з появою кібернетики в XX сторіччі створюється теорія інформації - роздягнув кібернетики, присвячений математичному описові процесів одержання, збереження, переробки і передачі інформації.

Ця теорія виникла в ході рішення задач передачі потоків повідомлень по каналах зв'язку в технічних системах, і перша фундаментальна праця належить К.Шеннону «Математична теорія зв'язку» (1948 р.). Сьогодні поняття «інформація» є однієї з основних філософських категорій, поряд з такими категоріями, як матерія, енергія, без яких неможливе опис функціонування живих систем.

До основних понять теорії інформації відносяться: повідомлення, сигнал, кількість інформації, ентропія, кодування, пропускна здатність каналу зв'язку.

Повідомлення - це деяка інформація про події, закодована у формі визначеного сигналу.

Сигнал - фізичний носій інформації. Сигналом може бути звук, світло, буква, механічний удар і ін.

Перш ніж розглянути питання про кількість інформації, необхідно відзначити наступні її властивості:

1. Інформація має сенс тільки при наявності її приймача (споживача). Якщо приймаючий об'єкт відсутній, то не можна говорити про існування інформації. Так, якщо в кімнаті працює телевізор, але в ній немає людини, те усе, що показується і говориться, не є інформацією.

2. Наявність сигналу не обов'язково говорить про те, що передається деяка інформація. Інформативно тільки таке повідомлення, що несе в собі щось невідоме раніше, у чому бідує об'єкт, якому воно передається.

3. Інформація може передаватися не обов'язково тільки через нашу свідомість. Вона передається і на підсвідомому рівні, і на рівні внутрішніх процесів в організмі. Для м'язів рухового апарата нервові імпульси, що прийшли до нього, несуть інформацію про необхідні дії; для серця обсяг крові в діастолу несе інформацію про необхідну силу наступного скорочення, перебудова конформації ферменту несе інформацію для процесів переносу іонів і ін.

4. Якщо подія достовірне (тобто його імовірність Р=1), те повідомлення про те, що воно відбулося, не несе ніякої інформації для споживача. Так, якщо ви в даний момент читаєте цю сторінку підручника і вам хтось про це повідомляє, те в цьому повідомленні для вас немає нічого нового, тобто не утримується абсолютно ніякої інформації.

5. Повідомлення про подію, імовірність якого р<1, містить у собі інформацію, і тим більшу, ніж менше імовірність події, що відбулося.

Таким чином, чим менше імовірність деякої події, тим більша кількість інформації містить повідомлення про те, що воно відбулося.

Так, наприклад, якщо у Всесвіті з'явилася супернова зірка, подія вкрай малоймовірне, про це повідомляють усі світові інформаційні агентства і газети, тому що в цьому повідомленні утримується величезна кількість інформації.

Шеннон дав наступне визначення інформації:

«Інформація, що утримується в повідомленні, є міра тієї кількості невизначеності, що ліквідується після одержання даного повідомлення».

Кількість інформації I (х_i), що утримується в повідомленні х_i, дорівнює логарифмові величини, зворотної імовірності Р(х_i) цієї події:

(10.1)

За одиницю інформації прийнята кількість інформації, що утримується в повідомленні про те, що відбулося одне з двох рівноможливих подій, тобто якщо Р(А) = Р(У) = 0,5, те

I_A = I_B = –log₂0,5 = 1.

Це кількість інформації називають біт.

Приклад: Скільки біт інформації містить довільне тризначне число?

Перша цифра має 9 різних значень від 1 до 9 (тому що 0 на початку числа незначне), друга і третя - по 10 значень (від 0 до 9). Тоді

I = log₂9 + 2log₂10 = 9,28 біт.

У теорії інформації джерело інформації задається у виді безлічі повідомлень Х₁, Х₂, ..., Х_n, з імовірностями відповідно P₁, P₂, ..., P_n. У цьому випадку середня кількість інформації, що приходиться на одне повідомлення, визначається по формулі Шеннона:

(10.2)

де i = 1, 2, ..., n.

Приклад: Розрахуємо кількість інформації I_А й I_В у повідомленнях про події А и В, імовірності яких: Ρ (А) = 3/4 і Ρ (В) = 1/4.

Для повідомлення А: I_А = –log₂(3/4) = 0,42 біт.

Для повідомлення В: I_В = –log₂(1/4) = 2,0 біт.

Середня кількість інформації на одне повідомлення:

Величина I розглядається як міра невизначеності зведень про джерело інформації, що мала місце до прийому повідомлень і було усунуто після їхнього одержання.

Цю міру невизначеності називають ентропією (Н) джерела інформації, що приходиться на одне повідомлення. У такий спосіб:

(10.3)

Середня кількість інформації й ентропія Η чисельно рівні, але мають протилежний сенс.

Чим з більшого числа повідомлень одержувач інформації повинний зробити вибір, тим більше значення має інформаційна ентропія.

Для джерела з єдино можливим повідомленням, імовірність якого прагне в 1 (Рà1), ентропія прагне до нуля (Нà0).

Якщо всі k можливих повідомлень джерела рівноможливі ( Р(х_i) = 1/k), то його ентропія Η максимальна:

H_max = log₂k. (10.4)

Передбачається, що кожному повідомленню відповідає тільки один з можливих станів джерела. У цьому випадку величина може служити мірою неорганізованості системи, що є джерелом інформації. Ніж менш організована система, тим більше число її можливих станів і величина максимальної ентропії.

Для приклада розглянемо три джерела інформації А, В и С, характеризуються трьома повідомленнями кожний: I, II і III з імовірностями, зазначеними нижче:

повідомлення   джерело	I	II	III
A	0,8	0,1	0,1
B	0,4	0,4	0,2
C	0,33	0,33	0,33

Обчислимо ентропії джерел А, В и С на одне повідомлення:

= 0,92 біт.

= 1,50 біт.

H_c = log₂3 = 1,50 біт.

Як бачимо, джерело інформації З, що характеризується повідомленнями з однаковими імовірностями (Р = 0,33), має найбільшу Η = H_max, тобто найбільший ступінь невизначеності.

Рівень визначеності (детермінованості) джерела інформації характеризується величиною

де Η - ентропія на один стан джерела інформації, Η_max - максимальна ентропія на одне повідомлення, коли всі повідомлення рівноможливі. У нашому прикладі R_C = 0, R_B = 0,02,
R_A = 0,4.

Якщо R = 1,0-0,3, джерело інформації вважається детерміноване, R = 0,3-0,1 – можливо детерміноване, R < 0,1 можливим (стохастичним). Таким чином, джерела В и С - стохастичні, а джерело А - детерміноване.

Середня кількість інформації, що може одержати об'єкт, залежить від характеристик каналу зв'язку. Каналом зв'язку може бути провід, світловий промінь, хвилевід, нервові волокна, кровоносні судини й ін. Основною характеристикою каналу зв'язку є його пропускна здатність. Вона буде визначатися граничною швидкістю передачі інформації, вимірюваної в біт/с.

Для передачі повідомлення по каналі інформація кодується, наприклад, положення прапора на флоті, абетка Морзе, послідовність, частота, тривалість імпульсів у нервовій мережі й ін. На прийомній стороні необхідний декодер, що здійснює зворотне кодеру перетворення: код сигналу перетвориться в зміст повідомлення. Блок-схема каналу зв'язку показана на мал. 10.6.

При передачі інформації з каналу зв'язку можуть відбуватися її перекручування за рахунок перешкод із зовнішнього середовища і порушень у самій лінії.

Ефективними способами боротьби з перекручуваннями інформації є створення її надмірності і передача сигналів по великому числу рівнобіжних каналів. Обоє ці способу широко використовуються в організмі людини. У нервових мережах завжди забезпечується дублювання основного повідомлення великим числом рівнобіжних сигналів, тому кількість рецепторів значно перевищує кількість нейронів, до яких від них надходять сигнали.

Пропускна здатність будь-яких рецепторних апаратів істотно вище можливостей усвідомлення сенсорної інформації. Людська свідомість користується дуже малою часткою інформації, що поставляється в мозок периферичними відділами аналізаторів - сенсорними входами. Так наприклад, максимальний потік інформації в процесі зорового сприйняття, усвідомлюваного людиною, складає всього 40 біт/з, тоді як інформаційна ємність потоку нервових імпульсів у зорових нервах оцінюється величиною 10⁷ біт/с. За рахунок настільки величезної надмірності досягається висока надійність процесів в організмі.

Читайте також:

1. Автоматизація водорозподілу на відкритих зрошувальних системах. Методи керування водорозподілом. Вимірювання рівня води. Вимірювання витрати.
2. Автомати­зовані інформаційні систе­ми для техніч­ного аналізу товар­них, фондових та валют­них ринків.
3. Арифметичні операції в різних системах числення
4. Біоценоз – це сукупність усіх живих організмів в рамках даної екосистеми.
5. Бюлетені та інші інформаційні матеріали, електронні видання
6. В системах електропостачання.
7. Вантажопотоки
8. Вантажопотоки, їх види та формування.
9. Види звітів про грошові потоки.
10. Визначення переміщень у статично невизначуваних системах
11. Вимірювальні інформаційні системи та задачі, які вони вирішують.
12. Вимірювання потужності у трифазних системах

Переглядів: 1014