Маємо два дискретних немарковських джерела інформації з алфавітами та з такими розподілами ймовірностей появи символів:
Не розраховуючи ентропії джерел, дати відповідь, яке з них має більшу ентропію.
Розв’язання. Оскільки розподіл імовірностей появи символів на виході джерела з алфавітом є більш близьким до рівноймовірного, ентропія цього джерела буде більшою, ніж джерела з алфавітом .