ТОР 5 статей: Методические подходы к анализу финансового состояния предприятия Проблема периодизации русской литературы ХХ века. Краткая характеристика второй половины ХХ века Характеристика шлифовальных кругов и ее маркировка Служебные части речи. Предлог. Союз. Частицы КАТЕГОРИИ:
|
Содержательный подход к измерению количества информацииНовые сведения о свойствах объектов окружающего нас мира содержат информацию для человека и, следовательно, пополняют его знания. При содержательном подходе возможна качественная оценка полученной информации, например, насколько она для нас полезна, важна или наоборот – вредна. Неопределенность знания о некотором событии – это количество возможных результатов события (бросания монеты, кубика; вытаскивания жребия и пр.). Уменьшение неопределенности знания человека в 2 раза, несет для него 1 бит информации. Количество информации (I) для событий с различными вероятностями определяется по формуле К.Шеннона: где N — количество возможных событий; — вероятности отдельных событий. Если события равновероятны, то количество информации (I) определяется по формуле Р.Хартли:
где N – количество равновероятных событий. Пример 1. После экзамена по информатике объявляют оценки («5», «4», «3» или «2»). Какое количество информации будет нести сообщение об оценке студента А, который выучил лишь половину билетов, и сообщение об оценке учащегося Б, который выучил все билеты.
Решение. Опыт показывает, что для учащегося А все четыре оценки (события) равновероятны и тогда количество информации, которое несет сообщение об оценке, можно вычислить по формуле Хартли: I = Iog 2 4 = 2 бита. На основании опыта также предположим, что для студента В наиболее вероятной оценкой является «5» (р1 = 1/2), вероятность оценки «4» в два раза меньше (р2 = 1/4), а вероятности оценок «2» и «3» еще в два раза меньше (р3 = p4 =1/8). Так как данные события не являются равновероятными, для подсчета количества информации воспользуемся формулой Шеннона: I = - ( 1/2·log2l/2+1/4·log2l/4+1/8·log2l/8+1/8·log2l/8)бит= 1,75 бит (log2l/2=-1, log2l/4=-2, log2l/8=-3) Пример 2. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение том, что выпал номер 17?
Решение. Поскольку вытаскивание любого из 32 шаров равновероятно, то количество информации об одном выпавшем номере находится из уравнения: 2 I =32. Так как 32=25, то I =5 бит. (Ответ не зависит от того, какой именно выпал номер).
Задание №2
Не нашли, что искали? Воспользуйтесь поиском:
|