Узнай об автоматике все - читай kip-help.narod.ru

Найти: на

Хочешь узнать ответ

на свой вопрос?

Напиши в редакцию!

Структурные меры информации Письмо в редакцию

Теория и практика

электроники

Структурные меры информации подразделяются на 3 вида:

-  геометрические

-  комбинаторные

-  логарифмические (аддитивные)

   1. Геометрическая мера.

Определяют количество информации по числу информационных элементов (квантов), занимающих определенную область информационного поля.

Информационная емкость – максимальное количество квантов, размещаемых в заданных структурных габаритах.

Например, для трехмерного информационного поля, имеющего по осям координат протяженности X, Y, Z и имеющего шаги квантования по осям DX,DY,DZ информационная емкость будет определяться формулой:

mx, my, mz - число квантов по соответствующим осям

   2. Комбинаторная мера.

Количество информации измеряется числом комбинаций информационных элементов в информационной системе.

Для текстовых сообщений наиболее применимый способ комбинирования - размещение с повторением.

Наибольшее число комбинаций для этого способа: L=mn

Число размещений из m элементов по n является степенью => зависимость количества информации L от длинны сообщения нелинейна.

Если измеряем обобщенное количество информации нескольких источников сообщений, то общее количество информации определяется как произведения информативности отдельных источников: L=L1*L2*….*LK

   3. Логарифмическая мера.

Автором этой меры является Хартли. Выделение логарифма позволяет избавиться от главного недостатка комбинаторной меры - нелинейной зависимости количества информации от длины сообщения.

Логарифмическая мера определяется по формуле: I=Loga(L)

I=Loga(mn)=n*Loga(m)- создается линейная зависимость информативности от длины сообщения.

I=Loga(L1*L2*…*LK)=Loga(L1)+Loga(L2)+…+Loga(Lk)=I1+I2+…+IK

Основание логарифма (a) определяет единицу измерения количества информации, основание может быть любое, например:

   а=10 - единица измерения дит;

   а=е  - единица измерения нит;

   а=2  - единица измерения бит.

1 бит информации содержится в ответе на вопрос, допускающий 2 равновероятных ответа - да или нет. В ответе да/нет один вид информации.

Теория информации

и автоматического

управления

Метрология

Программирование

Заметки инженера

 Решебник

Научись самостоятельно изготавливать электронные устройства с сайтом  radiohlam.ru

 

ПОРА СТАНОВИТЬСЯ ЭЛЕКТРОНЩИКОМ

О сайте

 

Решим для вас задачи по математике, физике, тау, программированию...

Совершенно бесплатно. Подробности в разделе Решебник

 

 

© 2007 Материалы сайта охраняются законом об авторском праве