Количество информации. Единицы измерения информации

Содержательный подход к измерению информации.

Данный подход связывает количество сообщения с содержанием. Сообщение – информативный поток, который в процессе передачи информации поступает к приемнику.  Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными.  Если сообщение не информативно, то количество информации с точки зрения человека равно нулю. (Пример: вузовский учебник по высшей математике содержит знания, но они не доступны первокласснику).

Алфавитный подход к измерению информации

Данный подход не связывает количество информации с содержанием сообщения. Количество информации зависит от объема текста и мощности алфавита. Ограничений на максимальную мощность алфавита нет, но есть достаточный алфавит мощностью в 256 символов. Этот алфавит используется для представления текстов в компьютере. Поскольку 256=2⁸, то 1 символ несет в тексте 8 бит информации.

Вероятностный подход к измерения информации

 Все события происходят с различной вероятностью, но  зависимость между вероятностью событий и количеством информации, полученной при совершении того или иного события можно выразить формулой которую в 1948 году предложил  Шеннон.

БИТ- это наименьшая единица измерения информации.

1байт = 8 бит

1Кб (килобайт) = 210 байт = 1024 байт

1Мб (мегабайт) = 210 Кб = 1024 Кб

1Гб (гигабайт) = 210 Мб = 1024 Мб.