§ 2. Подходы к измерению информации

Информация (по Шеннону) — это снятая неопределённость. Величина неопределённости некоторого события — это количество возможных результатов (исходов) данного события. Сообщение, уменьшающее неопределённость знания в 2 раза, несёт 1 бит информации. Количество информации i, содержащееся в сообщении об одном из N равновероятных результатов некоторого события, определяется из формулы: 2ⁱ = N. Такой подход к измерению информации называют содержательным.

Информация (по Колмогорову) — последовательность символов (букв, цифр, кодов цвета точек изображения и т. д.) некоторого алфавита. Информационным объёмом сообщения называется количество двоичных символов, которое используется для кодирования этого сообщения. В двоичном коде один двоичный разряд несёт 1 бит информации. Такой подход к измерению информации называют алфавитным.

При алфавитном подходе информационный объём сообщения I, состоящего из К символов, вычисляется по формуле:

I = К • i,

где i — информационный вес символа в битах, связанный с мощностью используемого алфавита N соотношением 2ⁱ = N.

Единицы измерения информации:

1 байт = 8 бит;

1 Кбайт (килобайт) = 2¹⁰ байт;

1 Мбайт (мегабайт) = 2¹⁰ Кбайт = 2²⁰ байт;

1 Гбайт (гигабайт) = 2¹⁰ Мбайт = 2²⁰ Кбайт = 2³⁰ байт;

1 Тбайт (терабайт) = 2¹⁰ Гбайт = 2²⁰ Мбайт = 2³⁰ Кбайт = 2⁴⁰ байт;

1 Пбайт (петабайт) = 2¹⁰ Тбайт = 2²⁰ Гбайт = 2³⁰ Мбайт = 2⁴⁰ Кбайт = 2⁵⁰ байт.