Статья 1545

Нетрудно заметить, что практически любое понятие можно представить в виде набора таких двоичных символов - нулей и единиц. Действительно, каждой букве алфавита можно сопоставить тоже набор нулей и единиц и такими же наборами обозначить паузы между словами и знаки препинания. Тогда и любой текст можно изобразить в виде двоичного кода достаточной длины. Заметим теперь, что чем больше ответов типа да и нет получено нами, тем больше у нас информации и тем точнее сообщение, оказавшееся в нашем распоряжении. Следовательно, число мест в слове, на которых могут стоять нули и единицы, или, иначе говоря, число разрядов в коде числе, может служить мерой количества информации.
К тому же выводу можно прийти с несколько иных и более формальных позиций. Предположим, что нам заранее известно, сколько альтернативных, взаимно исключающих друг друга вариантов сообщения может быть получено.