Яка кількість інформації в одній літері?

Відповідь: одна буква несе 5 біт інформації. 2) Повідомлення, записане літерами із 16 символьного алфавіту, містить 10 символів.

Кількість інформації, яке буде нести одна літера алфавіту можна порахувати за формулою: i = log2 (N), де i – шукане кількість інформації, N – кількість букв в алфавіті. Відповідь: 3 біти.

Обчислюється за формулою: кількість інформації = кількість символів у повідомленні * на кількість бітів, яким кодується символ.

Кожен символ деякого повідомлення має певну інформаційну вагу – несе фіксоване кількість інформації. Щоб визначити кількість інформації у повідомленні потрібно знати інформаційну вагу одного символу. Інформаційна вага символу залежить від кількості символів у алфавіті.