Що таке кількість інформації в інформатиці?

Кількість інформації в теорії інформації – це кількість інформації в одному випадковому об'єкті щодо іншого.

Тому, щоб обчислити обсяг інформації всього повідомлення, потрібно кількість символів, які є у повідомленні, помножити на інформаційну вагу одного символу. Математично цей твір записується так: I = К · i. Наприклад: повідомлення, записане літерами 32-символьного алфавіту, містить 180 символів.

Кількість інформації (i), необхідної для визначення конкретного елемента, є логарифм на підставі 2 загального кількості елементів (N).

Кожен символ деякого повідомлення має певну інформаційну вагу – несе фіксоване кількість інформації. Щоб визначити кількість інформації у повідомленні потрібно знати інформаційну вагу одного символу. Інформаційна вага символу залежить від кількості символів у алфавіті.