Надмірність повідомлень, поняття теорії інформації. Наявність надмірності в записі повідомлень якого-небудь джерела інформації виявляється в можливості записати ці повідомлення в середньому коротше, використовуючи ті ж самі знаки (тобто замінюючи код на іншій з тим же алфавітом; див.(дивися) Код, Кодування ). Наприклад, якщо даними повідомленнями є послідовності знаків 0 і 1, в яких одиниця зустрічається в середньому один раз на десять знаків, то, застосовуючи кодування за правилом
00 ® 0, 01 ® 10, 10 ® 110, 11 ® 111,
можна скоротити запис майже удвічі. Максимальна доля «зайвих» знаків визначається по статистичних властивостях даного джерела повідомлень і також називається його надмірністю. У цьому розумінні І. с. R визначається по формулі де m — число букв алфавіту, а Н — ентропія джерела на букву повідомлення. Можна підрахувати, що в наведеному прикладі І. с. рівна 0,53. Мінімальною І. с. R = 0 володіє лише послідовність, в якій знаки незалежні і з вірогідністю 1/ m можуть дорівнювати будь-якій з m букв алфавіту.
Практично важливий питання про оцінку надмірності конкретних форм повідомлень (таких, як письмова і усна мова, фототелеграми, телевізійні зображення). Величина І. с. в них виявляється зазвичай значною. Так, наприклад, І. с. англійській письмовій мові не менше 0,6. Велика надмірність дозволяє краще розпізнати передавані повідомлення перешкод в каналах зв'язку. З цієї точки зору не завжди слід прагнути до зменшення І. с.
