Що означає термін “ентропія” з точки зору теорії інформації?

Ентропія - це наростання хаосу (безладдя, на противагу космосу - порядку). Це визначення вірно не тільки для теорії інформації. Воно загально. Ми живемо у Всесвіті, де постійно зростає ентропія. Спочатку західні фізики позначали її як "теплову смерть Всесвіту". Радянські фізики це спростували. Але Закон наростання ентропії діє, незважаючи на освіченість наших або західних вчених. Тільки ось віддалені наслідки його ми ніколи не відчуємо.