Наконец-то нашла адекватное объяснение, что же такое энтропия. Здесь.