Задачник составлен в соответствии с программой курса «Теория информации и кодирование» и содержит задачи по определению количества информации равновероятных и неравновероятных, взаимозависимых и взаимонезависимых сообщений; вычислению объема информации; вычислению энтропии различных систем; определению помех в каналах связи при помощи условной энтропии и энтропии объединения; вычислению избыточности сообщений; вычислению скорости передачи информации в каналах связи с помехами и без помех; построению оптимальных кодов; построению корректирующих кодов, обнаруживающих и исправляющих многократные ошибки; по сжатию информации и построению кодов в памяти компьютера. К каждой теме дан краткий теоре