单符号离散信源的自信息和信源熵都是一个确定值。
离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。
离散无记忆信源所产生的符号序列的熵等于各符号熵之和。
离散信源或数字信号的信源编码的理论基础是限失真信源编码定理。
离散平稳有记忆信源符号序列的平均符号熵随着序列长度L的增大而增大。
某信源由4个不同符号组成，每个符号出现的概率相同，信源每秒发出100个符号，则该信源的平均信息速率为（）。
单符号离散信源的联合自信息量和条件自信息量都是非负的和单调递减的。
离散平稳无记忆信源
单符号离散信源的自信息和信源熵都具有非负性。
离散无噪信道的信道容量等于log2n，其中n是信源X的消息个数。
简述离散信源和连续信源的最大熵定理。
连续信源和离散信源的平均互信息都具有非负性。
设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。
某四进制离散信源，0、1、2和3发生概率分别为1/4、1/2、1/8、1/8，该信源的平均信息量为（ ）。
当离散信息源中每个符号等概出现，而且各符号的出现为统计独立时，该信源的平均信息量最大。（ ）
设有一个二进制离散信源（0,1），每个符号独立发送。（1）若 0，1 等概出现，球每个符号的信息量和平均信息量（熵）。（2）若 0 出现概率为1/3， 重复（1）
对信源X的自信息量求算数平均即得到信源的熵。
8、二进制无记忆信源（每个符号的出现是独立m,的），已知“0”符号出现的概率为1/4，则该信源的熵（平均信息量）为（）bit/符号。
二进制无记忆信源（每个符号的出现是独立的），已知“0”符号出现的概率为1/4，则该信源的熵（平均信息量）为（）bit/符号
一无记忆信源的符号集为{0,1}，其中“0”符号的概率为1/4,求:（1)每信源符号平均携带的信息量;（2) 100 个信源符号构成一条序列，求每一特定序列（含m个“0”，（100-m)个“1”)的自信息;（3)求产生形式如同（2)中的序列所对应的信源的熵。
（）当离散信息中每个符号等概出现，而且各符号的出现为统计独立时，该信源的平均信息量最大。
若对一离散信源（熵为H（X））进行二进制无失真编码，设定长码子长度为K，变长码子平均长度为M，一般M＞K。
某离散无记忆信源有8个信源符号a0，a1，a2，a3，a4，a5，a6，a7，各符号的概率分别为:：0.1，0.1，0.1，0.1，0.1，0.4，0.05，0.05。（1)对该信源符号进行二元Huffman编码（要求:码长方差最小)。（2)求平均码长及码长的方差。（3)求信源的熵、编码速率和编码效率。
某四进制离散信源,0、1、2和3发生概率分别为1/4、1/2、1/8、1/8,该信源的平均信息量为（)。
