下列离散信源，熵最大的是（）。
单符号离散信源的自信息和信源熵都是一个确定值。
离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。
离散无记忆信源所产生的符号序列的熵等于各符号熵之和。
对于均值为0，平均功率受限的连续信源，信源的冗余度决定于平均功率的限定值P和信源的熵功率（）。
连续信源和离散信源的熵都具有非负性。
离散平稳有记忆信源符号序列的平均符号熵随着序列长度L的增大而增大。
二进制信源的熵为1bit/符号，该信源中“1”出现的概率是（）。
单符号离散信源的自信息和信源熵都具有非负性。
简述离散信源和连续信源的最大熵定理。
试证明n维随机变量的共熵，不大于它们各自的熵之和。
简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？
有一二进制信源符号，0和1发生的概率分别P（0）与P（1），当（）概率发生时，信源的熵达到最大值。
信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。
设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。
设有一个二进制离散信源（0,1），每个符号独立发送。（1）若 0，1 等概出现，球每个符号的信息量和平均信息量（熵）。（2）若 0 出现概率为1/3， 重复（1）
对于可以发送K种符号的离散信源，其熵最大为（ ）。
信源符号的相关程度越大，信源的符号熵越______，信源的剩余度越______。
某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为 bit/符号。
二进制无记忆信源（每个符号的出现是独立的），已知“0”符号出现的概率为1/4，则该信源的熵（平均信息量）为（）bit/符号
一无记忆信源的符号集为{0,1}，其中“0”符号的概率为1/4,求:（1)每信源符号平均携带的信息量;（2) 100 个信源符号构成一条序列，求每一特定序列（含m个“0”，（100-m)个“1”)的自信息;（3)求产生形式如同（2)中的序列所对应的信源的熵。
76、某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为（）bit/符号。
53、有一二进制信源符号，0和1发生的概率分别P（0)与P（1)，当（）概率发生时，信源的熵达到最大值。
某离散无记忆信源有8个信源符号a0，a1，a2，a3，a4，a5，a6，a7，各符号的概率分别为:：0.1，0.1，0.1，0.1，0.1，0.4，0.05，0.05。（1)对该信源符号进行二元Huffman编码（要求:码长方差最小)。（2)求平均码长及码长的方差。（3)求信源的熵、编码速率和编码效率。
