单符号离散信源的自信息和信源熵都是一个确定值。
离散无记忆扩展信源的平均信息量H(Sn)和未扩展信源平均信息量H(S)之间的关系为()
离散无记忆信源所产生的符号序列的熵等于各符号熵之和。
对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值P和信源的熵功率()。
连续信源和离散信源的熵都具有非负性。
某信源由4个不同符号组成,每个符号出现的概率相同,信源每秒发出100个符号,则该信源的平均信息速率为()。
二进制信源的熵为1bit/符号,该信源中“1”出现的概率是()。
平均互信息量I(X;Y)对于信源概率分布p(xi)和条件概率分布p(yj/xi)都具有凸函数性。
单符号离散信源的自信息和信源熵都具有非负性。
有一二进制信源符号,0和1发生的概率分别P(0)与P(1),当()概率发生时,信源的熵达到最大值。
互信息量I(X;Y)表示收到Y后仍对信源X的不确定度。
信源X的概率分布为P(X)={1/2,1/3,1/6},信源Y的概率分布为P(Y)={1/3,1/2,1/6},则信源X和Y的熵相等。
某四进制离散信源,0、1、2和3发生概率分别为1/4、1/2、1/8、1/8,该信源的平均信息量为( )。
某二元信源(X/P)=(),失真矩阵为,求D<sub>min</sub>,D<sub>max</sub>与信源的R(D)函数。
8、二进制无记忆信源(每个符号的出现是独立m,的),已知“0”符号出现的概率为1/4,则该信源的熵(平均信息量)为()bit/符号。
已知信源的消息分别为A,B,C,D;现用二进码元对各消息进行信源编码:A→00,B→01,C→10,D→11,每二进码元的宽度为5ms。(1)若每个消息等概率出现,求平均信息传输速率。(2)设P(A)=1/5,P(B)= 1/4,P(C)=1/4,P(D)=3/10;求平均信息传输速率。
设信源为X={0,1},P(0)=1/8,如信源发出由m个“0”和(100-m)个“1”构成的序列,序列的自信息量为______.
一个三元四阶平稳马氏链,具有相等的转移概率,求信源的熵。
二进制无记忆信源(每个符号的出现是独立的),已知“0”符号出现的概率为1/4,则该信源的熵(平均信息量)为()bit/符号
一无记忆信源的符号集为{0,1},其中“0”符号的概率为1/4,求:(1)每信源符号平均携带的信息量;(2) 100 个信源符号构成一条序列,求每一特定序列(含m个“0”,(100-m)个“1”)的自信息;(3)求产生形式如同(2)中的序列所对应的信源的熵。
53、有一二进制信源符号,0和1发生的概率分别P(0)与P(1),当()概率发生时,信源的熵达到最大值。
某离散无记忆信源有8个信源符号a0,a1,a2,a3,a4,a5,a6,a7,各符号的概率分别为::0.1,0.1,0.1,0.1,0.1,0.4,0.05,0.05。(1)对该信源符号进行二元Huffman编码(要求:码长方差最小)。(2)求平均码长及码长的方差。(3)求信源的熵、编码速率和编码效率。
13、离散信源的序列熵等于各个符号的熵之和。
某四进制离散信源,0、1、2和3发生概率分别为1/4、1/2、1/8、1/8,该信源的平均信息量为()。