离散无记忆信源所产生的符号序列的熵等于各符号熵之和。
一离散信源由A，B，C，D四个符号组成，它们出现的概率分别为1/2，1/4，且每个符号的出现都是独立的，消息{AAAAABBACCDDB}熵为2bit/符号。╳81.信息论的创始人是维纳。
某信源由4个不同符号组成，每个符号出现的概率相同，信源每秒发出100个符号，则该信源的平均信息速率为（）。
给定一个零记忆信源，已知其信源符号集为A={a1，a2}={0，1}，符号产生概率为P（a1）=1/4，P（a2）=3/4，对二进制序列11111100，其二进制算术编码码字为（）。
有一二进制信源符号，0和1发生的概率分别P（0）与P（1），当（）概率发生时，信源的熵达到最大值。
对一个具有符号集B=（b1，b2）={0，1}的二元信源，设信源产生2个符号的概率分别为P（b1）=1/5和P（b2）=4/5，如对二进制数1001进行算术编码，其结果用十进制数表示为（）。
信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。
设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。
当离散信息源中每个符号等概出现，而且各符号的出现为统计独立时，该信源的平均信息量最大。（ ）
设有一个二进制离散信源（0,1），每个符号独立发送。（1）若 0，1 等概出现，球每个符号的信息量和平均信息量（熵）。（2）若 0 出现概率为1/3， 重复（1）
某二进制信源。各符号独立出现。若1符号出现的概率为3/4.则0符号的出现的概率为（)。
8、二进制无记忆信源（每个符号的出现是独立m,的），已知“0”符号出现的概率为1/4，则该信源的熵（平均信息量）为（）bit/符号。
消息源分别以概率1/2，1/4，1/8，1/16，1/16发送5种符号A、B、C、D、E。若每个符号的出现是独立的，那么B的信息量为()，这5种符号的平均信息量为()，信源可能出现的最大熵为()。
信源符号概率分布为{0.1, 0.2, 0.3, 0.4}, 相应的二进制码字集为{00, 01, 10, 11}，码流中符号0出现的概率为（）。
某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为 bit/符号。
某二进制信源，各符号独立出现，若“1”符号出现的概率为3/4，则“0”符号的信息量为（）bit。
二进制无记忆信源（每个符号的出现是独立的），已知“0”符号出现的概率为1/4，则该信源的熵（平均信息量）为（）bit/符号
一无记忆信源的符号集为{0,1}，其中“0”符号的概率为1/4,求:（1)每信源符号平均携带的信息量;（2) 100 个信源符号构成一条序列，求每一特定序列（含m个“0”，（100-m)个“1”)的自信息;（3)求产生形式如同（2)中的序列所对应的信源的熵。
（）当离散信息中每个符号等概出现，而且各符号的出现为统计独立时，该信源的平均信息量最大。
76、某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为（）bit/符号。
若对一离散信源（熵为H（X））进行二进制无失真编码，设定长码子长度为K，变长码子平均长度为M，一般M＞K。
53、有一二进制信源符号，0和1发生的概率分别P（0)与P（1)，当（）概率发生时，信源的熵达到最大值。
某离散无记忆信源有8个信源符号a0，a1，a2，a3，a4，a5，a6，a7，各符号的概率分别为:：0.1，0.1，0.1，0.1，0.1，0.4，0.05，0.05。（1)对该信源符号进行二元Huffman编码（要求:码长方差最小)。（2)求平均码长及码长的方差。（3)求信源的熵、编码速率和编码效率。
13、离散信源的序列熵等于各个符号的熵之和。
