离散无记忆扩展信源的平均信息量H（Sn）和未扩展信源平均信息量H（S）之间的关系为（）
离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。
离散无记忆信源所产生的符号序列的熵等于各符号熵之和。
一离散信源由A，B，C，D四个符号组成，它们出现的概率分别为1/2，1/4，且每个符号的出现都是独立的，消息{AAAAABBACCDDB}熵为2bit/符号。╳81.信息论的创始人是维纳。
离散信源或数字信号的信源编码的理论基础是限失真信源编码定理。
信源X的概率分布为P（X）={1/2，1/3，1/6}，对其进行哈夫曼编码得到的码是唯一的。
二进制信源的熵为1bit/符号，该信源中“1”出现的概率是（）。
离散平稳无记忆信源
算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的编码，是以另外一种形式实现的最佳统计匹配编码。
离散无噪信道的信道容量等于log2n，其中n是信源X的消息个数。
给定一个零记忆信源，已知其信源符号集为A={a1，a2}={0，1}，符号产生概率为P（a1）=1/4，P（a2）=3/4，对二进制序列11111100，其二进制算术编码码字为（）。
无失真信源编码的中心任务是编码后的信息率压缩接近到（）限失真压缩中心任务是在给定的失真度条件下，信息率压缩接近到（）。
解释无失真变长信源编码定理。
什么是限失真信源编码？
对一个具有符号集B=（b1，b2）={0，1}的二元信源，设信源产生2个符号的概率分别为P（b1）=1/5和P（b2）=4/5，如对二进制数1001进行算术编码，其结果用十进制数表示为（）。
设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。
某四进制离散信源，0、1、2和3发生概率分别为1/4、1/2、1/8、1/8，该信源的平均信息量为（ ）。
设有一个二进制离散信源（0,1），每个符号独立发送。（1）若 0，1 等概出现，球每个符号的信息量和平均信息量（熵）。（2）若 0 出现概率为1/3， 重复（1）
某二元信源（X/P)=（)，失真矩阵为，求D<sub>min</sub>，D<sub>max</sub>与信源的R（D)函数。
某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为 bit/符号。
已知信源的消息分别为A，B，C，D;现用二进码元对各消息进行信源编码:A→00，B→01，C→10，D→11，每二进码元的宽度为5ms。（1)若每个消息等概率出现，求平均信息传输速率。（2)设P（A)=1/5，P（B)= 1/4，P（C)=1/4，P（D)=3/10;求平均信息传输速率。
76、某信源产生a、b、c、d四个符号，各符号独立出现，这个信源可能的最大信源熵为（）bit/符号。
某离散无记忆信源有8个信源符号a0，a1，a2，a3，a4，a5，a6，a7，各符号的概率分别为:：0.1，0.1，0.1，0.1，0.1，0.4，0.05，0.05。（1)对该信源符号进行二元Huffman编码（要求:码长方差最小)。（2)求平均码长及码长的方差。（3)求信源的熵、编码速率和编码效率。
某四进制离散信源,0、1、2和3发生概率分别为1/4、1/2、1/8、1/8,该信源的平均信息量为（)。
