怎样衡量信息量的大小呢?

发布网友发布时间：2022-04-24 16:53

共2个回答

热心网友时间：2023-10-23 23:53

如果用统计学的术语来描述，就是出现概率小的事件信息量多。因此，事件出现得概率越小，信息量愈大。即信息量的多少是与事件发生频繁（即概率大小）成反比。

例题：向空中投掷硬币，落地后有两种可能的状态，一个是正面朝上，另一个是反面朝上，每个状态出现的概率为1/2。如投掷均匀的正六面体的骰子，则可能会出现的状态有6个，每一个状态出现的概率均为1/6。试通过计算来比较骰子状态的不肯定性与硬币状态的不肯定性的大小。

信息量的简介：

信息量是指信息多少的量度。1928年R.V.L.哈特莱首先提出信息定量化的初步设想，他将消息数的对数定义为信息量。若信源有m种消息，且每个消息是以相等可能产生的，则该信源的信息量可表示为I=logm。但对信息量作深入而系统研究，还是从1948年C.E.香农的奠基性工作开始的。

在信息论中，认为信源输出的消息是随机的。即在未收到消息之前，是不能肯定信源到底发送什么样的消息。而通信的目的也就是要使接收者在接收到消息后，尽可能多的解除接收者对信源所存在的疑义（不定度），因此这个被解除的不定度实际上就是在通信中所要传送的信息量。

热心网友时间：2023-10-23 23:53

那么，怎样度量信息量的大小呢？信息量不能用得到消息的次数来度量，因为千万个消息可能委复着相同的内容；不能用文字的多少来度量，文字再多，全是废话，信息量并不会增大；信息量的大小与声音强弱也无关，比如把收音机开得响些，你得到的信息也不会由此而增加。信息论的研究表明，信息量的大小与事件发生的可能性的概率有关。