信息就是不确定性的消除量

信息是确定性知识的消除量。比如“明天下雨”这个消息，在今天晚上，明天下雨的不确定性为50%，但如果到了第二天，下雨了，“下雨”的不确定性为0，也就是说不确定性的消除量等于50%，因此，“明天下雨”这个消息的信息量为50%。

信息特点别担心，信息虽然是不确定的，但还是有办法将它们进行量化的。人们根据信息的概念，可以归纳出信息是有以下的几个特点的：

1、消息发生的概率P(x)越大，信息量越小反之，发生的概率越小，信息量就越大。可见，信息量（我们用I来表示）和消息发生的概率是相反的关系。

2、 当概率为1时，百分百发生的事，地球人都知道，所以信息量为0。

3、当一个消息是由多个独立的小消息组成时，那么这个消息所含信息量应等于各小消息所含信息量的和