此刻你接受着我所产生,文字,图片,到你知道我所传递的内容不是这些媒介本身,而是信息。 我们时刻都在获取,散播,分析信息,然而到底什么是信息? 当一件事有多种可能性时,这件事对于某人或者模型而言,具体是哪种情况的不确定性叫做熵,熵和信息数量相等,意义相反,获取信息意味着消除不确定性(熵)。 比如,当你做一道选择题时正确答案是a,b,c,d中哪一个的不确定性就是熵。这里,正确答案叫宏观态,而每个可能的选项叫微观态,宏观态是不考虑具体细节的状态,而微观态是考虑具体细节的状态。熵在a,b,c,d所有情况都是等概率时最大,在确定了正确答案是c后最小。能够消除不正确答案的选项(信息),都是对概率的判断。这里就要引入贝叶斯公式



