此刻你接受着我所产生 文字 图片 到你知道我所传递的内容不是这些媒介本身 而是信息。 我们时刻都在获取 散播 分析信息 然而到底什么是信息 当一件事有多种可能性时 这件事对于某人或者模型而言 具体是哪种情况的不确定性叫做熵 熵和信息数量相等 意义相反 获取信息意味着消除不确定性 熵 。 比如 当你做一道选择题时正确答案是a,b,c,d中哪一个的不确定性就是熵。这里 正确答案叫宏观态 而每个可能的选项叫微观态 宏观态是不考虑具体细节的状态 而微观态是考虑具体细节的状态。熵在a,b,c,d所有情况都是等概率时最大 在确定了正确答案是c后最小。能够消除不正确答案的选项 信息 都是对概率的判断。这里就要引入贝叶斯公式
