神马品牌网小班益智区的活动指导:信息论中,为什么熵越大信息量越小?
来源：百度文库 编辑：神马品牌网 时间：2024/05/05 07:24:39
据说:在信息论中，熵可用作某事件不确定度的量度。信息量越大，体系结构越规则，功能越完善，熵就越小。
但是:一个东西越混乱,描述它所需的信息量不是越大吗?为什么不是这样?例如一个新硬盘和装得乱七八糟的硬盘,哪个更混乱?哪个信息量大?我是个外行,你可以换个例子
到底信息量和混乱度是用什么衡量的?为什么那样衡量?
答的好追加悬赏分
但是:一个东西越混乱,描述它所需的信息量不是越大吗?为什么不是这样?例如一个新硬盘和装得乱七八糟的硬盘,哪个更混乱?哪个信息量大?我是个外行,你可以换个例子
到底信息量和混乱度是用什么衡量的?为什么那样衡量?
答的好追加悬赏分
信息论的基本原理：擦除信息的过程是熵减的过程。换句话说，信息量越小熵就越小。
擦除信息时，不管是0和1，都将其清零，其熵显然减少。所以，楼主你是对的，“据说：...”是错的.
事实上,因为熵减需要做功,从而擦除信息需要消耗能量,信息学家们正致力于研究在运行过程中不减少信息量的可逆计算机,以减少能耗.
熵是描述系统混乱的量，熵越大说明系统越混乱，携带的信息就越少，熵越小说明系统越有序，携带的信息越多。你要现确定系统，再来描述。你的例子，可以这样理解，同样大的硬盘，熵越大什么坏了的硬盘越多，他可以承载的信息越少，熵越小意味着坏掉的硬盘越少，可以承载的信息量越大。
熵和焓是我见过的最抽象、最难理解的两个概念！
熵简单来说就是混乱程度，越乱信息当然越少
熵形容物质的无序性…………
呃，我也装不出来了。
不过建议你读一读霍金的时间简史，回收很大启发的。