能从正面度量运动转化的能力，能越大，运动转化的能力也越大；熵从运动不能转化的一面度量运动，表示运动转化已经完成的程度。在没有外界

熵是混乱和无序的度量。熵值越大，混乱无序的程度越大。

　物理意义：物质微观热运动时，混乱程度的标志。

　　热力学中表征物质状态的参量之一,通常用符号S表示。在经典热力学中，可用增量定义为dS＝(dQ/T)，式中T为物质的热力学温度;dQ为熵增过程中加入物质的热量；下标“可逆”表示加热过程所引起的变化过程是可逆的。若过程是不可逆的,则dS＞(dQ/T)。单位质量物质的熵称为比熵,记为s。熵最初是根据热力学第二定律引出的一个反映自发过程不可逆性的物质状态参量。热力学第二定律是根据大量观察结果总结出来的规律，有下述表述方式：①热量总是从高温物体传到低温物体，不可能作相反的传递而不引起其他的变化；②功可以全部转化为热，但任何热机不能全部地、连续不断地把所接受的热量转变为功（即无法制造第二类永动机）；③在孤立系统中,实际发生的过程,总使整个系统的熵值增大，此即熵增原理。摩擦使一部分机械能不可逆地转变为热，使熵增加。热量dQ由高温(T1)物体传至低温(T2)物体,高温物体的熵减少dS1=dQ/T1,低温物体的熵增加dS2=dQ/T2,把两个物体合起来当成一个系统来看,熵的变化是dS＝dS2－dS1＞0，即熵是增加的。


--------------------------------------------------------------------------------

熵

entropy

　　热力学基本概念，是系统中分子运动混乱程度的度量，用s表示。信息论中借用了熵这一热力学的术语,用以表示一个信号状态的丰富程度。所谓信号状态的丰富程度指的是收到一个信号后能去掉多大的不确定度。能去掉的不确定度越高则信号状态越丰富。

　　熵是系统状态的函数，与系统演化的过程无关。熵是广延量,合系统的熵s等于组成系统的两个子系统的熵s1与s2之和。熵和能从两个不同角度描写系统的状态。能从正面度量运动转化的能力，能越大，运动转化的能力也越大；熵从运动不能转化的一面度量运动，表示运动转化已经完成的程度。在没有外界作用的情况下，一个系统的熵越大就越接近平衡态，就越不能转化。描述系统宏观状态的熵和混乱运动的分子可能存在的微观状态数Ω之间有如下关系：

　　　　　　　　　　(1)

其中k为玻耳兹曼常数,Ω为分子的无序度。假定系统每个微观状态出现的概率相同，则

　　　　　　　 (2)

　　美国数学家C.E.香农利用信源某种信号出现的概率Pi来衡量该信号所具有的信息量，他发现信息大小和热力学系统的熵有本质的一致性。定义某个信号的信息量为-PilnPi，则信源的信息为

　　　　　　　 (3)

(3)式与(2)式在形式上完全一样。香农把H 称为信源的熵，表示信源信息的大小。