非常令人意外,香农定义的「熵」究竟是什么含义,在「控制论导论」中得到了清晰的解释

墨者在此 2025-01-12 11:12:23

非常令人意外,香农定义的「熵」究竟是什么含义,在「控制论导论」中得到了清晰的解释

一句话就是,「熵是马尔科夫链在每一步转移时的变异度」。变异度可以简单认为是一个集合可以传达的信息量

所以,香农定义的熵有三个隐含假设:

1. 必须是一个完整的集合,其中事件概率之和为 1 ;

2. 如果该集合有多种概率组合,那么其概率转移矩阵必须是马尔科夫式的 ;

3. 该集合所表征的系统必须是可以从任何一个状态开始,进行无限转移,最终达到完全平衡密度的,即系统不存在约束

当达到完全平衡密度时,各事件发生或者转移概率就会相等,而此时的熵为最大

所以,完整集合,概率,变异度,转移概率,马尔科夫链,无约束,趋于完全平衡,这些概念是要能准确香农的信息熵的基础

而且,在一个动态系统中,熵,其实是在动态变化的,它并非一成不变的,当然,在没有任何约束的情况下,它最终会趋于最大

请注意,是没任何约束的时候

现实显然是存在许多约束的

.

0 阅读:25

评论列表

信任自然可求真

信任自然可求真

2
2025-02-14 23:07

⭕️粒子对撞机能创造新物质吗?不!!只能产生一些破碎(质量亏损)。核能化石能太阳能都是释放光子/电磁粒子, photon energy and photon behavior discussions,物质包括光子本质是带电质量体都服从牛顿力学。正负光子(中微子)是电子质子撞击的破碎,强大电斥力(10^36倍引力)发射碎块到达零电势区获得真空光速,极强大电磁力平衡是稳定光子间距/波长的关键。原子内遍布真空,极小光子惯性飞行,有引力场轨道运动与逃逸折射或撞击,有斥力场散射反射等。电子质子不易获得高速,原子惯性飞行穿透材料条件也差太多。中子大冲量撞击原子核是产生光子(核能)的关键途径,电子撞核/质子撞轨道电子,冲量都太小。……加速器驱动的次临界核能可获得无穷能源,且不受现有裂变材料的局限。⭕️热量温度是光子辐射(热质说),高温体辐射更多光子吸收低温体辐射的更少光子,温度传递只能由高温体到低温体(熵增是数学,原子获得光子动能相对运动带来生命生机不是绝望)。高温体辐射更多动能光子,当然微观运动更剧烈(热动说)。无光子辐射是绝对零度/可怕,宇宙背景辐射超过且接近绝对零度,获得绝对零度极难。

江渐月

江渐月

1
2025-01-13 08:53

[赞][赞][赞]

墨者在此

墨者在此

感谢大家的关注