熵到底是什么？
> A very disordered system, but not necessaily high in entropy.
熵在现代科学中有点流行。通常，它被用作'障碍'的代名词，但是比这更有趣。这个概念本身有着悠久而有趣的历史。为了完全理解熵是什么，我们确实需要查看熵的来源。
熵的概念的第一个暗示是拉扎尔·卡诺（Lazare Carnot）提供的，最著名的是他研究引擎并领导法国革命军的工作。Lazare对系统中工作与系统中工作之间的关系非常感兴趣。他将此输出命名为'有用的工作'，而将丢失的工作称为'转化能量'。以后将其称为熵。
> Lazare (left) and Sadi (right) Carnot. Both pictures taken from Wikipedia.
他的儿子萨迪·卡诺（Sadi Carnot）继续他父亲研究发动机的工作。他是著名的卡诺循环（Carnot Cycle）的创造者，该循环是经典热力学发动机效率的上限。萨迪认识到，从热能转换为工作时一定会损失一些能量。这是描述热力学第二定律的另一种方式，该定律本质上说熵永远不会降低。
然后，许多其他科学家改变了这个概念，以适应各自的领域。鲁道夫·克劳修斯（Rudolf Clausius）是第一个正式称其为'熵'的人，并在研究热量时加以利用。他根据希腊语'熵'的意思选择了这部作品，意思是'转换'。Ludwig Boltzmann在统计力学发展过程中高度依赖熵。ErwinSchrödinger将进化中的突变与熵的增长相关。最近，克劳德·香农（Claude Shannon）将整个信息论的基础都建立在熵的概念上。
在所有这些不同的领域和用途下，难怪熵变得多么模棱两可。我记得在我整个大学学习期间都遇到过几个与熵有关的定义和方程式，这些定义和方程式似乎无关。唯一的共同主题似乎是随机性。
让我们研究一下熵，看看它在这些领域中的使用情况。我们已经在热力学意义上进行了一些讨论，但是我们可以更进一步。思考熵的一个好方法是测量能量如何扩散。考虑到这一概念，热力学第二定律简单地指出'能量将随着时间的流逝而变得越来越分散'。
希望您能看到这条法律是多么的模糊，它一定是必须的。没有确切的函数告诉我们能量将如何运动，我们也没有'扩散度'的具体定义。我将举例说明第二定律在起作用，希望您能理解。
如果我们将热锅放在外面，不加任何加热，它将逐渐冷却。这是因为锅中的热能正在缓慢扩散到附近的分子。随着时间的流逝，这种能量变得越来越均匀。考虑一下漂浮在水中的冰块。冰中的分子所含能量少于液态水中的分子所含能量。但是，随着时间的流逝，冰会融化，水的能量会扩散成冰。
熵对于过程的自发性至关重要。如果一个过程的熵增加（例如上述两种情况），那么它将自行发生。如果某个过程的熵降低，例如冰在一杯室温水中随机冻结，那么除非有外力作用（冰柜），否则它不会发生。
请务必注意，熵与无序是不同的。熵的一个常见比喻是将一个凌乱的房间与一个整洁的房间进行比较。但是，两种情况下的能量'散布'了相同的数量。说一个房间的熵大于另一个房间是不正确的。这里有很多事情要做，如果您感兴趣的话，本页面将进行更详细的介绍。
热力学概念是熵的最初定义，也许是最精确的定义。只会从这里变得陌生！
接下来我们来谈谈统计力学，这个领域与热力学有很多共同之处，但又不尽相同！
统计力学的中心概念是宏观状态与微观状态之间的差异。宏观状态是具有诸如温度，压力和体积等属性的较大的，可观察的系统。它包含许多小分子，但是我们基本上可以忽略这些小分子，而只需考虑整个系统。但是，微状态确实考虑了每个单独的粒子，并描述了每个在宏状态中的确切位置。任何给定的宏观状态都可能具有数万亿个可能的不同微观状态。
在这种格式中，熵定义为可能的微状态数的对数。由于无法确切知道可能有多少种微状态，因此这更多是概念性的，而不是实用的。从最基本的意义上讲，想象一下一个装有气体的盒子，突然把盒子的壁去掉了。气体将散布开来，从而增加这些气体分子所在的体积。由于存在更多的空间，因此可用的微状态数量增加，并且熵增加。
詹姆斯·麦克斯韦（James Maxwell）提出了一个引人入胜的思想实验，叫做麦克斯韦斯的恶魔。在其中，他描述了可能违反第二定律的问题，这引起了很多有趣的讨论。
> Maxwell's Demon, a possible violation of the second law. Source
熵的最后主要用途是在信息论中。此定义与其他定义明显不同。信息论处理从源到接收者的信息传递。
假设您想向朋友发送您在测试中获得的字母等级，可能是A，B，C，D或E。您只能发送5条消息，这会使熵值降低。相反，如果您想发送准确的分数，例如88.2或73.4，该怎么办？这样有更多的可能性，并且将具有更高的熵值。
您有望看到这个概念与熵的统计力学观点之间的联系。通信的熵对如何发送信号有很多影响。高熵信号需要大量信息，而令人惊讶的信号则更易于发送。
熵已遍及数学和物理世界。虽然将其视为'混乱'是有用的，但它消除了许多细微差别。希望您已经掌握了有关熵的不同思考方式以及所获得的收益。
(本文由闻数起舞翻译自Jesus Najera的文章《What, Exactly, is Entropy?》，转载请注明出处，原文链接：https://medium.com/cantors-paradise/what-exactly-is-entropy-2a0e2fc067f8)