| Physics even accepts the idea that entropy defines the direction of time. | Физика даже принимает идею о том, что энтропия определяет направление времени. |
| Most of the aggregate thermodynamic variables of the system, such as the total energy, free energy, entropy, and pressure, can be expressed in terms of the partition function or its derivatives. | Многие термодинамические величины системы, такие как энергия, свободная энергия, энтропия и давление, могут быть выражены через статистическую сумму и её производные. |
| The cross entropy between two probability distributions measures the average number of bits needed to identify an event from a set of possibilities, if a coding scheme is used based on a given probability distribution q, rather than the "true" distribution pp. | Перекрестная энтропия между двумя вероятностными распределениями измеряет среднее число битов, необходимых для определения события из множества возможных, если использована схема кодирования, основанная на данном распределении вероятности Q {\displaystyle Q}, а не «истинного» распределения P {\displaystyle P}. |
| The two broadest definitions of independence for ICA are Minimization of mutual information Maximization of non-Gaussianity The Minimization-of-Mutual information (MMI) family of ICA algorithms uses measures like Kullback-Leibler Divergence and maximum entropy. | Два наиболее широких определения независимости АНК: Минимизация взаимной информации Максимизация негауссовости Семейство алгоритмов АНК с минимизацией взаимной информации (англ. Minimization-of-Mutual information, MMI) использует такие меры, как расхождение Кульбака - Лейблера и максимальная энтропия. |
| Entropy means that everything in the world - everything - is in a state of decline and decay - the arch. | Энтропия означает, что всё в мире, абсолютно всё, постоянно ветшает и разрушается, представьте себе дугу. |