A rendszer rendezetlenségének vagy véletlenszerűségének mértékét entrópiának nevezzük. Az entrópia alapvető fogalom a termodinamikában, az információelméletben, a statisztikai mechanikában és sok más területen. Egyszerűen fogalmazva, az entrópia számszerűsíti a véletlenszerűség vagy a kiszámíthatatlanság mértékét egy rendszerben. Minél nagyobb az entrópia, annál rendezetlenebb vagy kiszámíthatatlanabb a rendszer. Ezzel szemben az alacsony entrópiájú rendszer rendezettebb és kiszámíthatóbb.