Binær entropi, også kendt som Shannon-entropi, er et begreb i informationsteori, der måler usikkerheden eller tilfældigheden af ​​en binær tilfældig variabel med to udfald. Den adskiller sig fra klassisk entropi ved, at den specifikt gælder for binære variabler, hvorimod klassisk entropi kan anvendes på variabler med et vilkårligt antal udfald. At forstå