La teoría de la información mide la información en bits (I)

La teoría de la información mide la información en bits, donde un bit es la cantidad de información que se requiere para decidir entre dos alternativas equiprobables. El término bit proviene de la primera y última parte de las palabras binary digit que se utilizan en la teoría de computadoras y comunicaciones para expresar el estado encendido/apagado de un circuito integrado o el estado de polarización directa o inversa de pequeños fragmentos de núcleo ferromagnético que se utilizaron en las memorias de las computadoras arcaicas. Matemáticamente, esto se puede expresar como