Qual é a definição de entropia da ciência da computação?

Recentemente, iniciei um curso sobre compactação de dados na minha universidade. No entanto, considero bastante ambíguo o uso do termo "entropia", que se aplica à ciência da computação. Até onde eu sei, isso se traduz aproximadamente na "aleatoriedade" de um sistema ou estrutura.

Qual é a definição adequada de "entropia" da ciência da computação?

questionAnswers(13)

yourAnswerToTheQuestion