от вопрос уже есть ответ здесь:

Я ищу библиотеку Java, которая сообщает тип MIME, просматривая содержимое файла (байтовый массив). Я обнаружил, что этот проект использует jmimemagic, и он больше не поддерживает новые типы файлов (например, формат MS Word Docx), так как он неактивен (с 2006 года).