Atualmente, estou tentando gerar o hash do assunto usando a Java Security API e o BouncyCastle.

Aqui está o que eu faço quando uso a Biblioteca Openssl:

openssl x509 -in  /Users/Sn0wfreezeDev/Downloads/Test.pem -hash

Isso gera um hash curto de 8 dígitos1817886a

Este é o meu código Java

X509Certificate cert = CertManager.getCertificate(number, c);  
MessageDigest sha1 = MessageDigest.getInstance("SHA1");
System.out.println("  Subject " + cert.getSubjectDN());
System.out.println("   Issuer  " + cert.getIssuerDN());
sha1.update(cert.getSubjectDN().getName().getBytes());
String hexString =  bytesToHex(sha1.digest());
System.out.println("   sha1    " + hexString);
System.out.println();