Dado que la función igual en la matriz solo verifica la instancia, no funciona bien con Set. Por lo tanto, me pregunto cómo hacer un conjunto de matrices en Java.

Una forma posible podría ser colocar cada matriz en un objeto e implementar la función igual para esa clase, pero ¿eso disminuirá demasiado el rendimiento?