El mejor algoritmo para encontrar los bordes (polígono) de vértices

Tengo una gran variedad de vértices, algunos de ellos son bordes, algunos son redundantes (dentro de la forma) y quiero eliminarlos.

El algoritmo más simple que se me ocurre es verificar uno por uno si alcanzan la forma formada por los demás. Pero debería ser un algoritmo muy lento.

Pensé en elegir uno desde el borde (el más alejado del origen, por ejemplo) y calcular el camino más largo desde este comienzo ... debería obtener el camino del borde, ¿verdad?

¿Cualquier sugerencia?

Respuestas a la pregunta(3)

Su respuesta a la pregunta