Melhor algoritmo para encontrar as arestas (polígono) dos vértices

Eu tenho uma grande variedade de vértices, alguns deles são arestas, outros são redundantes (dentro da forma) e quero removê-los.

O algoritmo mais simples em que pude pensar é verificar um por um se eles atingem a forma formada pelos outros. Mas deve ser um algoritmo muito lento.

Pensei em escolher um da borda (o mais distante da origem, por exemplo) e calcular o caminho mais longo desde o início ... deve pegar o caminho da borda, certo?

Alguma sugestão?

questionAnswers(3)

yourAnswerToTheQuestion