Webcrawler Parsing von PHP / Javascript-Links?

Ich verwende derzeit das HTML Agility Pack in C # für einen Webcrawler. Ich habe es bisher geschafft, viele Probleme zu vermeiden (ungültige URIs wie "/extra/url/to/base.html" und "#" - Links), aber ich muss auch PHP, Javascript usw. verarbeiten Websites sind die Links in PHP, und wenn mein Webcrawler versucht, zu diesen zu navigieren, schlägt dies fehl. Ein Beispiel ist eine PHP / Javascript Akkordeon Link Seite. Wie würde ich beim Navigieren / Parsen dieser Links vorgehen?

Antworten auf die Frage(1)

Ihre Antwort auf die Frage