Ich verwende beautifulsoup und möchte den gesamten Text zwischen zwei Wörtern auf einer Webseite extrahieren.

Stellen Sie sich beispielsweise den folgenden Website-Text vor:

This is the text of the webpage. It is just a string of a bunch of stuff and maybe some tags in between.

Ich möchte alles auf der Seite herausziehen, die mit beginnttext und endet mitbunch.

In diesem Fall möchte ich nur:

text of the webpage. It is just a string of a bunch 

Es besteht jedoch die Möglichkeit, dass eine Seite mehrere Instanzen davon enthält.

Wie geht das am besten?

Das ist mein aktuelles Setup:

#!/usr/bin/env python
from mechanize import Browser
from BeautifulSoup import BeautifulSoup

mech = Browser()
urls = [
http://ca.news.yahoo.com/forget-phoning-business-app-sends-text-instead-100143774--sector.html
    ]



   for url in urls:
        page = mech.open(url)
        html = page.read()
        soup = BeautifulSoup(html)
        text= soup.prettify()
            texts = soup.findAll(text=True) 

    def visible(element):
        if element.parent.name in ['style', 'script', '[document]', 'head', 'title']: 
        # If the parent of your element is any of those ignore it

            return False

        elif re.match('<!--.*-->', str(element)):
        # If the element matches an html tag, ignore it

            return False

        else:
        # Otherwise, return True as these are the elements we need

          return True

    visible_texts = filter(visible, texts)
    # Filter only returns those items in the sequence, texts, that return True. 
    # We use those to build our final list.

    for line in visible_texts:
      print line