Análise de texto em Python entre duas palavras
Estou usando beautifulsoup e quero extrair todo o texto entre duas palavras em uma página da web.
Por exemplo, imagine o seguinte texto do site:
This is the text of the webpage. It is just a string of a bunch of stuff and maybe some tags in between.
Eu quero retirar tudo na página que começa comtext
e termina combunch
.
Neste caso, eu quero apenas:
text of the webpage. It is just a string of a bunch
No entanto, há uma chance de haver várias ocorrências disso em uma página.
Qual é a melhor maneira de fazer isso?
Esta é minha configuração atual:
#!/usr/bin/env python
from mechanize import Browser
from BeautifulSoup import BeautifulSoup
mech = Browser()
urls = [
http://ca.news.yahoo.com/forget-phoning-business-app-sends-text-instead-100143774--sector.html
]
for url in urls:
page = mech.open(url)
html = page.read()
soup = BeautifulSoup(html)
text= soup.prettify()
texts = soup.findAll(text=True)
def visible(element):
if element.parent.name in ['style', 'script', '[document]', 'head', 'title']:
# If the parent of your element is any of those ignore it
return False
elif re.match('<!--.*-->', str(element)):
# If the element matches an html tag, ignore it
return False
else:
# Otherwise, return True as these are the elements we need
return True
visible_texts = filter(visible, texts)
# Filter only returns those items in the sequence, texts, that return True.
# We use those to build our final list.
for line in visible_texts:
print line