Mam następujący kod. Wiem, że mogę użyćapply_freq_filter funkcja odfiltrowania kolokacji mniejszych niż liczba częstotliwości. Nie wiem jednak, jak uzyskać częstotliwość wszystkich n-gramowych krotek (w moim przypadku bi-gram) w dokumencie, zanim zdecyduję, jaką częstotliwość ustawić do filtrowania. Jak widać, używam klasy kolokacji nltk.

import nltk
from nltk.collocations import *
line = ""
open_file = open('a_text_file','r')
for val in open_file:
    line += val
tokens = line.split()

bigram_measures = nltk.collocations.BigramAssocMeasures()
finder = BigramCollocationFinder.from_words(tokens)
finder.apply_freq_filter(3)
print finder.nbest(bigram_measures.pmi, 100)