считая n-граммовую частоту в питоне nltk

У меня есть следующий код. Я знаю, что я могу использоватьapply_freq_filter функция для фильтрации коллокаций, которые меньше, чем счетчик частоты. Однако я не знаю, как получить частоты всех n-граммовых кортежей (в моем случае bi-грамм) в документе, прежде чем я решу, какую частоту установить для фильтрации. Как видите, я использую класс коллокаций nltk.

import nltk
from nltk.collocations import *
line = ""
open_file = open('a_text_file','r')
for val in open_file:
    line += val
tokens = line.split()

bigram_measures = nltk.collocations.BigramAssocMeasures()
finder = BigramCollocationFinder.from_words(tokens)
finder.apply_freq_filter(3)
print finder.nbest(bigram_measures.pmi, 100)

Ответы на вопрос(3)

Ваш ответ на вопрос