Diferentes resultados en Weka GUI y Weka a través del código Java
Estoy aplicando una clasificación de texto en Weka usando el clasificador NaiveBayesMultinomialText. El problema es que cuando uso la GUI para hacerlo y pruebo en los mismos datos del tren (sin validación cruzada) obtengo una precisión del 93%, y cuando intento hacerlo a través del código Java obtengo una precisión del 67%. ¿Qué podría estar mal?
En GUI, estoy usando la siguiente configuración:
Lnorm 2.0
debug False
lowercaseTokens True
minWordFrequency 3.0
norm 1.0
normalizeDocLength False
periodicPruning 0
stemmer NullStemmer
stopwords pt-br-stopwords.dat
tokenizer NgramTokenizer (default parameters, but max ngramsize = 2)
useStopList True
useWordFrequencies True
Y luego selecciono "Usar conjunto de entrenamiento" en "Opciones de prueba".
Ahora en código java tengo:
Instances train = readArff("data/naivebayestest/corpus_treino.arff");
train.setClassIndex(train.numAttributes() - 1);
NaiveBayesMultinomialText nb = new NaiveBayesMultinomialText();
String opt = "-W -P 0 -M 5.0 -norm 1.0 -lnorm 2.0 -lowercase -stoplist -stopwords C:\\Users\\Fernando\\workspace\\GPCommentsAnalyzer\\pt-br_stopwords.dat -tokenizer \"weka.core.tokenizers.NGramTokenizer -delimiters ' \\r\\n\\t.,;:\\\'\\\"()?!\' -max 2 -min 1\" -stemmer weka.core.stemmers.NullStemmer";
nb.setOptions(Utils.splitOptions(opt));
nb.buildClassifier(train);
Evaluation eval = new Evaluation(train);
eval.evaluateModel(nb, train);
System.out.println(eval.toSummaryString());
System.out.println(eval.toClassDetailsString());
System.out.println(eval.toMatrixString());
Probablemente me esté perdiendo algo en mi código java ... ¿Alguna idea?
¡Gracias!