Cuando uso la función multiclass.roc en R (paquete pROC), por ejemplo, entrené un conjunto de datos por bosque aleatorio, aquí está mi código:

# randomForest & pROC packages should be installed:
# install.packages(c('randomForest', 'pROC'))
data(iris)
library(randomForest)
library(pROC)
set.seed(1000)
# 3-class in response variable
rf = randomForest(Species~., data = iris, ntree = 100)
# predict(.., type = 'prob') returns a probability matrix
multiclass.roc(iris$Species, predict(rf, iris, type = 'prob'))

Y el resultado es:

Call:
multiclass.roc.default(response = iris$Species, predictor = predict(rf,     
iris, type = "prob"))
Data: predict(rf, iris, type = "prob") with 3 levels of iris$Species: setosa,   
versicolor, virginica.
Multi-class area under the curve: 0.5142

¿Es esto correcto? ¡¡¡Gracias!!!

Referencia "pROC":http://www.inside-r.org/packages/cran/pROC/docs/multiclass.roc