R語言利用caret包比較ROC曲線的操作

Posted on by

說明

我們之前探討瞭多種算法，每種算法都有優缺點，因而當我們針對具體問題去判斷選擇那種算法時，必須對不同的預測模型進行重做評估。

為瞭簡化這個過程，我們使用caret包來生成並比較不同的模型與性能。

操作

加載對應的包與將訓練控制算法設置為10折交叉驗證，重復次數為3：

library(ROCR)
library(e1071)
library("pROC")
library(caret)
library("pROC")
control = trainControl(method = "repaetedcv",
   number = 10,
   repeats =3,
   classProbs = TRUE,
   summaryFunction = twoClassSummary)

使用glm在訓練數據集上訓練一個分類器

glm.model = train(churn ~ .,
   data= trainset,
   method = "glm",
   metric = "ROC",
   trControl = control)

使用svm在訓練數據集上訓練一個分類器

svm.model = train(churn ~ .,
   data= trainset,
   method = "svmRadial",
   metric = "ROC",
   trControl = control)

使用rpart函數查看rpart在訓練數據集上的運行情況

rpart.model = train(churn ~ .,
   data = trainset,
   method = "svmRadial",
   metric = "ROC",
   trControl = control)

使用不同的已經訓練好的數據分類預測：

glm.probs = predict(glm.model,testset[,!names(testset) %in% c("churn")],type = "prob")
svm.probs = predict(svm.model,testset[,!names(testset) %in% c("churn")],type = "prob")
rpart.probs = predict(rpart.model,testset[,!names(testset) %in% c("churn")],type = "prob")

生成每個模型的ROC曲線，將它們繪制在一個圖中：

glm.ROC = roc(response = testset[,c("churn")],
  predictor = glm.probs$yes,
  levels = levels(testset[,c("churn")]))
plot(glm.ROC,type = "S",col = "red")
svm.ROC = roc(response = testset[,c("churn")],
  predictor = svm.probs$yes,
  levels = levels(testset[,c("churn")]))
plot(svm.ROC,add = TRUE,col = "green")
rpart.ROC = roc(response = testset[,c("churn")],
  predictor = rpart.probs$yes,
  levels = levels(testset[,c("churn")]))
plot(rpart.ROC,add = TRUE,col = "blue")

三種分類器的ROC曲線

說明

將不同的分類模型的ROC曲線繪制在同一個圖中進行比較，設置訓練過程的控制參數為重復三次的10折交叉驗證，模型性能的評估參數為twoClassSummary,然後在使用glm,svm,rpart,三種不同的方法建立分類模型。

從圖中可以看出，svm對訓練集的預測結果（未調優）是三種分類算法裡最好的。

補充：R語言利用caret包比較模型性能差異

說明

我們可以通過重采樣的方法得對每一個匹配模型的統計信息，包括ROC曲線，靈敏度與特異度，然後基於這些統計信息來比較不同模型的性能差異。

操作

利用上節的信息，準備好glm分類模型，svm分類模型，rpart分類模型，並存放在glm.model,svm.model,rpart.model。

cv.values = resamples(list(glm = glm.model,svm =svm.model,rpart = rpart.model))
> summary(cv.values)
Call:
summary.resamples(object = cv.values)
Models: glm, svm, rpart 
Number of resamples: 30 
ROC 
  Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
glm 0.7597790 0.7927740 0.8040455 0.8106454 0.8347961 0.8760824 0
svm 0.8191998 0.8786439 0.8945208 0.8947360 0.9196775 0.9562556 0
rpart 0.6064540 0.7150320 0.7608241 0.7556544 0.8086731 0.8554750 0
Sens 
  Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
glm 0.08823529 0.1764706 0.2058824 0.2124930 0.2516807 0.3235294 0
svm 0.44117647 0.5294118 0.5882353 0.5956863 0.6470588 0.7941176 0
rpart 0.20000000 0.4117647 0.4705882 0.4787955 0.5514706 0.7352941 0
Spec 
  Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
glm 0.9393939 0.9645119 0.9721581 0.9702721 0.9796954 0.9898477 0
svm 0.9494949 0.9695431 0.9771574 0.9755004 0.9847716 0.9898990 0
rpart 0.9492386 0.9746193 0.9796954 0.9780359 0.9848485 1.0000000 0

使用dotplot函數繪制重采樣在ROC曲線度量中的結果：

dotplot(cv.values,metric = "ROC")

使用箱線圖繪制重采樣結果：

bwplot(cv.values,layout=c(3,1))

重采樣結果箱線圖

說明

我們使用resample函數生成各個模型的統計信息，再調用summary函數輸出三個模型在ROC、靈敏度及特異性上的統計信息。

使用dotplot方法處理重采樣結果來觀測不同模型ROC差異，最後，采用箱線圖在同一張圖上對ROC、靈敏度及特異方面的差別進行比較。

以上為個人經驗，希望能給大傢一個參考，也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方，望不吝賜教。

推薦閱讀：

    None Found