前言

ROC（Receiver Operating Characteristic）曲線和AUC常被用來評價(jià)一個(gè)二值分類器（binary classifier）的優(yōu)劣。這篇文章將先簡單的介紹ROC和AUC，而后用實(shí)例演示如何python作出ROC曲線圖以及計(jì)算AUC。

AUC介紹

AUC(Area Under Curve)是機(jī)器學(xué)習(xí)二分類模型中非常常用的評估指標(biāo)，相比于F1-Score對項(xiàng)目的不平衡有更大的容忍性，目前常見的機(jī)器學(xué)習(xí)庫中(比如scikit-learn)一般也都是集成該指標(biāo)的計(jì)算，但是有時(shí)候模型是單獨(dú)的或者自己編寫的，此時(shí)想要評估訓(xùn)練模型的好壞就得自己搞一個(gè)AUC計(jì)算模塊，本文在查詢資料時(shí)發(fā)現(xiàn)libsvm-tools有一個(gè)非常通俗易懂的auc計(jì)算，因此摳出來用作日后之用。

AUC計(jì)算

AUC的計(jì)算分為下面三個(gè)步驟：

??? 1、計(jì)算數(shù)據(jù)的準(zhǔn)備，如果模型訓(xùn)練時(shí)只有訓(xùn)練集的話一般使用交叉驗(yàn)證的方式來計(jì)算，如果有評估集(evaluate)一般就可以直接計(jì)算了，數(shù)據(jù)的格式一般就是需要預(yù)測得分以及其目標(biāo)類別（注意是目標(biāo)類別，不是預(yù)測得到的類別）

??? 2、根據(jù)閾值劃分得到橫（X:False Positive Rate）以及縱（Y:True Positive Rate）點(diǎn)

??? 3、將坐標(biāo)點(diǎn)連成曲線之后計(jì)算其曲線下面積,就是AUC的值

直接上python代碼

            
#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt


evaluate_result="you file path"
db = [] #[score,nonclk,clk]
pos, neg = 0, 0 
with open(evaluate_result,'r') as fs:
 for line in fs:
 nonclk,clk,score = line.strip().split('\t')
 nonclk = int(nonclk)
 clk = int(clk)
 score = float(score)
 db.append([score,nonclk,clk])
 pos += clk
 neg += nonclk
 
 

db = sorted(db, key=lambda x:x[0], reverse=True)

#計(jì)算ROC坐標(biāo)點(diǎn)
xy_arr = []
tp, fp = 0., 0.  
for i in range(len(db)):
 tp += db[i][2]
 fp += db[i][1]
 xy_arr.append([fp/neg,tp/pos])

#計(jì)算曲線下面積
auc = 0.  
prev_x = 0
for x,y in xy_arr:
 if x != prev_x:
 auc += (x - prev_x) * y
 prev_x = x

print "the auc is %s."%auc

x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen
          

輸入的數(shù)據(jù)集可以參考svm預(yù)測結(jié)果

其格式為:

            
nonclk \t clk \t score
          

其中：
??? 1、nonclick:未點(diǎn)擊的數(shù)據(jù)，可以看做負(fù)樣本的數(shù)量

??? 2、clk:點(diǎn)擊的數(shù)量，可以看做正樣本的數(shù)量

??? 3、score:預(yù)測的分?jǐn)?shù)，以該分?jǐn)?shù)為group進(jìn)行正負(fù)樣本的預(yù)統(tǒng)計(jì)可以減少AUC的計(jì)算量

運(yùn)行的結(jié)果為:

如果本機(jī)沒安裝pylab可以直接注釋依賴以及畫圖部分

注意

上面貼的代碼:

??? 1、只能計(jì)算二分類的結(jié)果（至于二分類的標(biāo)簽隨便處理）

??? 2、上面代碼中每個(gè)score都做了一次閾值，其實(shí)這樣效率是相當(dāng)?shù)偷模梢詫颖具M(jìn)行采樣或者在計(jì)算橫軸坐標(biāo)時(shí)進(jìn)行等分計(jì)算

總結(jié)

以上就是這篇文章的全部內(nèi)容，希望本文的內(nèi)容能對大家的學(xué)習(xí)或者工作帶來一定的幫助，如果有疑問大家可以留言交流。