這是一篇機器學習崗位的筆試題，題目大概就是：
給定了數據特征和數據標簽(二分類)，使用機器學習算法對數據進行分類，并優化兩個重要的參數，計算AUC指標，畫出參數優化和AUC指標變化圖。

本文選擇的是SVM(支持向量機)來實現這一過程，SVM是非常強大、靈活的有監督學習的算法，既可以用于分類，也可以用于回歸。

實現過程：
1.導入需要的包

            
              import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
from sklearn.svm import SVC
from sklearn.model_selection import cross_val_score
from sklearn import preprocessing
from sklearn.model_selection import GridSearchCV

            
          

2.讀取數據特征和數據標簽

            
              path1 = r"Test1_features.dat"
X = pd.read_csv(path1,engine ='python',header=None)
path2 = r"Test1_labels.dat"
Y = pd.read_csv(path2,engine ='python',header=None)

            
          

3.查看數據特征的統計信息
查看數據特征的基本統計信息會發現數據之間存在量級差異，因此選擇對數據進行標準化(下圖顯示不完全)

            
              X.describe()

            
          

4.數據標準化

            
              #默認優化到取件[0,1]之間
X = preprocessing.scale(X)

            
          

5.選擇網格優化的兩個參數

            
              首先對于SVM來說，懲罰系數C是很重要的參數，肯定要選擇；
其次這里的核函數選擇的是RBF，因此另一個參數選擇Gamma。

            
          

6.計算不同參數時的AUC指標

            
              x = y = z = []
for C in range(1,10,1):
    for gamma in range(1,11,1):
    	#參數scoring設置為roc_auc返回的是AUC，cv=5采用的是5折交叉驗證
        auc = cross_val_score(SVC(C=C,kernel='rbf',gamma=gamma/10),X,Y,cv=5,scoring='roc_auc').mean()
        x.append(C)
        y.append(gamma/10)
        z.append(auc)

            
          

7.將list轉換為二維數組

            
              x = np.array(x).reshape(9,10)
y = np.array(y).reshape(9,10)
z = np.array(z).reshape(9,10)

            
          

8.繪制三維網格優化圖

            
              fig = plt.figure()
ax = Axes3D(fig)
ax.plot_surface(y, x, z, rstride=1, cstride=1, cmap=plt.get_cmap('rainbow'))
plt.xlabel('Gamma')
plt.ylabel('C')

            
          

當然，這里繪制的圖跟想象的有點不一樣，由于前面參數C和Gamma選擇的原因。

歡迎添加個人微信號：liu2536036458。

想進入交流群的，備注： 數據分析交流群