中原说教育

PCA最常见的应用之一就是将高维数据可视化，它可以将具有两个及以上特征的数据进行可视化，下面我们利用PCA来对cancer数据集进行可视化（良性肿瘤和恶性肿瘤），不使用PCA时可视化只能一个一个去对比其中的数据，其代码如下：

import numpy as np

from sklearn.datasets import load_breast_cancer

import matplotlib.pyplot as plt

cancer = load_breast_cancer()

fig, axes = plt.subplots(15, 2, figsize=(10, 20))

malignant = cancer.data[cancer.target == 0]

benign = cancer.data[cancer.target == 1]

ax = axes.ravel()

for i in range(30):

_,bins = np.histogram(cancer.data[:, i], bins=50)

ax[i].hist(malignant[:, i], bins=bins, color=mglearn.cm3(0), alpha=.5)

ax[i].hist(benign[:, i], bins=bins, color=mglearn.cm3(2), alpha=.5)

ax[i].set_title(cancer.feature_names[i])

ax[i].set_yticks(())

ax[0].set_xlabel("feature magnitude")

ax[0].set_ylabel("Frenguency")

ax[0].legend(["malignant", "benign"], loc="best")

fig.tight_layout()

运行后结果如下：

乳腺癌数据集中的类别直方图1

乳腺癌数据集中的类别直方图2

乳腺癌数据集中的类别直方图3

这里我们为每个特征创建一个直方图，计算具有某一特征的数据在特定范围内（叫做bin）的出现频率，。每张图都包含两个直方图，一个是良性类别（蓝色），一个是恶性类别，这样我们可以了解每个特征在两个类别中的分布情况，也可以猜测哪些特征能够更好地区分恶性和良性样本。如：“smoothness error”特征似乎没有什么信息量，因为两个直方图大部分都重叠在一起， 而“worst concave points”特征看起来信息量比较大，因为两个直方图的交集很小。

但是，这种图无法向我们展示变量之间的相互作用以及这种相互作用与类别之间的关系。利用PCA，我们可以获取到主要的相互作用，并得到稍微完整的图像，我们可以找到前两个主要成分，并在这个新的二维空间中用散点图来将数据可视化，其代码如下：

#利用PCA之前，我们先利用StandardScaler对数据进行缩放

from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()

x_scaled = scaler.fit_transform(cancer.data)

#学习并应用PCA变换与应用预处理变换类似，我们将PCA对象实例化，然后调用fit方法找到主成分，在调用transform

#来旋转并降维。默认情况下，PCA金旋转并移动数据，但保留所有的主要成分，为了降低数据维度，我们需要在#创建

#PCA对象时指定想要保留的主成分个数

from sklearn.decomposition import PCA

#保留数据的前两个主成分

pca = PCA(n_components=2)

#对乳腺癌数据拟合PCA模型

pca.fit(x_scaled)

#将数据变换到前两个主成分方向

x_pca = pca.transform(x_scaled)

print("original shape: {}".format(str(x_scaled.shape)))

print("reduced shape: {}".format(str(x_pca.shape)))

#现在我们利用主成分作图

#对第一个和第二个主成分作图，按照类别作色

plt.figure(figsize=(8,8))

mglearn.discrete_scatter(x_pca[:,0], x_pca[:, 1], cancer.target)

plt.legend(cancer.target_names, loc="best")

plt.gca().set_aspect("equal")

plt.xlabel("fist principle component")

plt.ylabel("Second principle component")

写完代码后运行，其结果如下：

original shape: (569, 30)

reduced shape: (569, 2)

利用乳腺癌数据集的前两个主成分绘制的二维散点图

这里需要注意的是：PCA是一种无监督方法，在寻找旋转方向时没有用到任何类别信息，它只是观察数据中的相关性，并且将利用第一、二主成分的关系，绘制成图，由图可以看出，恶性点比良性点更加的分散。

PCA的一个缺点在于，通常不容易对图中的两个轴进行解释。主成分对应于原始数据中的方向，所以他们是原始特征的组合。但是这些组合往往非常复杂，这一点我们很快就会看到。在拟合过程中，主成分保存在PCA对象的components_.shape属性中，下节我们将对其进行讲解。