ITPub博客

首页 > IT职业 > IT生活 > python nan怎么解决

python nan怎么解决

IT生活 作者:kgdlnyq 时间:2021-09-11 10:14:06 0 删除 编辑

很多数据不可避免的会遗失掉,或者采集的时候采集对象不愿意透露,这就造成了很多NaN(Not a Number)的出现。这些NaN会造成大部分模型运行出错,所以对NaN的处理很有必要。

解决方法:

1、简单粗暴地去掉

1)有如下dataframe,先用df.isnull().sum()检查下哪一列有多少NaN:

import pandas as pd
df = pd.DataFrame({'a':[None,1,2,3],'b':[4,None,None,6],'c':[1,2,1,2],'d':[7,7,9,2]})
print (df)
print (df.isnull().sum())

输出:

p1.jpg

2)将含有NaN的列(columns)去掉:

data_without_NaN =df.dropna(axis=1)
print (data_without_NaN)

输出:

p2.jpg

2、遗失值插补法

很多时候直接删掉列会损失很多有价值的数据,不利于模型的训练。

所以可以考虑将NaN替换成某些数,显然不能随随便便替换,有人喜欢替换成0,往往会画蛇添足。

譬如调查工资收入与学历高低的关系,有的人不想透露工资水平,但如果给这些NaN设置为0很显然会失真。所以Python有个Imputation(插补)的方法。代码如下:

from sklearn.preprocessing import Imputer
my_imputer = Imputer()
data_imputed = my_imputer.fit_transform(df)
print (type(data_imputed))
# array转换成df
df_data_imputed = pd.DataFrame(data_imputed,columns=df.columns)
print (df_data_imputed)

输出:

p3.jpg

可以看出,这里大概是用平均值进行了替换。

更多Python知识,请关注:Python自学网!!

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/4589/viewspace-2833159/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-08-13

  • 博文量
    87
  • 访问量
    1107