Python 数据挖掘-回归-波士顿房价预测

[ITLiu_JH]

目录

1、目标

2、数据集介绍

3、代码

3.1 导入必须的工具包

3.2 导入数据

3.3 数据探索

3.4 数据集划分

3.5 模型构建

3.6 评价

---

1、目标

根据历史房价数据建立回归模型，预测不同类型房屋的价格。

2、数据集

样本数：10000

特征数量： 13个相关属性（即13个指标变量），1个目标变量（房价）。

特征 说明

CRIM 城镇人均犯罪率

ZN 大于25,000平方英尺的地块划分为住宅用地的比例

INDUS 每个城镇非零售业务的比例

CHAS 查尔斯河虚拟变量（如果 = 1则为河; =0则不为河）

NOX 一氧化氮浓度（每千万）

RM 每间住宅的平均房间数

AGE 自住房屋是在1940年之前建造的比例

DIS 到加州五个就业中心的加权距离

RAD 对径向高速公路的可达性指数

TAX 每10,000美元的全价物业税

PTRATIO 城镇的学生与教师比例

B 1000（Bk-0.63）^ 2其中Bk是城镇的黑人的比例

LSTAT 低社会阶层人口比例％

MEDV 以1000美元为单位的自住房屋的中位数价格

3 代码

3.1 导入必须的工具包

import numpy as np
import pandas as pd
from sklearn import preprocessing
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression,Lasso,ElasticNet
from sklearn.metrics import r2_score
from sklearn.metrics import mean_squared_error
import matplotlib.pyplot as plt
%matplotlib inline
import seaborn as sn

3.2 读入数据

在例子中 y = 波士顿房价。 X = 其余的输入变量

data = pd.read_csv(‘d:/datasets/HousingData.csv')#读取csv
y = data['target']#数据标签
X = data.copy().drop(['target'], axis=1) #去掉标签列的完整数据

3.3 数据探索

 

data.head()   #查看前五行
data.tail()
data.sample()
data.info()   #查看数据的类型，完整性
data.describe() #查看数据的统计特征（均值、方差等）。

各属性与目标变量的关系，通过散点图展示

sn.pairplot(data)

3.4 数据集划分

#X_train为训练数据， y_train为训练集标签，X_test为测试数据，y_test为测试集标签。

#抽取70%的数据作为训练集， 用剩余样本进行分类结果测试。

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size = 0.3）

3.5  数据标准化

scaler=preprocessing.StandardScaler().fit(X_train)
X_train=scaler.transform(X_train)
X_test=scaler.transform(X_test)

3.6 模型构建\训练\预测\评价

LinearRegression回归模型：

lr = LinearRegression() #实例化一个线性回归对象
lr.fit(X_train, y_train) #采用fit方法，拟合回归系数和截距
print(lr.intercept_)   #输出截距
prtin(lr.coef_)   #输出系数   可分析特征的重要性以及与目标的关系
y_pred = lr.predict(X_test)#模型预测
print("R2=",r2_score(y_test, y_pred))#模型评价, 决定系数
print("mse=",mean_squared_error(y_test, y_pred))#均方误差

可视化预测值与真实值

plt.plot(y_test.values,c="r",label="y_test")
plt.plot(y_pred,c="b",label="y_pred")
plt.legend()

  ElasticNet回归模型

EN=ElasticNet(0.01)  #实例化弹性网络回归对象
EN.fit(X_train,y_train) #训练
y_pred=EN.predict(X_test) #预测
#评价
print(r2_score(y_pred,y_test)) 
print("mse=",mean_squared_error(y_test, y_pred))#均方误差
y_predt=EN.predict(X_train)  #查看训练集上的效果
r2_score(y_predt,y_train)
#可视化，系数，截距同lr

lasso回归

la = Lasso()
la.fit(X_train, y_train)#拟合
y_pred=la.predict(X_test) #预测
#评价
print(r2_score(y_pred,y_test)) 
print("mse=",mean_squared_error(y_test, y_pred))#均方误差
y_predt=la.predict(X_train)  #查看训练集上的效果
r2_score(y_predt,y_train)
prtin(la.coef_)   #输出系数 （部分系数为“0”，lasso常用与特征提取）  可分析特征的重要性以及与目标的关系
#可视化，系数，截距同lr