数学建模社区-数学中国

标题: 房价预测（线性回归） [打印本页]

---

作者: 2744557306    时间: 2024-3-31 16:37
标题: 房价预测（线性回归）
数据集：使用加利福尼亚房价数据集。
- I( A% ~; e4 C任务：构建一个模型预测加利福尼亚地区的房价。
挑战：尝试不同的预处理方法（标准化、归一化等）和特征选择技术来改进模型性能。
( A6 v. X4 Y4 \& ~) |0 ]线性回归是一种预测数值型数据的经典统计方法，它假设目标值和特征之间存在线性关系。在房价预测任务中，我们可以使用线性回归模型来预测基于多个特征（如房屋大小、位置、年龄等）的房价。以下是使用加利福尼亚房价数据集进行房价预测的示例代码，以及如何应用不同的预处理方法和特征选择技术来改进模型性能。
6 v0 [" E/ Z: C0 ^
加载和预处理数据
首先，我们从scikit-learn中加载加利福尼亚房价数据集，并进行基本的数据预处理。

1. from sklearn.datasets import fetch_california_housing
   
2. 
   - z  g- p( d3 N( i  p1 Y; z
3. from sklearn.model_selection import train_test_split
   8 O) z4 u  m$ n9 J! a" q
4. 
   ( R) M4 n7 v1 C* x0 R  l; C  {
5. from sklearn.preprocessing import StandardScaler
   & b! W9 _2 _2 f8 E8 q2 j- x- C
6. 
   
7. from sklearn.linear_model import LinearRegression
   * k4 z: T0 k& a; s
8. 
   / M$ N+ n$ H: L; s/ T4 _; `& e
9. from sklearn.metrics import mean_squared_error
   5 d: ^! g% g% q$ M: a5 e
10. 
    9 X) _5 h2 z% {# ?5 H0 Y
11. 
      I0 W6 }, V! x6 U) c/ L
12. 
    0 o) X4 X' j+ o% J  z$ Z  o1 ?
13. # 加载数据集
    ! o  L( m. G2 I- R  {2 ~
14. 
    8 ]4 O1 W9 o1 ]0 L1 D) w- c6 R
15. housing = fetch_california_housing()
    
16. 
    / P6 _# D1 _* c+ l& F' \
17. X, y = housing.data, housing.target
    
18. 
    2 a( |' d2 k# K0 @: u
19. 
    7 U8 e. Q0 A0 X5 ^0 B/ m
20. 
    ( c- x4 h& @( P6 X) B5 @9 \
21. # 划分训练集和测试集
    ) y# P' U& w/ W1 i3 x1 u* `
22. 
    
23. X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
    # e. b  u" y- O. S* Z
24. 
    
25. 
    
26. 
      ^& K! V( r' X6 A- ^% p' r
27. # 数据预处理：标准化
    
28. 
    0 _, x; R) Q, Q# d  q
29. scaler = StandardScaler()
    ( P  `  F, J+ Q3 L# i, [! C
30. 
    ( u1 }& Q, ^/ D9 ]
31. X_train_scaled = scaler.fit_transform(X_train)
    4 M) @6 l+ ^. x! v5 P
32. 
    
33. X_test_scaled = scaler.transform(X_test)

复制代码

构建和训练线性回归模型

1. # 创建线性回归模型
     p& n; L. Z" }# e$ b, `0 q# i' i
2. model = LinearRegression()
   - y( q4 i: U6 H" A* I
3. 
   
4. # 训练模型
   3 J1 V: S: f7 V6 e; O
5. model.fit(X_train_scaled, y_train)
   
6. 
   * h4 ?3 b* ~5 W4 r) Z( H
7. # 预测测试集
   
8. y_pred = model.predict(X_test_scaled)
   ' A9 o4 N* D. A  H
9. 
   # S7 ^2 F" L4 e" u5 G; H" i# Q
10. # 评估模型
    : ^6 z) `& M! }$ s7 K0 U% J
11. mse = mean_squared_error(y_test, y_pred)
    
12. print(f"Mean Squared Error: {mse}")

复制代码

挑战：尝试不同的预处理方法和特征选择
2 F7 w. f% v2 k6 r2 ?5 Y, K$ t预处理方法：除了标准化，你还可以尝试归一化（MinMaxScaler）、对数转换等方法，看看它们如何影响模型的性能。
! [8 O9 R- H3 P; y3 Y7 k; c/ @特征选择：可以使用不同的特征选择方法（如SelectKBest, SelectFromModel）来选择最有影响力的特征，这有助于模型专注于最重要的信息，提高预测准确性。

1. from sklearn.feature_selection import SelectKBest, f_regression
   4 e/ x5 l  w) R7 W6 ]
2. 
   
3. # 特征选择
   ) z( ], d: _+ A3 o* a- I3 A9 |; L
4. selector = SelectKBest(score_func=f_regression, k=5)
   3 R! [4 S) w" E( t# K
5. X_train_selected = selector.fit_transform(X_train_scaled, y_train)
   
6. X_test_selected = selector.transform(X_test_scaled)
   
7. 
   / o; ?7 ]  S$ J+ N2 c
8. # 使用选择的特征重新训练模型
   
9. model.fit(X_train_selected, y_train)
   2 s: E  r/ F0 J7 e! \! P$ d8 o
10. y_pred_selected = model.predict(X_test_selected)
    
11. 
    
12. # 评估
    
13. mse_selected = mean_squared_error(y_test, y_pred_selected)
      N) B  y3 Y% W+ O9 e" {" O. o6 f
14. print(f"Mean Squared Error with selected features: {mse_selected}")

复制代码

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5