数学建模社区-数学中国

标题: 房价预测（线性回归） [打印本页]

---

作者: 2744557306    时间: 2024-3-31 16:37
标题: 房价预测（线性回归）
数据集：使用加利福尼亚房价数据集。
- G. b  D0 a( K% e' m+ z任务：构建一个模型预测加利福尼亚地区的房价。
挑战：尝试不同的预处理方法（标准化、归一化等）和特征选择技术来改进模型性能。
线性回归是一种预测数值型数据的经典统计方法，它假设目标值和特征之间存在线性关系。在房价预测任务中，我们可以使用线性回归模型来预测基于多个特征（如房屋大小、位置、年龄等）的房价。以下是使用加利福尼亚房价数据集进行房价预测的示例代码，以及如何应用不同的预处理方法和特征选择技术来改进模型性能。
. C# B! d0 |7 B- w5 A$ a
加载和预处理数据
首先，我们从scikit-learn中加载加利福尼亚房价数据集，并进行基本的数据预处理。

1. from sklearn.datasets import fetch_california_housing
   
2. 
   
3. from sklearn.model_selection import train_test_split
   
4. 
   
5. from sklearn.preprocessing import StandardScaler
   / @' c" }$ c% ^  J) X9 @: N0 e+ L7 N
6. 
   
7. from sklearn.linear_model import LinearRegression
   ; a) t* {# h: H4 o- x3 U5 b/ ~
8. 
   
9. from sklearn.metrics import mean_squared_error
   
10. 
    6 b& I5 a9 }" t4 C- v
11. 
    
12. 
    3 k9 b7 f% ^# m+ v# q2 ]) e( M0 A: \
13. # 加载数据集
    : |, n' g+ t5 ^
14. 
    3 }4 m$ H4 ]$ L5 c2 \: F
15. housing = fetch_california_housing()
      [: p+ U$ ^4 f/ i6 c4 Z: c# z
16. 
    ; s& x6 q2 v- M6 e, w
17. X, y = housing.data, housing.target
    
18. 
    
19. 
    ( P7 ^" i9 [6 d  `
20. 
    - h' K  h3 M$ z- A2 A
21. # 划分训练集和测试集
    + t5 M2 Y  s4 K, J- N
22. 
    % _/ K# F1 K7 P* z1 g  S% g
23. X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
    
24. 
    0 \, M3 M! k. u4 i
25. 
    
26. 
    4 J* i) {9 B' t: w( L2 O$ J, ~
27. # 数据预处理：标准化
    
28. 
    
29. scaler = StandardScaler()
    6 k( x7 `! i8 t
30. 
    3 [5 r# D/ [: W# l9 T! b
31. X_train_scaled = scaler.fit_transform(X_train)
    
32. 
    
33. X_test_scaled = scaler.transform(X_test)

复制代码

构建和训练线性回归模型

1. # 创建线性回归模型
   
2. model = LinearRegression()
   ) c$ F% _+ g3 I, C& Z2 _2 t7 l
3. 
   
4. # 训练模型
   
5. model.fit(X_train_scaled, y_train)
   
6. 
   ( x8 Y/ A! N* ~: P8 a9 n
7. # 预测测试集
   % }: i' Y. c# Q8 r' @9 {
8. y_pred = model.predict(X_test_scaled)
   - z& a8 M2 v/ D/ M
9. 
   ' Y' i; I4 K; q7 ^4 Z3 u$ h# l% f
10. # 评估模型
    % T: ?. X1 S+ ]1 k
11. mse = mean_squared_error(y_test, y_pred)
    : c6 a. o0 O- D6 \
12. print(f"Mean Squared Error: {mse}")

复制代码

挑战：尝试不同的预处理方法和特征选择
; m1 o; }3 l. S4 F9 b" w预处理方法：除了标准化，你还可以尝试归一化（MinMaxScaler）、对数转换等方法，看看它们如何影响模型的性能。
! |2 ]4 X( z# f特征选择：可以使用不同的特征选择方法（如SelectKBest, SelectFromModel）来选择最有影响力的特征，这有助于模型专注于最重要的信息，提高预测准确性。

1. from sklearn.feature_selection import SelectKBest, f_regression
   
2. 
   
3. # 特征选择
   # i/ U; |# U  ]  C- M8 ?
4. selector = SelectKBest(score_func=f_regression, k=5)
   : W! A7 j7 g, Z7 k! i
5. X_train_selected = selector.fit_transform(X_train_scaled, y_train)
   
6. X_test_selected = selector.transform(X_test_scaled)
   8 A( }  e3 h; D) B
7. 
   $ X8 M6 m% ~& |% |9 P
8. # 使用选择的特征重新训练模型
   
9. model.fit(X_train_selected, y_train)
   ( i5 v! U4 [) x/ [( R) ?
10. y_pred_selected = model.predict(X_test_selected)
    " F8 o" r, F4 b% d6 Q2 P
11. 
    
12. # 评估
    
13. mse_selected = mean_squared_error(y_test, y_pred_selected)
    4 r9 W; P, x* o% L9 v# K  W
14. print(f"Mean Squared Error with selected features: {mse_selected}")

复制代码

$ n, }" ~7 l+ c& Z. q

---

欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)

Powered by Discuz! X2.5