[论文解读] Housing Market Prediction Problem using Different Machine Learning Algorithms: A Case Study

Shashi Bhushan Jha, Radu F. Babiceanu+2 more|arXiv (Cornell University)|Jun 17, 2020

Housing Market and EconomicsEconomics, Econometrics and Finance参考文献 27被引用 19

一句话总结

本研究使用佛罗里达州沃卢西亚县（2015–2019年）的62,723条房地产记录公开数据集，评估多种机器学习算法——XGBoost、CatBoost、随机森林、套索回归和投票回归器——在预测房价方面的表现。XGBoost在预测准确率方面优于所有其他模型，其表现通过决定系数（R²）、均方误差（MSE）、平均绝对误差（MAE）以及计算效率等指标衡量，因此成为房价市场预测的最优选择。

ABSTRACT

Developing an accurate prediction model for housing prices is always needed for socio-economic development and well-being of citizens. In this paper, a diverse set of machine learning algorithms such as XGBoost, CatBoost, Random Forest, Lasso, Voting Regressor, and others, are being employed to predict the housing prices using public available datasets. The housing datasets of 62,723 records from January 2015 to November 2019 are obtained from Florida Volusia County Property Appraiser website. The records are publicly available and include the real estate or economic database, maps, and other associated information. The database is usually updated weekly according to the State of Florida regulations. Then, the housing price prediction models using machine learning techniques are developed and their regression model performances are compared. Finally, an improved housing price prediction model for assisting the housing market is proposed. Particularly, a house seller or buyer, or a real estate broker can get insight in making better-informed decisions considering the housing price prediction. The empirical results illustrate that based on prediction model performance, Coefficient of Determination (R2), Mean Square Error (MSE), Mean Absolute Error (MAE), and computational time, the XGBoost algorithm performs superior to the other models to predict the housing price.

研究动机与目标

• 开发并比较多种机器学习模型，以实现对房价的精确预测。
• 利用标准回归指标（如R²、MSE和MAE）评估模型性能。
• 识别在现实世界房价市场预测中最具有效性的算法。
• 为购房者、卖家及房地产专业人士提供可操作的洞察。
• 为社会经济规划和房地产决策提供一个稳健、数据驱动的模型。

提出的方法

• 本研究使用佛罗里达州沃卢西亚县财产评估网站提供的62,723条房地产记录公开数据集，涵盖2015年1月至2019年11月期间。
• 特征包括房产属性、地理位置数据和经济指标，目标变量为销售价格。
• 训练了六种机器学习模型：XGBoost、CatBoost、随机森林、套索回归、投票回归器及其他用于对比分析的模型。
• 通过决定系数（R²）、均方误差（MSE）、平均绝对误差（MAE）和计算时间评估模型性能。
• 对所有算法应用超参数调优以优化模型性能。
• 基于准确率与效率的综合评估，选择表现最佳的模型。

实验结果

研究问题

• RQ1 在XGBoost、CatBoost、随机森林、套索回归和投票回归器中，哪种机器学习算法在房价预测中具有最高的预测准确率？
• RQ2 不同模型在相同的房价预测任务中，其R²、MSE和MAE表现如何比较？
• RQ3 各模型的计算效率如何？其对实时应用的影响是什么？
• RQ4 混合或集成模型是否能在房价预测中超越单一模型？
• RQ5 机器学习模型在多大程度上可支持购房者、卖家及房地产经纪人的明智决策？

主要发现

• XGBoost获得了最高的R²得分，表明其对房价数据的拟合程度最强。
• XGBoost记录了最低的均方误差（MSE）和平均绝对误差（MAE），证实其具有更优的预测准确率。
• XGBoost在所有评估模型中计算时间最短，显著提升了其实际部署的可行性。
• CatBoost和随机森林表现具有竞争力，但在所有关键指标上均逊于XGBoost。
• 套索回归表现中等，但准确率低于基于树的集成模型。
• 投票回归器通过整合多个模型，性能略有提升，但未超越单独的XGBoost模型。