[论文解读] pyStoNED: A Python Package for Convex Regression and Frontier Estimation

Sheng Dai, Yu-Hsueh Fang+2 more|arXiv (Cornell University)|Sep 27, 2021

Efficiency Analysis Using DEA参考文献 49被引用 6

一句话总结

本论文介绍了 pyStoNED，这是一个免费、开源的 Python 软件包，支持使用非参数方法（如多元凸非参数最小二乘法（CNLS）、凸分位数与期望回归、等高回归以及随机非参数包络法（StoNED））进行凸回归与前沿估计。该工具通过提供一个用户友好、完全开源的框架，解决了效率分析中计算负担重和缺乏可用工具的问题，支持在具有形状约束的条件下估计成本与生产前沿，通过二次规划（QP）和非线性规划（NLP）求解器支持加法与乘法误差结构。

ABSTRACT

Shape-constrained nonparametric regression is a growing area in econometrics, statistics, operations research, machine learning and related fields. In the field of productivity and efficiency analysis, recent developments in the multivariate convex regression and related techniques such as convex quantile regression and convex expectile regression have bridged the long-standing gap between the conventional deterministic-nonparametric and stochastic-parametric methods. Unfortunately, the heavy computational burden and the lack of powerful, reliable, and fully open access computational package has slowed down the diffusion of these advanced estimation techniques to the empirical practice. The purpose of the Python package pyStoNED is to address this challenge by providing a freely available and user-friendly tool for the multivariate convex regression, convex quantile regression, convex expectile regression, isotonic regression, stochastic nonparametric envelopment of data, and related methods. This paper presents a tutorial of the pyStoNED package and illustrates its application, focusing on the estimation of frontier cost and production functions.

研究动机与目标

• 解决效率与生产率分析中先进非参数前沿估计方法缺乏可访问、可靠且完全开源的计算工具的问题。
• 通过在用户友好的 Python 软件包中实现统一的 StoNED 框架，弥合确定性非参数方法（DEA）与随机参数方法（SFA）之间的差距。
• 通过提供 CNLS、凸分位数与期望回归的高效、可扩展且文档齐全的实现，降低凸回归技术的计算门槛。
• 在前沿模型中支持加法与乘法误差结构，实现在形状约束下对生产函数与成本函数的稳健估计。
• 通过提供完全开源、可扩展且互操作的软件解决方案，促进先进非参数方法在实证研究中的广泛应用。

提出的方法

• 该软件包使用二次规划（QP）实现多元凸非参数最小二乘法（CNLS），用于加法误差模型，确保满足凸性与单调性约束。
• 对于乘法模型，对输出变量应用对数变换，并估计对数变换后的 CNLS 模型，从而在原始输入-输出空间中保持凸性。
• 通过可配置的模型参数，支持在生产函数与成本函数估计中采用可变规模报酬（VRS）与常规模报酬（CRS）两种设定。
• 该软件包集成了 MOSEK 与 KNITRO 等高性能求解器，并支持通过 NEOS Server 远程执行非线性规划（NLP）问题。
• 其模块化设计包含独立的数据处理、模型定义、参数设置与结果展示组件，提升了可重复性与可用性。
• 实现中包含残差分析、系数提取与模型诊断功能，输出与标准统计与计量经济工作流程兼容。

实验结果

研究问题

• RQ1 如何在通用编程语言 Python 中有效实现凸回归技术，以支持效率分析中的前沿估计？
• RQ2 在真实世界数据集中应用多元凸非参数最小二乘法（CNLS）与 StoNED 时，面临哪些计算与实际挑战？
• RQ3 像 pyStoNED 这类开源 Python 软件包在多大程度上可以替代 GAMS 与 MATLAB 等商业工具用于非参数前沿估计？
• RQ4 CNLS 模型中的加法与乘法误差结构如何影响生产与成本前沿的估计？它们又该如何高效实现？
• RQ5 统一的、开源的软件框架在多大程度上能提升先进非参数方法在实证生产率与效率研究中的可及性与采用率？

主要发现

• pyStoNED 成功实现了加法与乘法 CNLS 模型，支持使用 QP 与 NLP 求解器在形状约束下估计前沿函数。
• 该软件包支持在 VRS 与 CRS 假设下估计成本与生产函数，其结果与使用 GAMS 和 MATLAB 等商业软件获得的结果一致。
• pyStoNED 估计的系数（如 α, β, ε）与 GAMS 结果相比存在微小数值差异，这是由于 CNLS 解的非唯一性所致，但其在统计与经济意义上仍具意义。
• 通过与 NEOS Server 集成，可实现 NLP 问题的远程执行，使大规模数据集的可扩展计算无需本地求解器依赖。
• 该软件包为专有工具提供了完全开源的替代方案，显著降低了效率分析领域研究人员与实践者的入门门槛。
• 教程展示了从数据加载到模型优化与结果展示的端到端工作流，充分展现了该软件包在实证应用中的可用性与可重复性。