[논문 리뷰] pyStoNED: A Python Package for Convex Regression and Frontier Estimation

Sheng Dai, Yu-Hsueh Fang외 2명|arXiv (Cornell University)|2021. 09. 27.

Efficiency Analysis Using DEA참고 문헌 49인용 수 6

한 줄 요약

이 논문은 비모수적 방법을 사용하여 볼록 회귀 및 프론티어 추정을 가능하게 하는 무료이고 오픈소스인 파이썬 패키지인 pyStoNED를 소개한다. 이는 다변량 볼록 비모수 최소제곱법(CNLS), 볼록 분위수 및 기대값 회귀, 등치회귀, 스토케스틱 비모수 둘레법(StoNED) 등을 포함한다. 효율성 분석에서 계산 부담과 접근성 부족 문제를 해결하기 위해, 형상 제약 조건을 갖춘 비용 및 생산 프론티어 추정을 위한 사용자 友好的이고 완전히 개방된 프레임워크를 제공하며, QP 및 NLP 솔버를 통해 덧셈형과 곱셈형 오차 구조를 지원한다.

ABSTRACT

Shape-constrained nonparametric regression is a growing area in econometrics, statistics, operations research, machine learning and related fields. In the field of productivity and efficiency analysis, recent developments in the multivariate convex regression and related techniques such as convex quantile regression and convex expectile regression have bridged the long-standing gap between the conventional deterministic-nonparametric and stochastic-parametric methods. Unfortunately, the heavy computational burden and the lack of powerful, reliable, and fully open access computational package has slowed down the diffusion of these advanced estimation techniques to the empirical practice. The purpose of the Python package pyStoNED is to address this challenge by providing a freely available and user-friendly tool for the multivariate convex regression, convex quantile regression, convex expectile regression, isotonic regression, stochastic nonparametric envelopment of data, and related methods. This paper presents a tutorial of the pyStoNED package and illustrates its application, focusing on the estimation of frontier cost and production functions.

연구 동기 및 목표

• 효율성 및 생산성 분석 분야에서 고급 비모수적 프론티어 추정 방법을 위한 접근성 있고 신뢰할 수 있으며 완전히 오픈소스인 계산 도구의 부족을 해소하기 위해.
• 결정론적 비모수적(DEA) 및 스토케스틱 모수적(SFA) 접근법 사이의 격차를 메우기 위해, 사용자 友好的한 파이썬 패키지로 통합된 StoNED 프레임워크를 구현하기 위해.
• CNLS, 볼록 분위수 및 기대값 회귀의 효율적이고 확장 가능하며 철저히 문서화된 구현을 제공하여 볼록 회귀 기법의 계산 장벽을 낮추기 위해.
• 형상 제약 조건 하에서 생산 및 비용 함수의 견고한 추정을 가능하게 하기 위해, 프론티어 모델의 덧셈형과 곱셈형 오차 구조를 모두 지원하기 위해.
• 완전히 개방된, 확장 가능하며 상호운용성이 뛰어난 소프트웨어 솔루션을 제공하여 고급 비모수적 방법의 널리 퍼진 활용을 촉진하기 위해.

제안 방법

• 패키지는 덧셈형 오차 모델을 위해 이차계획법(QP)을 사용하여 다변량 볼록 비모수 최소제곱법(CNLS)을 구현하여 볼록성 및 단조성 제약 조건을 만족시킨다.
• 곱셈형 모델의 경우 출력 변수에 로그 변환을 적용하고, 로그 변환된 CNLS 모델을 추정함으로써 원래의 입력-출력 공간에서의 볼록성을 유지한다.
• 모델 매개변수를 구성 가능하게 함으로써 생산 및 비용 함수 추정에서 변동수익과 일정수익의 두 가지 경우를 모두 지원한다.
• MOSEK 및 KNITRO와 같은 고성능 솔버와 통합되며, 비선형계획법(NLP) 문제의 원격 실행을 위해 NEOS 서버를 지원한다.
• 데이터 처리, 모델 명세, 매개변수 설정, 결과 표시를 위한 별도의 모듈식 구성 요소를 제공하여 재현 가능성과 사용성을 향상시킨다.
• 잔차 분석, 계수 추출, 모델 진단 기능을 포함하며, 표준 통계 및 경제학적 워크플로우와 호환되는 출력을 제공한다.

실험 결과

연구 질문

• RQ1 일반 목적 프로그래밍 언어인 파이썬에서 볼록 회귀 기법을 어떻게 효과적으로 구현하여 효율성 분석의 프론티어 추정을 지원할 수 있는가?
• RQ2 실제 데이터셋에 다변량 볼록 비모수 최소제곱법(CNLS) 및 StoNED를 적용할 때 발생하는 계산적 및 실무적 과제는 무엇인가?
• RQ3 GAMS나 MATLAB과 같은 상용 도구를 대체하기 위해 오픈소스 파이썬 패키지인 pyStoNED가 얼마나 효과적으로 기능할 수 있는가?
• RQ4 CNLS 모델의 덧셈형과 곱셈형 오차 구조는 생산 및 비용 프론티어 추정에 어떻게 영향을 미치며, 이를 어떻게 효율적으로 구현할 수 있는가?
• RQ5 통합된 오픈소스 소프트웨어 프레임워크는 고급 비모수적 방법의 접근성과 활용도를 어떻게 향상시킬 수 있는가?

주요 결과

• pyStoNED는 QP 및 NLP 솔버를 사용하여 덧셈형과 곱셈형 CNLS 모델을 성공적으로 구현하여 형상 제약 조건을 갖춘 프론티어 함수 추정을 가능하게 하였다.
• 패키지는 VRS 및 CRS 가정 하에서 비용 및 생산 함수 추정을 지원하며, GAMS 및 MATLAB과 같은 상용 소프트웨어에서 얻은 결과와 일관성을 보였다.
• GAMS와 비교해 볼 때 CNLS 해의 유일성 부족으로 인해 수치적 차이가 약간 발생하지만, α, β, ε 등의 추정 계수는 통계적·경제적으로 의미 있는 값을 보였다.
• NEOS 서버 통합을 통해 NLP 문제의 원격 실행이 가능해져, 로컬 솔버 의존 없이도 대규모 데이터셋에 대한 확장 가능한 계산이 가능해졌다.
• 패키지는 기업용 도구에 대한 완전한 오픈소스 대안을 제공하여 효율성 분석 분야의 연구자 및 전문가들이 접근하기 위한 장벽을 크게 낮췄다.
• 튜토리얼은 데이터 로딩부터 모델 최적화 및 결과 표시에 이르는 종단 간 워크플로우를 시연하여, 패키지의 사용성과 실증 응용에서의 재현 가능성을 입증했다.