[논문 리뷰] Joint Variable Selection for Data Envelopement Analysis via Group Sparsity

Zhiwei Qin, Irene Song|arXiv (Cornell University)|2014. 02. 16.

Efficiency Analysis Using DEA참고 문헌 41인용 수 6

한 줄 요약

이 논문은 손실 함수를 데이터엔velopment 분석(DEA)에 맞게 조정한 제약 조건이 있는 군 Lasso를 사용하여 데이터 기반의 군 변수 선택 방법을 제안한다. 이는 맞춤형 ADMM 알고리즘으로 해결되며, 기존의 벤치마크인 ECM 및 RB 테스트보다 변수 식별과 효율성 추정에서 뛰어난 성능을 보이며, 입력 상관 구조, 표본 크기, 생산 차원의 변화에 따라 유의미하게 뛰어나다.

ABSTRACT

This study develops a data-driven group variable selection method for data envelopment analysis (DEA), a non-parametric linear programming approach to the estimation of production frontiers. The proposed method extends the group Lasso (least absolute shrinkage and selection operator) designed for variable selection on (often predefined) groups of variables in linear regression models to DEA models. In particular, a special constrained version of the group Lasso with the loss function suited for variable selection in DEA models is derived and solved by a new tailored algorithm based on the alternating direction method of multipliers (ADMM). This study further conducts a thorough evaluation of the proposed method against two widely used variable selection methods -- the efficiency contribution measure (ECM) method and the regression-based (RB) test -- in DEA via Monte Carlo simulations. The simulation results show that our method provides more favorable performance compared with its benchmarks.

연구 동기 및 목표

• DEA에서 체계적이고 데이터 기반의 변수 선택이 부족한 문제를 해결하기 위해.
• 오직 관련된 입력 및 출력만 선택하여 모형 오Specification을 줄이고 판별력을 향상시키기 위해.
• 입력 상관 구조, 표본 크기, 생산 기술 가정의 변화에 견딜 수 있는 정확도를 유지하는 강력하고 확장 가능한 방법을 개발하기 위해.
• 포괄적인 몬테카를로 시뮬레이션을 통해 제안된 방법을 기존의 기준인 ECM 및 RB 테스트와 비교하기 위해.
• 필요한 변수 수만큼만 사용하면서 가능한 한 적은 변수를 사용하는 간결한 DEA 모형을 제공하여 모형의 해석 가능성과 효율성 추정 정확도를 향상시키기 위해.

제안 방법

• DEA의 비율 기반 효율성 추정에 특화된 손실 함수를 갖는 특수한 제약 조건이 있는 군 Lasso의 변형을 도출하여 군 Lasso 프레임워크를 DEA에 적용한다.
• 효율적인 제약 조건이 있는 군 Lasso 최적화 문제를 해결하기 위해 맞춤형 분할 역할 방법(ADMM) 알고리즘을 구현한다.
• 사전 정의된 입력/출력 변수 그룹에 대해 함께 변수 선택을 수행하기 위해 군 희박성(그룹 스파arsity)을 활용한다.
• DEA 효율성 모형이 유효하고 해석 가능하게 유지되도록 제약 조건을 통합하여 조각별 선형 경계의 구조를 유지한다.
• ADMM의 번갈아가며 최소화 전략을 사용하여 변수 가중치, 입력/출력 가중치, 이중 변수를 반복적으로 업데이트함으로써 최적화 문제를 해결한다.
• 무의미한 변수 그룹을 동시에 선택 및 제거할 수 있도록 전체 변수 그룹을 0으로 만들도록 유도하는 펜alties 구조를 도입한다.

실험 결과

연구 질문

• RQ1 제안된 군 Lasso 기반 방법은 DEA 모형에서 관련된 입력 및 출력을 식별하는 데 ECM 및 RB 테스트와 비교하여 어떻게 성능을 내는가?
• RQ2 입력 상관 구조, 표본 크기, 생산 기술(일정규모생산성(CRS) 대 가변규모생산성(VRS))의 변화에 대해 제안된 방법은 얼마나 견고한가?
• RQ3 다양한 시뮬레이션 설정에서 진짜 효율성 점수와 추정된 효율성 점수 간의 평균제곱오차(MSE)와 상관계수 측면에서 이 방법의 성능은 어떠한가?
• RQ4 고차원 생산 공간 또는 입력 기여도가 크게 다를 경우에도 이 방법은 우수한 성능를 유지하는가?
• RQ5 대규모 DEA 응용 프로그램에서 제안된 방법의 계산 효율성은 ECM 및 RB 테스트와 비교하여 어떻게 되는가?

주요 결과

• 제안된 군 Lasso(GL) 방법은 모든 시뮬레이션 실험에서 ECM 방법과 RB 테스트를 일관되게 뛰어넘으며, 특히 효율적이고 비효율적인 DMU를 정확히 식별하는 데서 두드러진 성능을 보인다.
• 가변규모생산성(VRS) 생산 과정에서 입력 기여도가 변할 경우, GL 방법은 RB 테스트 및 ECM 방법보다 5%에서 27% 더 많은 효율적 DMU를 정확히 식별한다.
• 고차원 설정(실험 10)에서 GL 방법은 RB 테스트보다 최소 10배 낮은 평균제곱오차(MSE)와 8% 높은 진짜 효율성 점수와의 상관계수를 달성한다.
• GL 방법은 입력 상관, 표본 크기, 생산 기술의 모든 실험적 변형에서 가장 안정적인 성능를 보이며, 뛰어난 견고성을 입증한다.
• GL 방법은 세 가지 알고리즘 중에서 가장 빠르며, 계산 시간이 크게 단축되어 대규모 DEA 응용에 확장 가능하다.
• 입력 기여도가 변할 경우에도 GL 방법은 정확도가 크게 떨어지지 않고 우수한 성능를 유지한다. 반면 ECM 및 RB 테스트는 이러한 조건에서 성능 저하가 심각하게 발생한다.