[논문 리뷰] TransfoREM: Transformer aided 3D Radio Environment Mapping

Gautham Reddy, Ismail Guvenc외 4명|arXiv (Cornell University)|2026. 01. 23.

UAV Applications and Optimization인용 수 0

한 줄 요약

TransfoREM은 3D 무선 환경 맵핑을 구면 좌표계에서 시퀀스 예측으로 처리하며, 트랜스포머를 사용하여 Kriging 및 기타 ML 방법 대비 향상된 REM 재구성을 가능하게 하고, 두 단계 학습(모델 기반 사전 학습 + 데이터 기반 미세 조정) 및 실세계 데이터 미세 조정을 포함합니다.

ABSTRACT

Providing reliable cellular connectivity to Unmanned Aerial Vehicles (UAV) is a key challenge, as existing terrestrial networks are deployed mainly for ground-level coverage. The cellular network coverage may be available for a limited range from the antenna side lobes, with poor connectivity further exacerbated by UAV flight dynamics. In this work, we propose TransfoREM, a 3D Radio Environment Map (REM) generation method that combines deterministic channel models and real-world data to map terrestrial network coverage at higher altitudes. At the core of our solution is a transformer model that translates radio propagation mapping into a sequence prediction task to construct REMs. Our results demonstrate that TransfoREM offers improved interpolation capability on real-world data compared against conventional Kriging and other machine learning (ML) techniques. Furthermore, TransfoREM is designed for holistic integration into cellular networks at the base station (BS) level, where it can build REMs, which can then be leveraged for enhanced resource allocation, interference management, and spatial spectrum utilization.

연구 동기 및 목표

• UAV 연결성을 넘어 지상 수준 커버리지만을 넘는 3D REM을 동기화.
• 트랜스포머를 이용한 물리 기반의 시퀀스 기반 REM 구성 제안.
• 모델 기반 전파 모형과 실제 데이터를 결합하는 두 단계의 사전 학습 및 미세 조정 체계.
• Kriging 및 다른 ML 방법 대비 보간/외삽 성능 개선 Demonstrate.
• TransfoREM을 기지국에서의 동적 네트워크 관리에의 통합 가능성 입증.

제안 방법

• 기지국을 중심으로 구면 좌표계에서 시퀀스 예측 작업으로 무선 전파를 모델링.
• 다중 특성 입력 Gamma_i로부터 RSRP 시퀀스를 예측하는 인코더 전용 트랜스포머 사용.
• 두 단계 학습: (Stage-1) FSPL 및 결정적 이득을 이용한 모델 기반 사전 학습으로 합성 시퀀스 생성; (Stage-2) 실제 데이터를 이용한 마스킹 입력 및 Smooth L1 손실과 함께 데이터 기반 미세 조정.
• 각 공간 점 i를 log(delta), 각도(theta, phi), x,y,z 좌표를 포함하는 Gamma_i 특징 벡터로 표현하고 구 반경 구간으로 구성.
• 마스킹 기반 학습은 언어 모델링을 모방: 사전 학습 시 무작위 마스킹; 사이트별 데이터에 맞춰 미세 조정 시 표적 마스킹으로 정렬.
• Kriging 및 Triple-Layer ML 베이스라인과 비교; 실제 데이터 세트에서 RMSE, MAE, R^2로 평가.

Figure 1: The spherical coordinate system representation of a UAV position and its associated received signal strength indicator (RSSI) sequences in space.

실험 결과

연구 질문

• RQ1 트랜스포머 기반 REM이 제한된 실제 측정으로부터 정확한 3D 무선 맵을 생성할 수 있는가?
• RQ2 두 단계 학습(모델 기반 사전 학습 plus 데이터 기반 미세 조정)이 Stage-1만 사용할 때보다 REM 정확도를 향상시키는가?
• RQ3 TransfoREM은 Kriging 및 TripLeveL ML 베이스라인과 비교하여 고도 전반에 걸친 보간/외삽에서 어떤 성능을 보이는가?
• RQ4 개별 BS 사이트에서 예측적 네트워크 관리용으로 이 접근법의 배치 가능성은 어떠한가?

주요 결과

Dataset	REM Method	RMSE	MAE	R^2
AERPAW	TransfoREM Stage 1	7.49 dB	6.20 dB	0.33
dataset [8]	TransfoREM Stage 2	4.57 dB	3.13 dB	0.77
dataset [8]	TransfoREM Stage 1	5.47 dB	3.43 dB	-0.27
dataset [2]	TransfoREM Stage 2	1.29 dB	0.78 dB	0.93
Case Study	TripleLayerML Stage 1	4.07 dB	3.04 dB	0.90
dataset [2]	TripleLayerML Stage 2	1.27 dB	0.82 dB	0.95
dataset [2]	TripleLayerML Stage 3	1.12 dB	0.69 dB	0.95

• Stage-1 결과는 FSPL 기반 합성 데이터로 합리적인 REM 예측을 보임.
• Stage-2 미세 조정은 성능 향상을 가져오며 RMSE/MAE 감소, R^2 증가.
• AERPAW 데이터셋에서 Stage-2는 RMSE 4.57 dB, MAE 3.13 dB, R^2 0.77를 달성(Stage-1: 7.49 dB, 6.20 dB, 0.33).
• 데이터셋 [2]에서 Stage-2는 RMSE 1.29 dB, MAE 0.78 dB, R^2 0.93를 달성(Stage-1: 5.47 dB, 3.43 dB, -0.27).
• TransfoREM은 Stage-2 이후 TripleLayerML 성능에 필적하거나 이를 상회(RMSE/MAE/R^2가 비슷하게 나타남; 예: 1.29 dB / 0.78 dB / 0.93 vs 1.27 dB / 0.82 dB / 0.95).
• TransfoREM은 Kriging보다 중앙값 AB 테스트에서 약 1.5 dB 더 우수한 고도 간의 보간/외삽 성능을 시연.

Figure 2: Radial distance up to 100 m have correlation values greater than 0.5.