[논문 리뷰] Proceedings of the third "international Traveling Workshop on Interactions between Sparse models and Technology" (iTWIST'16)

Abrol, V., Absil, O.외 59명|arXiv (Cornell University)|2016. 09. 14.

Data Management and Algorithms참고 문헌 6인용 수 3

한 줄 요약

iTWIST'16의 회의록은 압축 센싱, 블라인드 디컨볼루션, 희소 기계학습, 역문제 등 다양한 주제를 포함한 희소 모델링 및 그 기술적 응용에 관한 최신 연구를 제시한다. 이 연구는 의료 영상, 천문학, 신호 처리 등 다양한 분야에서 이론적 기초와 실용적 구현을 발전시키며, 복구 정확도 향상, 더 빠른 알고리즘, 새로운 희소성 촉진 사전 정보 등 주요 성과를 달성한다.

ABSTRACT

The third edition of the "international - Traveling Workshop on Interactions between Sparse models and Technology" (iTWIST) took place in Aalborg, the 4th largest city in Denmark situated beautifully in the northern part of the country, from the 24th to 26th of August 2016. The workshop venue was at the Aalborg University campus. One implicit objective of this biennial workshop is to foster collaboration between international scientific teams by disseminating ideas through both specific oral/poster presentations and free discussions. For this third edition, iTWIST'16 gathered about 50 international participants and features 8 invited talks, 12 oral presentations, and 12 posters on the following themes, all related to the theory, application and generalization of the "sparsity paradigm": Sparsity-driven data sensing and processing (e.g., optics, computer vision, genomics, biomedical, digital communication, channel estimation, astronomy); Application of sparse models in non-convex/non-linear inverse problems (e.g., phase retrieval, blind deconvolution, self calibration); Approximate probabilistic inference for sparse problems; Sparse machine learning and inference; "Blind" inverse problems and dictionary learning; Optimization for sparse modelling; Information theory, geometry and randomness; Sparsity? What's next? (Discrete-valued signals; Union of low-dimensional spaces, Cosparsity, mixed/group norm, model-based, low-complexity models, ...); Matrix/manifold sensing/processing (graph, low-rank approximation, ...); Complexity/accuracy tradeoffs in numerical methods/optimization; Electronic/optical compressive sensors (hardware).

연구 동기 및 목표

• 신호 및 영상 복원 분야에서 희소 모델링의 이론적 및 실용적 경계를 탐색하고 확장한다.
• 희소성 촉진 최적화 및 확률적 추론을 활용하여 비볼록 및 블라인드 역문제에 도전한다.
• 고차원 데이터에서의 압축 센싱, 낮은 질량 근사, 희소 복원을 위한 효율적인 알고리즘을 개발한다.
• MRI, 고분광 영상, PET 복원과 같은 응용 분야에서 물리 모델과 희소성을 통합한다.
• 더 나은 신호 표현과 복원을 위해 그룹 희소성, 공희소성, 계층적 사전 정보와 같은 새로운 희소성 구조를 조사한다.

제안 방법

• 역문제에서의 신호 표현을 위한 합성 및 분석 희소성 모델을 활용한다.
• 복원 성능 향상을 위해 비볼록 최적화 기법, 예를 들어 비볼록 완화 및 프록시멀 알고리즘을 적용한다.
• 강건한 희소성 강제화를 위한 계층적 베이지안 사전 정보, 예를 들어 스트루덴트-t 분포 및 일반화된 제한된 볼츠만 기계를 도입한다.
• 볼록 최적화 및 다양체 학습을 이용한 빠른 알고리즘을 개발하여 희소 선형 예측 및 낮은 질량 행렬 복원을 수행한다.
• 비에르 곡선과 다양체 보간을 활용하여 희소 신호의 기하학적 모델링을 수행한다.
• FISTA와 같은 반복적 해법에 활성 스크리닝 및 임계값 학습 전략을 구현하여 수렴 속도를 가속화한다.

실험 결과

연구 질문

• RQ1 어떻게 희소성의 특성을 효과적으로 활용하여 블라인드 디컨볼루션 및 위상 복원 문제에서 복원 성능을 향상시킬 수 있는가?
• RQ2 비볼록 및 비선형 제약 조건 하에서 희소 복원의 이론적 및 실용적 한계는 무엇인가?
• RQ3 계층적 및 그룹 희소성 모델은 의료 및 천문학적 영상 복원 정확도를 어떻게 향상시킬 수 있는가?
• RQ4 확률적 추론 및 베이지안 방법은 노이즈 또는 손상된 데이터가 있는 압축 센싱에서 어떻게 강건성을 향상시킬 수 있는가?
• RQ5 희소성과 물리 모델을 어떻게 조합하여 동적 MRI 및 스펙트럼 CT에서 직접적인 물리 기반 복원을 가능하게 할 수 있는가?

주요 결과

• 선형 랜덤 센싱 모델에서의 비볼록 접근법을 통한 블라인드 캘리브레이션은 볼록 대안 대비 더 높은 강건성과 정확도를 보였다.
• ℓ∞ 데이터 적합성 기반의 희소 지원 복원은 기존 ℓ2 기반 방법에 비해 고노이즈 환경에서 더 우수한 성능을 보였다.
• 일반화된 제한된 볼츠만 기계의 사용은 합성 및 실제 데이터에서 더 나은 일반화 능력을 확보한 효과적인 압축 센싱 복원을 가능하게 하였다.
• 고차원 희소 선형 예측을 위한 빠른 알고리즘이 계산 복잡도를 감소시키면서도 음성 및 음향 처리 응용 분야에서 정확도를 유지하였다.
• 블라인드 PET 디컨볼루션에 해부학적 사전 정보를 통합함으로써 이미지 해상도가 크게 향상되고 잡음이 감소하였다.
• 스튜던트-t 기반 계층적 사전 정보는 간섭 무결성 감소 및 가장자리 유지 향상으로 인해 강건한 2D 및 3D 단층 촬영 복원을 가능하게 하였다.