Low-Complexity Channel and Blind SNR Estimation for mmWave Massive MIMO Systems: Algorithms and VLSI Implementation

Abstract

밀리미터파(Millimeter-wave, mmWave) 통신 시스템은 풍부한 주파수 대역폭을 활용하여 초고속 데이터 전송을 지원할 수 있다는 점에서 차세대 무선 통신의 핵심 기술로 주목받고 있다. 그러나 높은 반송파 주파수로 인해 심각한 경로 손실이 발생하며, 이를 보상하기 위해 대규모 다중 안테나(multi-input multi-output, MIMO) 기반의 빔포밍 기술이 활용된다. 이러한 대규모 안테나 구조는 높은 빔포밍 이득을 제공하지만, 동시에 신호처리 복잡도가 증가하여 실시간 구현에 어려움을 초래한다. 본 학위논문에서는 mmWave massive MIMO 시스템에서의 채널 추정 및 파라미터 추정을 위한 저복잡도 신호처리 알고리즘을 제안한다. 특히, beamspace 영역에서의 공간적 희소성과 통계적 모델링을 활용하여 계산 복잡도를 줄이면서도 높은 성능을 달성하는 방법을 제시한다. 또한, 저해상도 아날로그-디지털 컨버터(Analog-to-digital converter, ADC)에서 발생하는 양자화 왜곡을 고려한 채널 추정 기법과 파일럿 신호 없이 동작 가능한 블라인드 노이즈 전력 및 SNR 추정 기법을 함께 제안한다.

논문의 첫 번째 부분에서는 mmWave massive MIMO 채널의 beamspace 영역에서의 공간적 희소성을 활용한 저복잡도 채널 추정 기법을 제안한다. 희소한 beamspace 채널을 베르누이-복소 가우시안 분포로 모델링하고, 이를 기반으로 채널의 공간적 희소 구조를 명시적으로 반영한다. 이러한 확률적 모델을 바탕으로 이진 가설 검정 기반의 디노이징 기법을 적용하여 잡음이 포함된 beamspace 채널을 효과적으로 추정한다. 제안 기법은 기존의 고복잡도 알고리즘과 유사한 추정 성능을 유지하면서도 선형 수준의 계산 복잡도를 달성한다.

논문의 두 번째 부분에서는 저해상도 ADC를 사용하는 mmWave MIMO 시스템을 위한 저복잡도 채널 추정 기법을 제안한다. 저해상도 ADC는 전력 소모 및 하드웨어 비용을 줄이기 위한 실용적인 대안이지만, 심각한 비선형 양자화 왜곡을 유발하여 채널 추정 성능을 저하시킨다. 이를 해결하기 위해, 첫 번째 부분에서 제안한 프레임워크를 확장하여 양자화 효과를 명시적으로 반영하면서도 선형 복잡도를 유지하는 방법을 제안한다. Bussgang 분해와 AQNM(Additive quantization noise model)을 이용하여 비선형 양자화 왜곡을 유색 가우시안 잡음으로 근사하고, 이를 열 잡음과 결합된 복합 잡음으로 모델링한다. 이후 이진 가설 검정 기반 디노이징 기법을 통해 두 잡음의 영향을 동시에 완화한다. 또한, 제안 기법의 실용성을 검증하기 위해 초고밀도 집적회로 (Very large-scale integrated circuit, VLSI) 구조 설계와 FPGA(Field Programmable Gate Array) 구현을 수행하였다.

논문의 세 번째 부분에서는 파일럿 신호 없이 단일 샘플만으로 동작하는 저복잡도 블라인드 노이즈 전력 및 신호대잡음비(Signal-to-noise power ratio, SNR) 추정 기법을 제안한다. mmWave 채널은 공간적 희소성으로 인해 장애물 및 빠른 채널 변화에 매우 민감하며, 이를 대응하기 위해 파일럿 전송 빈도를 증가시키면 오버헤드가 증가하는 문제가 발생한다. 이를 해결하기 위한 대안으로 블라인드 추정 기법을 고려하되, 기존 방법들이 긴 관측 구간이나 반복 연산에 의존하는 한계를 극복하고자 한다. 제안 기법은 beamspace 영역에서의 희소성을 활용하여 빔 성분을 정렬하고, 잡음이 지배적인 성분과 신호 성분을 구분함으로써 평균 노이즈 전력을 효율적으로 추정한다. 이후 이를 기반으로 SNR을 계산한다. 또한, 하드웨어 구현을 통해 계산 복잡도 및 클럭 단위 지연을 분석하여 실시간 적용 가능성을 검증하였다.

요약하면, 본 논문은 mmWave massive MIMO 시스템을 위한 저복잡도 채널 추정 및 블라인드 파라미터 추정 알고리즘을 제안하였다. 제안 기법들은 beamspace 영역의 희소성과 통계적 모델링을 활용하여 계산 효율성과 실시간 구현 가능성을 확보하면서도 경쟁력 있는 성능을 유지한다. 또한, VLSI 및 FPGA 기반 구현을 통해 실제 시스템 적용 가능성을 입증하였다. 본 연구는 mmWave massive MIMO 시스템의 실용적인 신호처리 기술 발전에 기여할 것으로 기대된다.|Millimeter-wave (mmWave) communication systems have emerged as a key technology for next-generation wireless networks, owing to their ability to exploit abundant spectral bandwidth to support extremely high data rates. However, mmWave signals suffer from severe path loss due to their high carrier frequencies. To compensate for this limitation, mmWave systems are typically equipped with massive multiple-input multiple-output (MIMO) architectures that provide substantial beamforming gains. Nevertheless, the large-scale antenna configuration leads to increased computational complexity in signal processing, posing practical challenges for real-time implementation. In this thesis, we first develop a low-complexity channel estimation algorithm that leverages the inherent spatial sparsity of mmWave massive MIMO channels. We further extend this framework to mitigate the performance degradation caused by quantization distortion arising from low-resolution analog-to-digital converters (ADCs). In addition, we propose computationally efficient blind estimation techniques for noise power and signal-to-noise ratio (SNR), enabling robust system operation without excessive pilot overhead.

In the first part of the thesis, we propose a low-complexity beamspace channel estimation algorithm that exploits the inherent spatial sparsity of mmWave massive MIMO channels. By modeling the sparse beamspace channel using a Bernoulli-complex Gaussian distribution, the proposed method explicitly characterizes the sparse support structure. Based on this probabilistic model, a binary hypothesis testing framework is employed to effectively denoise the noisy beamspace channel observations. The proposed algorithm attains estimation accuracy comparable to conventional high-complexity methods, with only linear computational complexity.

In the second part of the thesis, we devise a low-complexity channel estimation algorithm for mmWave MIMO systems equipped with low-resolution ADCs. Low-resolution ADCs are widely regarded as a practical solution to reduce power consumption and hardware cost in large-scale antenna systems. However, coarse quantization introduces severe nonlinear distortion, which significantly degrades channel estimation performance. To address this challenge, we extend the framework proposed in the first part of the thesis to explicitly account for quantization effects, while maintaining linear computational complexity. By leveraging Bussgang’s decomposition and additive quantization noise model (AQNM), the nonlinear quantization distortion is approximated as colored Gaussian noise. Based on this approximation, the proposed method models the quantization noise and thermal noise as a composite Gaussian noise term and jointly mitigates their effects through a binary hypothesis testing-based denoising scheme. Moreover, to validate the practicality of the proposed method, its very large scale integration (VLSI) design and field-programmable gate array (FPGA) implementation are carried out.

In the third part of the thesis, we propose low-complexity blind estimators for noise power and SNR that operate with a single sample without requiring pilot signals. Due to the spatial sparsity of mmWave channels, the system becomes highly sensitive to blockage and rapid parameter fluctuations. A straightforward approach to cope with such fast variations is to increase the pilot transmission frequency. However, this inevitably leads to excessive pilot overhead and reduced spectral efficiency. Therefore, blind estimation provides a viable alternative. Nevertheless, many existing methods rely on long observation windows or iterative procedures, which are unsuitable for real-time adaptive systems in fast-varying environments. To address this limitation, the proposed estimators exploit the spatial sparsity of mmWave signals in the beamspace to achieve low computational complexity. By sorting beamspace elements and separating noise-dominant elements from signal-bearing elements, the average noise power is efficiently estimated, from which the SNR is subsequently obtained. To further demonstrate practical feasibility, VLSI architecture design and FPGA implementation are carried out, enabling hardware-aware complexity analysis and clock-level latency evaluation.

In summary, this thesis presents low-complexity algorithms for channel estimation and blind parameter estimations for mmWave massive MIMO systems. By exploiting beamspace sparsity and statistical modeling, the proposed methods achieve low computational complexity and real-time feasibility, while maintaining competitive performance. Moreover, hardware implementations further confirm their practicality and suitability for large-scale antenna deployments. The proposed algorithms contribute toward the development of practical and efficient signal processing techniques for mmWave massive MIMO systems.