Investigation of Advanced Technique in STED nanoscopy: Approaches for Background Noise Suppression and Hyperspectral Imaging

Abstract

This dissertation focuses on the development and validation of novel optical approaches to overcome two key limitations of STED (Stimulated Emission Depletion) nanoscopy—background noise and restricted multicolor imaging capability. Although STED microscopy enables super-resolution imaging beyond the diffraction limit, its experimental performance has been constrained by STED-specific background noise and the complex configuration required for multicolor operation. To address these challenges, this study was conducted along two major axes. The first axis concerns the development of diffSTED (differential STED) for background noise suppression. In conventional STED imaging, excessive or insufficient depletion power generates two distinct noise components: Direct Excitation Noise (DEN) in the high-intensity periphery of the STED donut and Incomplete Depletion Noise (IDN) in regions below the depletion threshold. Because these two components are in a trade- off relation, simple adjustment of laser power cannot suppress both simultaneously. The diffSTED approach proposed here acquires two STED images under different depletion powers and linearly combines them to cancel noise terms while preserving genuine fluorescence signals. This method achieves concurrent suppression of DEN and IDN purely through software-based control, without any hardware modification. Numerical simulations and experiments using fluorescent beads and fixed cells confirmed that diffSTED reduces background signals while enhancing both spatial resolution and image contrast. The second axis introduces mpSTED (multiplexed STED), a single-excitation, single-depletion multicolor imaging method. Instead of using multiple laser pairs, mpSTED employs spectral phasor analysis to achieve computational hyperspectral multiplexing. Under 640 nm excitation and 775 nm depletion, emission spectra in the 650–750 nm range are transformed into 2D phasor coordinates representing the spectral centroid and width of each fluorophore. Because the phasor transform is linear, mixed spectral contributions appear as barycentric combinations of pure fluorophore phasors. Using this property, mpSTED successfully separates up to three fluorophores (e.g., STAR635P, AF647, and Atto647N) from a single hyperspectral acquisition. Simulated bead datasets showed structural similarity indices (SSIM) exceeding 0.998 between reconstructed and ground-truth images, confirming that mpSTED maintains both high precision and STED-level spatial resolution. Both techniques can be seamlessly integrated into existing STED systems. diffSTED implements background suppression solely through software-based modulation of depletion power, while mpSTED eliminates alignment errors and chromatic aberration by computationally decomposing spectrally mixed data collected along a single optical path. In addition, this dissertation proposes a new conceptual framework for defining optical resolution based on Time-of-Flight (ToF). Unlike conventional numerical aperture(NA)-limited resolution, the ToF model defines localization precision by the timing accuracy of detected photons. Theoretical derivations show that the position of a single scatterer can be localized to nanometer precision in one dimension. This concept points toward a future direction for time-based super-resolution imaging that can potentially extend to three-dimensional spatial localization. Future work should aim to (1) reduce the four-scan requirement of diffSTED to enhance temporal resolution, (2) minimize photobleaching caused by multiple acquisitions through algorithmic correction, (3) improve photon efficiency in mpSTED to shorten dwell times via optimized photon detection, and (4) expand the phasor model into higher-dimensional domains—such as lifetime or ToF-based phasor analysis—to separate more than four fluorophores simultaneously. Moreover, experimental verification of the ToF-based resolution model in three dimensions could establish a lens-independent paradigm of optical resolution. In conclusion, this dissertation establishes two methodologies that address distinct limitations of STED nanoscopy. diffSTED provides a solution for suppressing STED-specific background noise through differential acquisition and linear signal recombination, without requiring any modification to the optical hardware. mpSTED introduces a spectral-phasor–based framework for spectral multiplexing, enabling multicolor imaging within a single excitation-depletion combination. Although developed separately, both methods share a common philosophy—leveraging optical simplicity and computational precision to enhance the effective performance of STED nanoscopy. Together, they demonstrate that background suppression and spectral multiplexing can each be realized through algorithmic innovation rather than additional optical complexity, paving the way for a new generation of flexible and software-enhanced super-resolution microscopy systems. Keywords: STED nanoscopy, diffSTED, mpSTED, super-resolution microscopy, background noise suppression, spectral phasor analysis, hyperspectral imaging, multiplexing, photon efficiency, time-of-flight, resolution limit|본 논문은 STED(Stimulated Emission Depletion) 나노현미경의 한계인 배경 노이즈와 멀티컬러 이미징 제약을 극복하기 위한 새로운 광학 기법의 개발과 검증에 초점을 두었다. STED 현미경은 회절 한계를 초월하는 초고해상도 이미징을 가능하게 하지만, 실험적으로는 STED 특유의 배경 신호(STED-specific background noise) 와 복잡한 멀티컬러 구현 과정으로 인해 그 성능이 제한되어 왔다. 이에 본 연구는 두 가지 축을 중심으로 진행되었다.

첫 번째 축은 배경 노이즈 억제를 위한 diffSTED(differential STED) 기법의 개발이다. STED 이미징에서는 STED 레이저의 도넛 강도가 너무 높거나 낮을 때 각각 직접 여기 노이즈(DEN) 와 불완전 소멸 노이즈(IDN) 가 발생하며, 이 두 노이즈는 서로 상충 관계에 있기 때문에 단순한 파워 조절로는 해결이 어렵다. 본 연구에서는 서로 다른 STED 파워 조건에서 획득한 두 이미지를 선형 결합하여 노이즈 성분을 상쇄하는 diffSTED 방식을 제안하였다. 이를 통해 별도의 하드웨어 수정 없이 소프트웨어 제어만으로 DEN과 IDN을 동시에 억제할 수 있음을 보였다. 수치 시뮬레이션과 형광 비드, 세포 샘플을 이용한 실험을 통해 diffSTED가 기존 STED 대비 배경 잡음을 감소시키고, 해상도 및 대비를 모두 향상시킴을 확인하였다.

두 번째 축은 단일 여기·단일 고갈 레이저를 이용한 멀티컬러 STED 이미징 기법, 즉 mpSTED(multiplexed STED)의 제안이다. 본 연구에서는 기존의 다중 레이저 기반 멀티컬러 STED의 복잡성을 제거하고, 대신 스펙트럴 페이저(phasor) 분석을 이용한 계산 기반 분광 다중화 (hyperspectral multiplexing) 를 도입하였다. 시뮬레이션을 통해 640 nm 여기, 775 nm 고갈 조건에서 650–750 nm 대역의 형광 방출을 스펙트럼 페이저(phasor)로 변환하여 각 염료의 스펙트럼 중심과 폭을 2차원 평면상의 좌표로 변환하였다. 서로 다른 염료의 페이저 좌표가 선형적으로 결합됨을 이용하여, 단 한 번의 측정으로 세 가지 염료(예: STAR635P, AF647, Atto647N)를 안정적으로 분리할 수 있었다. 실제 시뮬레이션 기반 형광 비드 데이터에 대해 구조적 유사도(SSIM) 지수가 0.998 이상으로 나타나, mpSTED가 높은 정밀도와 해상도를 동시에 유지함을 입증하였다.

이 두 접근법은 모두 기존 STED 시스템에 간단히 통합될 수 있는 장점이 있다. diffSTED는 단지 STED 파워의 소프트웨어 제어만으로 배경 억제를 구현할 수 있고, mpSTED는 하나의 광학 경로로 수집한 데이터를 계산적으로 분해함으로써 정렬 오차나 색수차 문제를 원천적으로 제거한다.

마지막으로, 본 연구는 부록에서 광학 해상도의 새로운 정의로서 시간 비행(Time-of-Flight, ToF) 기반 해상도 한계 모델을 제안하였다. 이는 렌즈의 개구수(NA)가 아닌 광자의 도착 시간 정밀도에 의해 위치를 특정하는 새로운 해상도 개념으로, 이론적으로는 1차원 산란 입자 위치를 나노미터 단위로 국소화할 수 있음을 수식적으로 도출하였다. 이 개념은 향후 3차원 위치 추적 및 시간 기반 초해상도 이미징으로 확장될 수 있는 가능성을 제시한다.

향후 연구에서는 (1) diffSTED의 네 번 스캔 과정을 줄여 시간 분해능을 높이는 빠른 스캔 기법, (2) 여러 스캔으로 인한 형광 블리칭을 최소화하는 보정 알고리즘, (3) mpSTED의 포톤 효율을 개선하여 dwell time을 단축하는 광 검출 최적화, (4) 4개 이상의 염료를 분리하기 위한 고차원 페이저(예: lifetime 또는 ToF 기반)의 확장이 필요하다. 더불어, ToF 기반 해상도 모델을 실제 3차원 실험으로 검증함으로써 렌즈에 의존하지 않는 새로운 광학 해상도의 패러다임을 정립하는 것이 궁극적 목표이다.

결론적으로, 본 논문은 STED 나노현미경의 상이한 한계를 해결하기 위해 각각 독립적으로 개발된 두 가지 상호보완적인 방법론을 제시한다. 첫 번째 방법인 diffSTED는 광학적 하드웨어의 변경 없이, 서로 다른 소멸 세기 조건에서 획득된 두 STED 이미지를 선형적으로 결합함으로써 STED 특유의 배경 노이즈를 억제하는 완전한 계산 기반 접근법이다. 두 번째 방법인 mpSTED는 단일 여기–소멸 조건에서의 멀티컬러 이미징을 가능하게 하는 스펙트럴 페이저(spectral phasor) 기반의 계산형 멀티플렉싱 프레임워크를 제안한다.이 두 방법은 서로 다른 문제를 해결하기 위해 독립적으로 개발되었지만, 공통적으로 광학적 단순성과 계산적 정밀성의 결합을 통해 STED 나노현미경의 성능을 향상시킨다는 철학을 공유한다. 따라서 본 연구는 배경 억제와 스펙트럴 멀티플렉싱이 복잡한 광학적 구성의 추가 없이, 알고리즘적 혁신만으로도 각각 실현될 수 있음을 보여주며, 향후 유연하고 소프트웨어 기반으로 정의되는 차세대 초해상도 현미경 시스템의 방향을 제시한다.