AI-Enhanced Holographic Cell Imaging and Virtual Fluorescence Reconstruction for Cancer Cell Analysis

Abstract

This work addresses continuous-intensity virtual fluorescence reconstruction of cancer cells from digital holographic microscopy (DHM) phase images. The task is formulated as multi-channel regression that recovers nuclear, mitochondrial, and membrane signals, and evaluation is aligned with continuous and perceptual criteria (SSIM, PSNR, LPIPS) rather than binary-mask overlap. A teacher–student framework with knowledge distillation is adopted to balance fidelity and efficiency; boundary-aware objectives and registration-conscious preprocessing are used to preserve edges and mitigate phase–fluorescence misalignment. Experiments across multiple channels, cell lines, and drug conditions show that the distilled student maintains competitive image quality while substantially reducing computational and memory demands, with notable benefits on boundary- rich targets. The results indicate that knowledge distillation is a practical route to deployable, label-free live-cell imaging pipelines, and motivate extensions to diverse backbones, additional organelles, and broader pharmacological regimes.|본 연구는 디지털 홀로그래피 현미경 (DHM) 위상 영상으로부터 암세포의 연속 강도 가상 형광을 복원하는 문제를 다룬다. 기존의 이진 마스크 출력에서 다채널 연속 강도로 전환함에 따라, 평가는 이진 중첩 지표 (DSC, AJI) 대신 연속·지각 품질 지표 (SSIM, PSNR, LPIPS)에 정렬되도록 문제를 재정의하였다. 높은 품질을 유지하면서 계산 비용을 절감하기 위해 지식 증류 기반 교사–학생 프레임을 채택하고, 경계 보전을 위한 손실 설계와 정합(Registration) 민감도를 고려한 전처리를 결합하였다. 학습 대상은 핵·미토콘드리아·세포막 등 형광 채널뿐 아니라 복수의 세포주와 약물 조건으로 확장되어, 데이터 구성의 다양성과 실제 운용 시나리오에 대한 일반화 가능성을 강화하였다. 실험 결과, 경량 학생 모델은 경계·질감 성분이 풍부한 표적에서 특히 안정적인 복원 경향을 보였으며, 계산·지연·메모리 요구를 크게 낮추면서도 구조 보존과 시각적 일관성을 유지하였다. 또한 증류의 효과는 채널 특성에 따라 차등적으로 나타나, 경계가 두드러지는 채널에서 이득이 두드러졌고 핵과 같이 대비가 높은 채널에서는 채널/영역 인지형 정렬의 필요성이 확인되었다. 이러한 관찰은 가상 형광 복원이 라벨링 과정 없이 장시간 라이브 관찰에 통합될 수 있음을 시사하며, 실시간 모니터링과 고처리량 분석과 같은 응용에서 배치 친화성을 제공한다. 아울러 본 접근은 ResNet 등 다양한 백본 구조로의 확장, 추가 소기관 (소포체, 골지체, 리소좀 등) 및 더 넓은 약물 스펙트럼에 대한 검증, 다른 경량화 기법과의 결합을 통해 적용 범위와 신뢰성을 더욱 높일 수 있는 잠재력을 갖는다.