본 발명은 비선형 광학 및 공초점 기술을 이용하여 z-축방향의 분해능을 향상시킬 수 있는 광학 시스템에 관한 것으로, 복수의 서로 다른 파장을 갖는 빔을 발생시키는 광원; 상기 복수의 빔 중 적어도 어느 하나의 빔의 경로 상에 놓인 공간 광 변조부; 상기 복수의 빔을 중첩시켜 중첩빔을 생성하는 제1 이색거울; 상기 중첩빔을 집속시켜 시료에 입사시키는 대물렌즈; 및 상기 시료로부터 발생된 비선형 산란 신호를 통과시키는 공초점 핀홀;을 포함하고, 상기 비선형 산린 신호로부터 획득된 이미지의 z-축방향의 분해능이 증가되도록 상기 공간 광 변조기의 위상 마스크 또는 핀홀의 크기가 가변될 수 있는 것을 특징으로 한다.