Neural Mechanisms of Sequence Generalization in Underspecified Environments

Abstract

The ability to generalize abstract rules is fundamental to adaptive behavior in novel environments. Although previous studies have implicated frontoparietal regions in generalization, most have focused on perceptually similar stimuli or fully specified task structures, leaving unresolved how humans generalize latent sequential rules in environments supporting multiple plausible strategies. Here, we investigated the neural mechanisms underlying sequential rule generalization in unspecified environments. Participants performed a cue-based sequence learning task in which rules learned for a subset of cues could be generalized to novel cues through multiple possible cue–rule factorizations. This design created an unspecified environment in which successful performance should require the generation, evaluation, and selection of competing candidate rule structures. Behaviorally, participants with prior rule knowledge discovered the novel rules more successfully than controls. FMRI analyses revealed increased frontoparietal engagement during generalization, consistent with elevated cognitive control demands during rule inference. Outcome-dependent learning signals during feedback processing were associated with activity in the lateral orbitofrontal cortex (lOFC). In addition, representational similarity analysis demonstrated that medial orbitofrontal cortex (mOFC) representations reflected the latent structure of sequential rules over learning, selectively in participants who successfully generalized. Moreover, increases in mOFC representations of latent rule structure were associated with learning-related signals, suggesting that outcome-dependent learning contributes to the emergence of structured rule representations. Together, these findings indicate that sequential rule generalization in unspecified environments depends on coordinated interactions among cognitive control systems, outcome-dependent learning mechanisms, and representations of abstract task structure.|인간은 새로운 환경에서도 기존 지식을 활용하여 빠르게 적응할 수 있으며, 이러한 능력은 일반화의 핵심적인 특징으로 간주된다. 기존 연구들은 주로 지각적 유사성이나 명시적으로 주어진 관계 구조에 기반한 일반화에 초점을 맞추어 왔으나, 실제 환경에서는 동일한 정보로부터 여러 가능한 전략이 도출될 수 있는 불확정한 상황이 빈번하게 발생한다. 본 연구는 이러한 환경에서 인간이 어떻게 추상적 배열 규칙을 일반화하는지, 그리고 이를 뒷받침하는 신경 및 계산 메커니즘이 무엇인지를 규명하고자 하였다. 이를 위해 단서에 기반한 배열 학습 과제를 설계하였으며, 참가자들은 일부 단서에 대해서만 사전 학습된 규칙을 바탕으로 새로운 단서의 규칙을 추론해야 했다. 과제는 여러 가능한 단서-규칙 요인화를 허용하도록 구성되어 구조적으로 불확정한 환경을 형성하였다. 행동 자료는 강화학습(reinforcement learning) 및 mixture-of-experts(MoE) 모델을 통해 분석하였고, 기능적 자기공명영상(fMRI)을 이용하여 일반화 과정의 신경 활동을 측정하였다. 행동 결과, 사전 지식을 가진 참가자들은 새로운 규칙을 더 빠르게 일반화하였다. 계산 모델 분석에서는 참가자들이 피드백에 기반하여 여러 후보 전략의 가치를 평가·갱신하며 최적 전략으로 수렴하는 양상이 관찰되었다. fMRI 분석에서는 일반화 과정 동안 전두엽과 두정엽 영역의 활성 증가가 나타났으며, 이는 새로운 규칙 추론 과정에서 인지적 통제 요구가 증가함을 시사한다. 또한 선조체(putamen)와 외측 안와전두피질(lateral orbitofrontal cortex, lOFC)은 가치 및 비부호화 보상예측오차와 관련된 학습 신호를 반영하였다. 심리생리적 상호작용(PPI) 분석에서는 putamen과 복내측 전전두피질(vmPFC) 간 기능적 연결성이 일반화 과정에서 증가하였다. 표상유사도분석(RSA) 결과, 내측 안와전두피질(mOFC)은 학습이 진행됨에 따라 올바른 전략의 잠재적 구조를 점진적으로 표상하였으며, 이러한 구조화된 표상은 일반화에 성공한 참가자들에게서 선택적으로 나타났다. 또한 mOFC 표상의 증가는 비부호화 보상예측오차의 감소와 음의 상관관계를 보여, 결과 기반 학습 신호가 구조화된 인지 지도 형성에 기여함을 시사하였다. 종합하면, 본 연구는 추상적 배열 규칙 일반화가 인지적 통제, 가치 기반 학습, 그리고 안와전두피질 기반의 구조화된 과제 표상의 상호작용을 통해 이루어짐을 제안한다. 이러한 결과는 인간이 불확정 환경에서 사전 지식을 재구성하여 새로운 내부 과제 모델을 형성하고 유연하게 일반화할 수 있음을 보여주며, 일반화의 신경계산적 메커니즘에 대한 새로운 이해를 제공한다.