뇌는 어떻게 새 자극을 감지할까?

2025년 2월 현재, 뇌 과학 분야에서는 “새로운 자극”에 대한 뇌의 반응 메커니즘이 중요한 연구 과제로 떠오르고 있습니다. 최근 국제학술지 ‘뉴런(Neuron)’에 게재된 논문에 따르면, 포유류의 대뇌 피질은 새로운 감각 정보를 인지할 때 단순히 개별 뉴런만이 아니라 신경망 시스템 전체가 유기적으로 작용한다는 사실이 밝혀졌습니다. 뇌가 기존 자극과 새로운 자극을 구분할 때 ‘메아리(echo)’라 불리는 신경활동의 흔적이 남아, 단기 기억으로 작용한다는 것이 핵심입니다. 이 메아리는 이전에 입력된 자극을 기억하는 역할을 하고, 새로운 자극이 들어올 경우 반응을 더욱 강화하여 ‘참신성(novelty)’을 감지할 수 있게 만듭니다.

이 연구에서는 특별히 청각 피질을 중심으로 실험이 진행되었으며, 다양한 음높이의 소리를 쥐에게 들려주고 그 반응을 관찰한 결과, 뇌가 자극을 단순히 수용하는 것에서 그치지 않고 이를 비교·분석한다는 사실이 드러났습니다. 즉, 뇌는 이전에 들었던 소리를 기억해 두고, 새로운 음이나 패턴이 등장하면 그 차이를 빠르게 파악하는 데 도움을 주는 신경 신호를 발생시킵니다. 이는 인공신경망을 적용한 시뮬레이션 실험에서도 동일하게 확인되었으며, 결국 개별 뉴런 수준이 아닌 전체 신경망에서 ‘새 자극’을 효율적으로 구분할 수 있다는 점이 입증되었습니다.

이처럼 뇌가 감각 정보를 처리하는 과정에서 중요한 점은, 새로운 정보를 기존의 ‘예상(expectation)’과 비교한다는 것입니다. 대뇌 피질은 외부 세계에 관한 예측 모델을 지속적으로 업데이트하며, 이 모델과 실제 입력 간의 오차를 통해 학습을 진행합니다. 따라서 우리가 일상생활에서 예측하지 못한 새로운 소리나 시각적 변화가 생기면, 뇌가 이를 즉각적으로 포착하여 반응하고, 그 자극의 특성을 기록해 두었다가 다시 활용합니다. 이는 기억 형성뿐 아니라 미래 예측 능력을 발달시키는 핵심적인 기제로, 다양한 정신 활동의 기반이 됩니다.

무엇보다 이 과정은 정신 건강 분야에서도 매우 중요한 의미를 가집니다. 뇌가 일상적인 자극과 전혀 새로운 자극을 원활히 구분해내지 못하면, 혼란이나 불안은 물론이고 심각한 정신 질환으로 이어질 가능성이 있습니다. 최근 집중 조명을 받고 있는 조현병 역시 ‘새로운 자극과 기존 자극을 구별하기 어려움’이라는 대표적 증상이 존재합니다. 이번 연구결과가 이를 해소하는 실마리를 제공할 것으로 기대되는 이유가 바로 여기에 있습니다.

연구 결과: 신경망 vs 개별 뉴런

기존의 뇌 연구에서는 특정 기능이 주로 개별 뉴런의 특성에 의해 결정된다고 보는 시각이 많았습니다. 하지만 최근 들어 뇌는 수많은 뉴런이 연결된 네트워크 전체가 ‘시너지 효과’를 발휘하는 시스템이라는 주장이 힘을 얻고 있습니다. 이번에 발표된 연구 역시 이 같은 신경망 중심의 접근법을 뒷받침합니다.

논문에 따르면, 대뇌 피질 내 개별 뉴런만을 관찰했을 때는 새로운 자극이 어떤 방식으로 구분되는지 분명히 설명하기 어려웠습니다. 그러나 신경세포들이 서로 어떻게 연결되고, 동일한 자극에 대해 동시에 어떤 패턴을 보이는지, 그리고 이 패턴이 시간축에서 어떻게 변하는지를 종합적으로 살펴보면 ‘메아리(echo)’ 현상이 뚜렷하게 확인됐습니다. 이 메아리는 최근에 입력된 자극에 대한 흔적을 일시적으로 유지하는 역할을 합니다. 이를 통해 뇌는 새로운 정보를 만났을 때 해당 흔적과의 차이를 민감하게 포착하여 반응 강도를 높입니다.

연구팀은 청각 피질을 모사한 인공신경망 모델을 구축하여, ‘새로운 소리’를 학습시키고 그 반응 과정을 면밀히 추적했습니다. 그 결과, 인공신경망 역시 메아리와 유사한 신호 패턴을 확인할 수 있었고, 이를 통해 모델이 새로운 자극을 더 빠르고 강하게 인지한다는 점이 입증되었습니다. 이는 곧 인간의 뇌가 ‘새로운 경험’을 학습할 때 개별 뉴런들이 독립적으로 움직이는 것이 아니라, 유기적으로 맞물려 동작함을 암시합니다.

이러한 발견은 조현병과 같은 정신질환을 이해하는 데에도 중요한 시사점을 제공합니다. 기존 정보와는 전혀 다른 자극을 제대로 식별하기 위해서는 여러 뇌 영역이 순차적 혹은 병렬적으로 협업해야 하는데, 특정 뉴런의 기능만을 해석해서는 완전한 답변을 찾기 어려웠습니다. 이번 연구결과는 ‘신경망 시스템’ 자체에 오류가 생길 경우, 새로운 자극 인지 과정이 왜곡되어 비정상적인 인지나 반응을 일으킬 수 있음을 보여줍니다. 이처럼 ‘거시적 관점’에서 뇌 기능을 이해하려는 시도가 앞으로의 치료법 개발과 임상적 접근에 한층 더 큰 변화를 가져올 가능성이 높습니다.

실험과 인공신경망의 연관성

연구팀이 수행한 대표적인 실험은 다음과 같습니다. 먼저 쥐에게 여러 단계의 음높이를 가진 소리를 들려주면서, 새롭게 등장하는 소리에 뇌가 어떻게 반응하는지 실시간으로 영상을 통해 관찰했습니다. 보통은 자극이 반복될수록 반응이 약해지는 ‘순응’ 현상이 나타나기 마련인데, 이때 전혀 다른 음높이의 소리가 나오면 반응 강도가 다시 높아지는 것을 확인했습니다. 이 과정을 수학적으로 모델링하여 인공신경망에 동일한 조건을 부여했을 때, 인공지능 시스템 역시 최근 자극의 흔적을 메아리 형태로 남기고 새로운 자극이 등장하자 반응을 크게 증폭시키는 패턴이 포착되었습니다.

이러한 결과는 연구자들에게 두 가지 중요한 통찰을 제공합니다. 첫째, 생물학적 뇌와 인공신경망 사이에 존재하는 흥미로운 공통점입니다. AI 연구가 활발해지면서 인공신경망은 생물학적 신경세포의 작동 원리를 빌려와 학습·추론 능력을 개선해 왔는데, 이번 연구는 감각 정보의 ‘새로움’을 인지하는 방식에도 그 기전이 상당 부분 유사함을 시사합니다. 둘째, 실제 임상에서 확인되는 정신질환 사례를 실험실 환경에서 재현할 수 있는 가능성입니다. 예를 들어, 인공신경망의 특정 파라미터(매개변수)를 조정해 ‘새로운 자극’을 충분히 구별하지 못하도록 설정한다면, 조현병 환자들이 겪는 감각 이상이나 인지 장애를 모사할 수 있을 것으로 보입니다.

이를 통해 얻을 수 있는 최대 이점은, 정신질환의 원인을 좀 더 정밀하게 파악하고, 데이터 기반 치료 전략을 수립할 수 있는 길이 열렸다는 점입니다. 과거에는 환자의 개별 뉴런이나 특정 뇌 영역만 집중해서 연구했지만, 이제는 ‘네트워크 장애’ 관점에서 살펴봄으로써, 보다 종합적이고 체계적인 치료법이 제시될 수 있게 된 것입니다. 예컨대, 조현병 환자 중에는 새로운 환경 변화에 지나치게 민감하게 반응하는 경우도 있고, 반대로 둔감하게 반응하는 경우도 보고되고 있는데, 이는 단순히 뉴런 한두 개의 이상보다는 전체 신경망의 연결 상태나 상호작용에서 비롯될 가능성이 높습니다. 앞으로 더 많은 연구가 진행되어 이와 같은 병리학적 메커니즘이 구체적으로 규명된다면, 뇌자극 치료, 약물치료, 행동치료 등 다양한 접근 방법을 개인별 맞춤형으로 제시할 수 있을 것입니다.

정신질환 치료와 미래 전망

이번 연구가 제시하는 가장 중요한 결론은 ‘참신성(novelty)’을 인지하는 뇌의 핵심 작동 원리가 개인 뉴런이 아닌 대규모 신경망에 의해 좌우된다는 점입니다. 특히 조현병과 같은 질환에서는 ‘새로운 자극’과 ‘익숙한 자극’을 효율적으로 구분하지 못하는 증상이 자주 관찰됩니다. 예컨대, 일반인은 흔한 소음이나 일상적 변화에는 무덤덤할 수 있지만, 조현병 환자는 예상치 못한 작은 변화에도 크게 동요하거나 때로는 아무런 변화가 없는 상황에서도 ‘새로운 자극이 존재한다’고 인식하는 왜곡이 일어납니다.

이러한 장애가 발생하는 이유를 이해하기 위해서는, 기존 자극에 대한 메아리가 제대로 형성되지 않거나, 형성된 메아리가 비정상적으로 강해(혹은 약해)져서 참신성을 정확히 판단하지 못하는 경우를 상정해볼 수 있습니다. 연구진이 제안한 ‘메아리 기반’ 신경망 이론은, 환자의 신경망에서 어떤 부분이 잘못 동작하는지 파악하기 위해 더 정밀한 뇌 영상 장치나 인공신경망 모델을 활용해야 함을 시사합니다.

앞으로 뇌 과학 및 AI 연구가 더욱 융합되어 진행된다면, 조현병을 포함한 다양한 정신질환의 조기 진단이나 예후 예측이 한층 정교해질 것으로 예상됩니다. 예컨대, 환자가 경험하는 외부 자극을 실시간으로 스캔하면서, 뇌 신경망이 어떻게 메아리를 형성하고 반응 강도를 조절하는지를 수치화·시각화할 수 있다면, 신약 개발 또는 개인 맞춤형 치료 계획 수립에 결정적인 단서를 제공할 수 있을 것입니다. 또한 AI 기반 분석 툴을 활용하면, 방대한 양의 뇌 스캔 데이터와 임상 정보를 교차 검증함으로써, 현재까지 밝혀지지 않은 새로운 신경 경로나 뇌 영역 간의 상호작용을 발굴할 가능성도 큽니다.

정신과적 병인의 상당 부분은 아직도 완전히 풀리지 않은 미지의 영역으로 남아 있습니다. 그러나 뇌가 외부 정보를 처리하는 방식에 관한 이론적·실험적 증거가 축적됨에 따라, 조현병뿐 아니라 우울증, 불안장애, 자폐 스펙트럼 등 다양한 분야에 걸쳐 새로운 치료 기법이 등장할 수 있을 것입니다. 나아가 단순히 질환 치료를 넘어, 인간의 학습 및 창의성 향상을 위한 브레인 트레이닝 기법 역시 한 차원 발전할 것으로 기대됩니다. 앞으로의 후속 연구가 더욱 활발하게 진행되어, 정신질환 극복과 뇌 기능 극대화에 큰 기여를 하길 희망합니다.

새로운 자극 인지 메커니즘과 응용 분야

구분	내용	주요 활용 분야
메아리(echo) 현상	최근 자극에 대한 단기 기억 형태로 남는 흔적	새로운 자극 인지 향상, 예측 모델 개선
신경망 vs 뉴런	개별 뉴런보다는 전반적 신경망 작용이 중요	조현병 등 정신질환 이해, 인공신경망 연구
인공신경망 시뮬레이션	청각 피질을 모사해 참신성 판단 메커니즘 확인	AI 기반 진단·치료, 뇌 모방 학습
임상 적용 전망	신경망 장애 파악 및 예측 정밀화	조현병·자폐증·우울증 등 맞춤형 치료

이 표는 해당 연구가 실제 임상이나 AI 분야에서 어떤 방식으로 활용될 수 있는지를 간략히 요약한 것입니다. 메아리 현상의 원리를 제대로 이해하고 신경망 단위에서의 작동 방식을 데이터 기반으로 해석함으로써, 우리는 정신질환을 더욱 정교하고 근본적으로 치료할 길을 열 수 있습니다.

마무리 및 전망

지금까지 살펴본 바와 같이, 뇌는 단순히 자극을 받아들이는 기계적 장치가 아니라, 자극 간의 차이를 비교·학습하며 끊임없이 미래를 예측하는 정교한 시스템입니다. 그중에서도 ‘참신성(novelty)’을 감지하는 기능은 우리의 생존과 직결되며, 새로운 환경에 대한 적응력과 학습 효율을 결정짓는 핵심 요소가 됩니다. 이번 연구가 대뇌 피질의 네트워크 작동 원리를 밝혀냄으로써, 앞으로 조현병을 비롯한 다양한 기억·인지 장애 치료에 실마리를 줄 것으로 기대됩니다. 또한 인공신경망 분야에서도 이를 접목하여 더욱 인간 뇌와 유사한 학습 메커니즘을 구현함으로써, AI의 성능과 이해도를 모두 높일 수 있는 가능성을 열어주었습니다.

여전히 많은 부분이 미지의 영역으로 남아 있지만, 정신건강 영역에서 ‘데이터 기반의 과학적 접근’이 활발해지고 있다는 점은 고무적입니다. 뉴런과 뉴런 사이의 연결만을 보는 것이 아니라, 전체 뇌 네트워크가 어떻게 동작하고 균형을 유지하는지를 정량적으로 측정·분석하는 작업이 더 많이 이루어질수록, 우리가 얻을 수 있는 임상적·과학적 혜택은 기하급수적으로 늘어날 것입니다. 앞으로도 최신 연구 동향을 주기적으로 확인하고, 이를 정신건강 분야에 어떻게 적용할 수 있을지 심도 있는 고민과 논의가 계속 이어지길 바랍니다.