인간의 뇌는 왜 작아졌을까?

네안데르탈인의 평균 두개내 용적은 최근 현생인류 표본보다 대체로 크게 추정됩니다. 다만 체격과 시각계 등 신체적 차이를 고려하지 않은 단순한 용적 비교만으로 인지능력을 판단할 수는 없습니다. 현생인류의 뇌가 홀로세에 실제로 얼마나, 언제 작아졌는지를 두고도 연구자들 사이에 논쟁이 이어지고 있습니다.

이 사실은 지능을 단순히 뇌의 크기로 설명할 수 없다는 점을 보여줍니다. 고래나 코끼리의 뇌는 인간보다 훨씬 큽니다. 중요한 것은 크기 자체가 아니라 구조와 기능입니다. 그렇다면 더 날카로운 질문이 남습니다. 인간의 뇌는 왜 작아졌고, 그 대신 무엇을 얻었을까요?

이 질문을 이해하려면 먼저 가축화의 법칙을 보아야 합니다. 가축화된 동물들은 대체로 야생 조상보다 뇌가 작아집니다. 개는 늑대보다 뇌가 작고, 양과 소 역시 야생 조상보다 뇌가 작습니다. 포식자를 감지하는 능력, 독립적으로 먹이를 찾는 능력, 높은 경계심 같은 기능들이 줄어드는 것입니다.

하지만 가축화는 단순한 퇴화가 아닙니다. 개와 늑대를 비교해 보면 그 이유가 명확해집니다. 늑대는 자기 영역으로 들어온 다른 늑대 무리를 강하게 밀어내며 공격적인 사회를 유지합니다. 같은 수컷끼리의 경쟁, 같은 암컷끼리의 경쟁도 매우 날카롭게 작동합니다. 반면 개는 서로 다른 개들과도 비교적 쉽게 어울리고 공존합니다.

이 차이는 단순히 인간에게 훈련받았기 때문에 생긴 것이 아닙니다. 가축화라는 진화 과정 속에서 종 내 공격성과 라이벌리(rivalry)를 유발하는 감정 시스템 자체가 약해진 것입니다. 제임스 서펠(James A. Serpell) 같은 동물행동 연구자들이 개의 가축화와 인간-동물 관계를 다룰 때 주목한 것도 바로 이 지점입니다. 가축화는 야생의 경계심을 줄이는 동시에, 동종 안에서의 공격성과 질투를 다루는 방식을 바꿉니다.

인간 역시 자기 가축화(self-domestication)라고 부르는 진화 가설로 설명되곤 합니다. 이 가설은 반응적 공격성이 낮은 개체가 선택되면서 협력의 범위가 넓어졌다고 봅니다. 그러나 뇌 크기의 변화가 자기 가축화 때문에 일어났고, 그 대가로 사회성이 증가했다는 인과관계까지 확립된 것은 아닙니다.

인간 진화의 핵심은 더 큰 뇌를 만드는 것이 아니라, 감정과 충동을 다루는 방식을 바꾸는 것이었습니다. 복잡한 사회에서 살아가기 위해서는 높은 지능만으로는 부족합니다. 순간적인 분노를 억제해야 하고, 공동체의 규칙을 따라야 하며, 낯선 사람과 협력해야 합니다. 당장의 보상보다 장기적인 이익을 선택해야 합니다.

다시 말해 문명은 지능만이 아니라 자기조절(self-regulation)을 요구합니다. 수백 명 규모의 부족 사회에서는 개인적인 분노가 큰 문제가 아닐 수 있습니다. 하지만 수백만 명이 밀집해 사는 도시와 국가에서는 동물적 라이벌리가 그대로 발동하는 순간 공동체가 유지될 수 없습니다. 인간은 이웃을 배척하고 경쟁하던 야생의 본능을 다듬어야 했습니다.

가축화된 동물과 인간의 차이를 극명하게 보여주는 비유가 있습니다. 사슴은 작은 소리에도 민감하게 반응하지만, 하루 종일 공포 속에 살아가지 않습니다. 위험을 감지하고 도망친 뒤 다시 평상시 행동으로 돌아갑니다. 반면 토끼는 한 번 크게 놀라면 심장마비로 죽을 수 있습니다.

생존에 유리한 것은 위험을 무시하는 능력이 아닙니다. 위험을 감지하고도 무너지지 않는 능력입니다. 인간의 진화 역시 뇌의 용량을 줄이는 대신, 사슴처럼 위험을 감지하고도 무너지지 않는 뇌를 선택했을 수 있습니다.

이 지점에서 정치심리학 연구가 흥미로운 단서를 줍니다. 서울대학교병원 권준수 교수 연구팀은 정치적 성향에 따라 뇌의 기능적 연결성에 차이가 나타날 수 있다고 보고했습니다. 연구팀은 특히 보수 성향 참가자들에게서 자기조절능력과 회복탄력성과 관련된 연결성이 더 높게 나타났다고 해석했습니다.

이 결과를 “보수주의자가 더 우수하다”는 식으로 읽어서는 안 됩니다. 정치 성향이 뇌 구조를 결정한다는 뜻도 아니며, 뇌의 특성이 정치 성향을 일방적으로 만든다는 뜻도 아닙니다. 중요한 것은 다른 데 있습니다. 인간의 차이는 감정의 양이 아니라 감정을 다루는 방식의 차이일 수 있다는 점입니다.

정치심리학에서는 보수 성향의 사람들이 위험에 더 민감하다는 연구들이 자주 소개됩니다. 그러나 위험 민감성과 자기조절 능력이 함께 나타난다면 그림은 달라집니다. 핵심은 위험을 느끼지 않는 것이 아니라, 위험을 느낀 뒤에도 일상을 유지할 수 있는 능력입니다.

이 관점에서 보면 보수주의는 단순히 낡은 것을 좋아하는 취향이 아닙니다. 보수주의는 인류가 수만 년에 걸쳐 터득한 자기조절의 진화적 본능을 사회와 제도 안에 남겨두려는 태도입니다. 모든 분노를 즉시 정치화하지 않고, 모든 불안을 혁명으로 번역하지 않으며, 모든 갈등을 해체와 재조립의 대상으로 보지 않는 태도입니다.

따라서 인간이 뇌가 작아진 대신 자기조절 능력을 얻었다고 단정할 수는 없습니다. 더 신중한 표현은 뇌 크기, 공격성 통제, 협력의 확대를 연결하는 자기 가축화 가설이 존재하며, 그 세부 인과와 시기는 아직 검증 중이라는 것입니다.

그런데 오늘날 기계정치와 소셜 미디어는 바로 이 자기조절 장치를 마비시킵니다. 알고리즘은 인간의 분노를 증폭시키고, 정치 조직은 라이벌리를 자극하며, 사회공학자는 인간의 감정과 사회 구조를 마음대로 해체하고 재조립하려 합니다. 인간이 수만 년에 걸쳐 이룬 자기조절의 진화를, 현대의 정보 환경은 매일 다시 흔들고 있습니다.

미래의 진화는 단순한 지능의 확장이 아닐 것입니다. 더 복잡해지는 감정, 더 거칠어지는 정보 폭력, 더 정교해지는 선동 속에서 자아를 지키는 능력이야말로 다음 문명의 핵심 조건이 될 것입니다.

참고문헌

• Eiluned Pearce, Chris Stringer, and R. I. M. Dunbar, New insights into differences in brain organization between Neanderthals and anatomically modern humans, Proceedings of the Royal Society B, 280, 2013.
• Jeremy DeSilva et al., When and Why Did Human Brains Decrease in Size? A New Change-Point Analysis and Insights From Brain Evolution in Ants, Frontiers in Ecology and Evolution, 9, 2021.
• Brian Villmoare and Mark Grabowski, Did the transition to complex societies in the Holocene drive a reduction in brain size? A reassessment of the DeSilva et al. (2021) hypothesis, Frontiers in Ecology and Evolution, 10, 2022.
• Brian Hare, Survival of the Friendliest: Homo sapiens Evolved via Selection for Prosociality, Annual Review of Psychology, 68, 2017.
• Richard Wrangham, The Goodness Paradox: The Strange Relationship Between Virtue and Violence in Human Evolution, Pantheon, 2019.
• Taekwan Kim et al., Intrinsic functional connectivity of blue and red brains: neurobiological evidence of different stress resilience between political attitudes, Scientific Reports, 10, 2020.