헵의 법칙의 모순, 어떻게 해결되었는가?
신경 회로는 감각 자극을 빠르고 정확하게 증폭시키기 위해 특정한 방법으로 연결되어야 한다. 약 70년 전에, "뉴런은 함께 발화될 때 함께 연결된다"는 흥미로운 아이디어가 나타났다. 그러나 컴퓨터 시뮬레이션에서는 신경생물학의 관찰과는 다르게, 같은 방법으로 연합된 뉴런은 과도하게 흥분하거나 불안정했다. 프리드만 젠케의 연구소에서 이러한 문제를 해결할 수 있는 단순하지만 설득력 있는 메커니즘을 발견해냈다. 지각은 굉장히 빠르게 처리된다. 예컨데, 당신이 소의 사진을 보고 소의 울음소리와 짚더미의 냄새가 자연스레 떠올랐다고 해보자. 당신의 뇌가 그 소의 사진으로부터 소를 인식해 내고 그 정보를 처리해 울음소리와 냄새 등의 연관된 기억을 떠올리는 전체 과정은 반 초의 시간도 채 걸리지 않는다. 이런 신속한 정보처리가 가능하기 위해서는 뇌는 중요한 신호가(위의 예에서는 사진으로부터 소를 인식해내는 것) 지각과 관련이 없는 다른 영역으로 전달되기 전에 더 빠르게 해당 신호들을 빠르게 증폭시키거나 억제할 수 있어야 한다. 1949년, 심리학자인 도널드 헵은 뇌가 어떻게 이런 신속한 처리를 가능하게 하는지에 대한 이론을 만들어냈다. 이 이론은 지금은 헵의 법칙Hebb's Law으로 불리고 있으며, "함께 발화되는 뉴런은 결합된다" 로 자주 짧고 간결하게 요약된다. 특정한 같은 자극에 반응하는 뉴런들은 서로 반응하는 뉴런끼리 뉴런 덩어리를 형성하는 방식으로 우선적으로 결합된다는 의미이다. 이 연합은 시냅스를 통해 서로 연결된다. 시냅스는 뉴런들이 서로 소통하는 뉴런들 간 연결이며 경험을 통해 더 강화되며, 이러한 방식으로 더 강하게 연결되는 뉴런들은 학습과 기억에 중요한 역할을 한다. 헵의 이론에 따르면, 뉴런 덩어리가 만들어지기 위해서는, 소수의 뉴런들이 선별적으로 활성화되는 것만으로도 충분하다. 그렇기에 위의 소의 사진의 예처럼 자연스레 떠오르는 기억의 메커니즘에 대한 추정적인 설명을 제공하기도 한다. 그러나 연합된 뉴런들은 필연적으로 관련된 뉴런이 발화되면 자주 같이 발화되고, 발화될 때마다 시냅스 연결이 더 강해지기 때문에, 단순히 헵의 이론만을 따른 가상 시뮬레이션은 형성된 신경 덩어리에서 종국에는 정말로 폭발적인 활동량을 관찰하게 된다. 이런 현상은 신경생물학에서는 거의 관찰되지 않는데도 불구하고 말이다. 프리드만 젠케와 그의 동료들은 이 현상에 대해 연구하였으며, 곧 그들은 헵 이론 내부의 모순어법이 이 문제의 중핵을 이루고 있다는 사실을 깨달았다. 헵 이론의 뉴런 덩어리의 시냅스 연결들은 다른 연관된 세포들을 활성화시킴으로써 신속하고 빠르게 기억을 상기시킬 정도로 강력하다. 한편, 그 뉴런 덩어리의 시냅스 연결은 그 뉴런 덩어리의 활동을 정지시킬 정도의 폭발적인 활동을 피하지 못할 정도로 강해져서, 결국 나중에는 정보 처리를 방해한다. eLife에서 출간된 연구에서, 젠케는 이 뉴런 덩어리의 컴퓨터 시뮬레이션 문제를 해결할 수 있는 단순하고 설득력있는 신경생물학에서 발견된 또 다른 몇 가지 요소들이 결합된 새로운 메커니즘을 제시한다. 이 메커니즘은 "비선형적 과도적 증폭"으로 불리며, 두 단계로 나뉜다. 첫번째 단계에서는 강력한 흥분 피드백이 선별적으로 한계점을 넘어서는 수준까지 자극을 강하게 증폭시킨다. 두번째 단계에서 시냅스의 생물학적인 스며드는 특징인 단기 가소성short-term plasticity이 반복되는 시냅스 연결을 약화시켜 뉴런 덩어리가 안정화되어 스스로 억제하는 안정된 신경망을 이루도록 하는 것이다. 이 연구는 어떻게 신경 회로가 어떻게 정보를 처리하는지 이해하는데에 한발짝 더 가까이 다가가게 하였으며, 동시에 실험해볼 수 있는 몇가지 의혹들도 만들어냈다. 신경과학을 연구하는 데에 점차 컴퓨터 시뮬레이션의 역할이 커지고 있는 추세에 이러한 발전은 정말로 눈여겨볼 만한 것이다. 특히나 구체적인 신경 네트워크를 연구하는 커넥톰 분야에서는 이전의 예쁜꼬마선충의 사례처럼 완전히 신경이 연결된 전체적인 구조, 즉 커넥톰을 컴퓨터로 재현하기 위해 노력하고 있으며, 몇십년 안에는 인간의 완전한 신경지도를 컴퓨터로 시뮬레이션 하는 미래도 그리고 있다. 따라서, 뇌활동의 가장 기본적인 수준인 뉴런의 수준에서 서로 연결이 강화되거나 약화되는 메커니즘에 대한 연구는 이런 분야에서, 특히나 학습이 가능한 동물의 신경 지도를 컴퓨터로 재현하는 데에 큰 역할을 할 것이다. 사실 커넥톰 분야가 아니더라도, 기본적인 뉴런 수준에서의 학습이 이루어지는 메커니즘은 현재로서는 아직 아주 원시적인 형태의 학습에 대해서만 겨우 밝혀낸 수준이기에, 앞으로 유망한 분야이기도 하다. 인공지능의 경우에도 실제 신경망이 정보를 처리하는 방법을 모방한 기술이기 때문에, 모든 뉴런 수준에서의 학습이 이루어지는 연구는 이미 인공지능 학계에서도 예의주시하고 있다. 이것 자체로 이 분야가 유망한 이유이기도 하다. 실제로 인공지능을 연구하는 석박들을 보면 컴퓨터공학과 신경과학 두 분야에서 모두 박사학위를 보유하고 있는 분들도 꽤 있기도 하다. 사실, 애초에 신경과학이 없다면 인공지능이 성립하지 않는다고 말할수도 있겠다. 결국, 가장 유망한 공학 분야와 신경생물학, 신경과학은 서로 연합된 학문이기도 한 것이다. AI 분야에 관심이 있는 사람이라면 누구든지 앞으로 신경과학의 동향은 주시하고 있는 편이 좋을 것이다.