연구팀이 인간 두뇌의 자발적인 신경 활동을 모방한 인공지능 학습 기술을 개발하여, 실제 데이터 학습 시 속도와 정확성을 크게 향상시킬 수 있는 가능성을 열었다. 이 연구는 뇌 기반 인공지능 및 뉴로모픽 컴퓨팅 기술 발전에 중요한 기여를 할 것으로 기대된다.
이번 연구는 KAIST 뇌인지과학과의 백세범 교수 연구팀이 주도하였으며, 23일 그 결과를 발표했다. 연구팀은 인공지능 개발의 오랜 난제인 '가중치 수송 문제(weight transport problem)'를 해결하고, 생물학적 뇌 신경망의 효율적 학습 원리를 규명했다. 가중치 수송 문제는 생물학적 뇌와 인공지능의 학습 방식 차이를 설명하는 주요 장애물로, 현재 인공지능의 오류 역전파 학습 방식이 생물학적 뇌에서는 불가능하다는 주장을 기반으로 한다.
지난 수십 년간 인공지능 연구는 올해 노벨 물리학상 수상자인 제프리 힌튼이 제안한 오류 역전파 학습에 의존해 왔으나, 이는 생물학적 뇌의 작동 방식과는 차이가 크다. 이는 학습을 위한 오류 신호를 계산하기 위해 개별 뉴런들이 다음 계층의 모든 연결 정보를 알고 있어야 하는 비현실적인 가정이 필요하기 때문이다.
가중치 수송 문제라고 불리는 이 난제는 1986년 힌튼에 의해 오류 역전파 학습이 제안된 이후, DNA 구조의 발견으로 노벨 생리의학상을 받은 프랜시스 크릭에 의해 제기됐으며, 이후 자연신경망과 인공신경망 작동 원리가 근본적으로 다를 수밖에 없는 이유로 여겨진다.
인공지능과 신경과학의 경계선에서, 힌튼을 비롯한 연구자들은 가중치 수송 문제를 해결함으로써 뇌의 학습 원리를 구현할 수 있는, 생물학적으로 타당한 모델을 만들고자 하는 시도를 계속해 왔다.
지난 2016년, 영국 옥스퍼드 대학과 딥마인드(DeepMind) 공동 연구진은 가중치 수송을 사용하지 않고도 오류 역전파 학습이 가능하다는 개념을 최초로 제시해 학계의 주목을 받았다. 그러나, 가중치 수송을 사용하지 않는 생물학적으로 타당한 오류 역전파 학습은 학습 속도가 느리고 정확도가 낮은 등 효율성이 떨어져, 현실적인 적용에는 문제가 있었다.
연구팀은 이러한 점에 주목하여, 외부 감각 경험을 받기 전부터 내부의 무작위 신경 활동을 통해 학습이 시작된다는 점을 바탕으로, 무작위 정보를 사전 학습하는 방법을 도입했다.
그 결과, 오류 역전파 학습을 위해 필수적 조건인 신경망의 순방향과 역방향 신경세포 연결 구조의 대칭성이 만들어질 수 있음을 보였다. 즉, 무작위적 사전 학습을 통해 가중치 수송 없이 학습이 가능해진 것이다.
연구팀은 실제 데이터 학습에 앞서 무작위 정보를 학습하는 것이 ‘배우는 방법을 배우는’메타 학습(meta learning)의 성질을 가진다는 것을 밝혔다. 무작위 정보를 사전 학습한 신경망은 실제 데이터를 접했을 때 훨씬 빠르고 정확한 학습을 수행하며, 가중치 수송 없이 높은 학습 효율성을 얻을 수 있음을 보였다.
백세범 교수는 “데이터 학습만이 중요하다는 기존 기계학습의 통념을 깨고, 학습 전부터 적절한 조건을 만드는 뇌신경과학적 원리에 주목하는 새로운 관점을 제공하는 것”이라며 “발달 신경과학으로부터의 단서를 통해 인공신경망 학습의 중요한 문제를 해결함과 동시에, 인공신경망 모델을 통해 뇌의 학습 원리에 대한 통찰을 제공한다는 점에서 중요한 의미를 가진다”고 밝혔다.
KAIST 뇌인지과학과 천정환 석사과정이 제1 저자로, 같은 학과 이상완 교수가 공동 저자로 참여한 이번 연구는 12월 10일부터 15일까지 캐나다 벤쿠버에서 열리는 세계 최고 수준의 인공지능 학회인 제38회 신경정보처리학회(NeurIPS)에서 발표될 예정이다.
한편 이번 연구는 한국연구재단의 이공분야기초연구사업, 정보통신기획평가원 인재양성사업 및 KAIST 특이점교수 사업의 지원을 받아 수행됐다.
