EE Newsletter에서는 전기 및 전자공학부(이하 전자과) 학부생들에게 전자과 대학원에 있는 다양한 연구실들의 정보를 전달하기 위하여 연구실 인터뷰를 진행하고 있다. 이번 EE Newsletter에서는 카이스트 전자과 정세영 교수님의 ITML (Information Theory and Machine Learning) 연구실에 대한 인터뷰를 진행하였다. ITML 연구실에서는 정보 이론 연구에 바탕을 둔 딥러닝과 인공지능 관련 연구가 진행되고 있다.
- 교수님과 연구실에 대한 간단한 소개
저는 2000년에 MIT 에서 박사 학위를 받고, 4년 정도 미국에서 통신 관련 회사에 다니다가 2005년 1월에 카이스트에 오게 되었습니다. 초기에는 정보이론과 무선통신 연구를 주로 진행하였고, 최근에는 정보이론 연구에 바탕을 둔 딥러닝과 인공지능 관련 연구를 하고 있습니다.
- 연구 분야에 대한 설명
정보이론은 정보를 다루는 다양한 상황에서 근본적인 성능의 한계를 연구하는 학문입니다. 예를 들어, 통신 문제에서 최대한 전송 가능한 정보량이 얼마인지 알아내고 이에 근접하는 성능을 달성하려면 어떤 구조로 시스템을 디자인해야 하는가를 연구합니다. 섀넌(Shannon)이 1948년 정보이론 분야를 창시하기 전까지는 정보에 대한 체계적인 연구가 진행되지 않았으나, 섀넌 이후로 엔트로피, mutual information 등 정보의 양을 정량화하는 개념을 사용하게 되면서 제대로 된 접근이 가능해졌습니다. 정보이론은 이렇듯 근본적인 학문이며, 다양한 분야에서 쓰일 수 있고 실제로 정보이론을 연구한 사람들은 금융공학, Bioinformatics 등 다양한 분야에서 활약하고 있습니다. 최근에는 딥러닝 연구가 활발하다 보니 관련된 정보이론적 연구가 활발하게 진행되고 있습니다.
딥러닝은 굉장히 복잡하여 이론적 접근이 쉽지 않습니다. 하지만 결국 딥러닝 또한 신경망 내부에서 신호가 전송되고 처리되면서 우리가 학습이라고 부르는 현상이 일어나는 일련의 과정입니다. 이러한 과정에서 전송되고 처리되는 신호가 얼마나 유용한 정보를 담고 있는지 이를 정량적으로 분석하면 딥러닝 연구에 많은 도움이 될 수 있습니다. 최근 뇌 과학이 많은 발전을 하였지만 그런데도 우리는 인간의 뇌에 대하여 극히 일부분만을 파악하고 있을 뿐입니다. 딥러닝도 이와 유사한 측면이 있습니다. 알파고를 만든 구글 딥 마인드 엔지니어들 대부분은 바둑 고수가 아니었습니다. 물론 바둑을 잘 아는 전문가들의 도움을 받아 연구를 진행했지만, 이세돌처럼 바둑에서 최고 위치에 있는 사람과 함께 진행하지는 않았습니다. 그러나 결과적으로 알파고는 작년에 커제에게 3:0으로 승리하는 등 더 대적할 인간이 없는 단계까지 발전했습니다. 그런데 막상 알파고가 왜 바둑을 잘 두는지는 구글의 엔지니어조차 정확한 이유를 설명할 수 없습니다. 물론 알파고를 훈련시키는 기본 원리에 대하여는 자세히 얘기할 수 있지만, 특정 상황에서 왜 그런 수를 두도록 학습되었는지를 설명할 수 없는 것입니다. 이를 설명하려면 알파고 내부의 신경망에 들어 있는 수천 만개의 파라미터를 분석해야 하는데 그 과정은 불가능에 가깝습니다. 이렇듯 바둑을 완벽하게 이해하지 못해도 기계 학습의 기본 원리만 가지고 인간을 능가하는 바둑 AI를 만든다는 것은 어떻게 보면 기대한 것 이상을 얻게 되는 신기한 과정입니다. 바둑을 완벽하게 이해하지 못해도 인간 최고수보다 바둑을 잘 두는 기계를 만들었듯이, 앞으로 연구가 가속화되면 다른 분야에도 뛰어난 성능을 발휘하는 인공지능이 앞으로 더 많이 출현할 수 있을 것으로 생각합니다.
많은 분야가 그렇듯 딥러닝 또한 근본적인 이론과 시행착오의 균형이 중요합니다. 따라서 정보이론과 같은 근본적인 이론이 중요한 역할을 할 수 있습니다. 그와 동시에 다양한 시행착오를 통해 많은 것을 배우고 성능을 향상할 수 있습니다. 근본적인 이론과 시행착오의 균형, 이 두 가지가 적절한 조화를 이루어야 딥러닝 분야가 더 발전할 수 있습니다.
3. 연구실에서 진행하는 자세한 연구
우리 연구실은 머신러닝의 세 가지 분야인 지도 학습(Supervised Learning), 비지도 학습(Unsupervised Learning), 강화 학습(Reinforcement Learning) 중에서 강화 학습 분야를 많이 연구하고 있으며, 구체적으로는 딥러닝이 접목된 심층 강화 학습(Deep Reinforcement Learning)에 관련된 연구를 진행하고 있습니다.
강화 학습은 보상을 최대화하는 행동을 선택하는 학습 방법으로, 인간이 어렸을 때부터 시험 점수를 올리기 위해 틀린 문제를 공부하고 고민하는 과정을 거치는 것과 비슷한 방법입니다. 인공지능에 강화 학습이 본격적으로 이용될 경우 지금보다 훨씬 더 복잡하고 정교한 일을 할 수 있을 것입니다. 그러나 아직은 많이 부족한 단계입니다. 테슬라의 자율 주행 자동차가 흰 트럭을 하늘로 착각하고 들이받은 사고처럼, 아직 인공지능은 인간이라면 하지 않을 실수를 자주 일으킵니다. 인간은 오랜 시간 동안 배우고 경험한 많은 양의 상식이 있지만, 그런 상식을 인공지능에 학습시키기는 쉽지 않습니다. 또한 인간은 다양한 일을 할 수 있지만, 현재의 인공지능은 특정한 일만을 잘 수행하는 등 아직은 초보적인 단계라고 볼 수 있습니다.
우리 연구실에서는 아케이드 게임 및 인위적으로 설계된 다양한 환경을 사용하여 심층 강화 학습 연구를 진행합니다. 실제 자율 주행 자동차에 이론을 접목하는 건 힘들지만, 게임 환경에 적용할 경우 훨씬 빠른 시간 안에 새로운 아이디어를 확인할 수 있습니다. 따라서 더 효율적으로 연구할 수 있고 좋은 알고리즘을 찾을 수 있습니다. 또한, 레이더와 딥러닝을 접목한 연구도 진행하고 있습니다. 박쥐가 감각 기관으로부터 얻은 정보를 신경망을 이용해 처리하여 매우 정교하게 먹이와 장애물을 구분하는 방식에서 착안하여 레이더에 딥러닝을 접목한 연구를 진행 중입니다. 예를 들어 기존의 정보 이론 분야에서 연구되던 압축 센싱이라는 기법을 딥러닝화하여 레이더에 적용하여 향상된 성능을 달성할 수 있었습니다. 그 외에도, 사물 인터넷 환경에 기계학습을 적용하는 연구도 진행하고 있습니다. 예를 들어 사람이 난방이나 에어컨을 켜고 끄는 등의 작업을 일일이 수행하지 않더라도 사용자의 평소 의도를 파악하여 사용자에게 편안함을 제공함과 동시 에너지 효율성을 살리는 인공지능 연구를 수행하고 있습니다.
- 연구 분야에 대한 전망
현대 사회는 정보화 사회입니다. 전 세계 시가 총액 상위 10개 기업 중 7개가IT 기업인데, 이 기업들이 모두 인공지능에 관심을 가지고 많은 투자를 하고 있습니다. 이런 점에서 인공지능 관련 연구의 미래는 밝다고 할 수 있습니다. 인공지능 연구가 앞으로 어떻게 변화할지는 아무도 모릅니다. ‘AI winter’라고 불리는 인공지능 연구가 오랫동안 주춤하는 시기가 여러 차례 있기도 했지만, 이는 과거에는 컴퓨팅 파워가 인공지능 연구를 제대로 할 수 있을 만큼 뒷받침이 되지 않아 새로운 연구 방향이 제시될 때마다 인공지능 연구가 일시적으로 각광을 받았다가 다시 주춤해지는 순환을 거쳤기 때문입니다. 반면 컴퓨터, 인터넷, 이동통신 등 분야는 최근 20년 이상 꾸준히 발전했습니다. 저는 지금이 인공지능 연구가 본격적으로 시작되는 시기이며 장기적으로 꾸준히 발전을 이룰 분야라고 생각합니다.
- 연구실 규모, 분위기 및 졸업생 진로
현재 연구실에는 석사 4명과 박사 5명, 총 9명의 학생이 있습니다. 일주일에 한 번씩 랩 세미나와 점심 회식을 하기도 하고, 겨울에는 다 같이 스키장으로 MT를 가기도 합니다.
박사를 졸업한 후에는 교수로 가거나 회사 연구소에 가는 등 연구 분야로 진출합니다. 작년에는 우리 랩에서 박사 학위를 받은 이시현 박사가 포항공대 전자전기공학과 최초의 여자 교수로 임용되기도 했습니다. 석사를 졸업한 이후로는 주로 대기업이나 ETRI 등 연구소에 갑니다. 최근에 졸업한 학생은 딥러닝 및 머신러닝 관련 벤처 기업에 가기도 했습니다.
- 학부생이 교수님의 랩에 들어갈 때 듣고 오면 좋을 것 같다 하는 과목이나 갖추어야 할 자세 같은 것이 있나요?
딥러닝 및 인공지능에 관심 있는 학생이 오면 좋겠고, 그와 동시에 정보이론, 수학 등 근본적인 학문에 관심을 가지고 있으면 좋겠습니다. 제가 학부생일 때 물리학과와 수학과에서 여러 과목을 들었는데, 그 과목들이 향후 연구를 하는 데 있어서 큰 도움이 되었습니다. 근본적인 질문을 통해 더 큰 그림을 그리려 하고, 깊이 있게 파고들려는 자세가 중요합니다. 수학 중에서도 특히 확률은 기초적인 분야이기 때문에 들어 두면 좋습니다.
- 뉴스레터를 읽는 학부생들에게 해주고 싶으신 말씀이나 조언
딥러닝 연구 트렌드가 굉장히 빨리 바뀌고 있습니다. 알파고가 만들어진 이후로 불과 1년 후 알파고 제로가 만들어지는 등 인공지능 연구는 빠르게 진행되고 있습니다. 연구 트렌드가 빠르게 바뀔수록 근본적인 기초가 중요합니다. 기초가 탄탄하면 새로운 분야에 잘 적응할 수 있지만, 기초가 부족한 상태에서 현재 잘 되는 분야를 연구하게 되면 나중에 연구 분야를 바꾸기가 쉽지 않습니다. 책 한 권을 다 보는 것 보다, 중요한 한 페이지를 집중적으로 공부해서 자신의 것으로 만드는 것이 더 오래가고 학문적인 기쁨을 느낄 수 있듯이, 근본적인 질문을 던지고 기초를 쌓을 수 있길 바랍니다.
흔쾌히 인터뷰에 응해주신 정세영 교수님께 다시 한 번 감사의 말씀을 드립니다.
강민기 기자 zzxc1133@kaist.ac.kr
김윤성 기자 yskimno1@kaist.ac.kr
보다 작게 만드는 일이 굉장히 어려웠습니다. 빛과
