[유민수 교수]

Google Research Scholar Award는 전 세계 대학들을 대상으로 컴퓨터 과학 및 관련 분야를 연구하고 있는 신진 연구자들과 구글과의 협업을 촉진하고 장기적 협력 관계를 도모하기 위해 구글 본사에서 2021년에 신설한 프로그램이다.

유민수 교수는  학계에서 7년 미만으로 활동한 신진 연구자 자격으로 전 세계에서 선정된 총 78명의 신진 교원 수상자 명단에 포함되었으며, Systems 분야에서 선정된 4명의 교원 중의 한 명으로 올해 수상을 하게 되었다.

국내 소재 대학에 재직 중인 교수는 3명이 선정되었으며, 이 중 유민수 교수와 본교 AI대학원 김범준 교수를 포함한 2명이 KAIST 소속이다.

유민수 교수는 ‘Co-Designing Hardware/Software Systems for Differentially Private Machine Learning’이라는 연구 주제로 수상을 하게 되었다.

최근 들어 ChatGPT로 각광받고 있는 LLM (Large Language Model) 기반의 생성형 AI (Generative AI) 기술은 AI 서비스 품질 향상을 위해 대량의 사용자 데이터를 수집 및 활용하여 AI 모델의 정확도를 개선하고 있다.

하지만 사용자의 민감한 개인정보가 데이터센터로 전송 및 저장되는 와중에 유출되거나, 이를 기반으로 학습된 모델이 추론 과정에서 서비스 될 때에 학습에 사용된 개인정보가 유출되는 등 사용자 개인정보보호가 심각한 사회문제로 대두되고 있다.

이번 수상의 기반이 된 ‘프라이버시가 보호되는 기계학습을 위한 컴퓨터 시스템 연구’는 대량의 데이터 사용이 필수적인 AI 모델 학습 과정에서, 개인 정보나 민감한 사용자 데이터가 AI 모델의 학습이나 추론 과정에서 유출되지 않는 AI 반도체 및 이를 지원하기 위한 소프트웨어 솔루션을 연구할 예정이다.

전체 수상자 명단 및 해당 수상에 관한 자세한 소식은 아래 웹사이트에서 확인할 수 있다.

https://research.google/outreach/research-scholar-program/recipients/?category=2023

전기및전자공학부 정명수 교수 연구팀이 세계 최초로 CXL 3.0 기반 검색 엔진을 위한 AI 반도체를 개발하였다.

최근 각광 받고 있는 이미지 검색, 데이터베이스, 추천 시스템, 광고 등의 서비스들은 근사 근접 이웃 탐색(Approximate Nearest Neighbor Search, ANNS) 알고리즘을 사용한다.

근사 근접 이웃 탐색 알고리즘을 실제 서비스에서 사용할 때 필요한 데이터 셋이 매우 커 많은 양의 메모리를 요구하는 어려움이 있다.

이를 해결하기 위해 기존에는 압축 방식과 스토리지 방식을 사용하였지만, 각각 낮은 정확도와 성능을 가지는 문제가 있다.

연구팀은 메모리 확장의 제한이라는 근본적인 문제를 해결하기 위해 CXL이라는 기술을 사용하였다. CXL은 PCI 익스프레스(PCIe) 인터페이스 기반의 CPU-장치 간 연결을 위한 프로토콜로, 가속기 및 메모리 확장기의 고속 연결을 제공한다.

또한 CXL 스위치를 통하여 여러 대의 메모리 확장기를 하나의 포트에 연결할 수 있는 확장성을 제공한다. 하지만 CXL을 통한 메모리 확장은 로컬 메모리와 비교하여 메모리 접근 시간이 증가하는 단점을 가지고 있다.

연구팀이 개발한 AI 반도체(CXL-ANNS)는 CXL 스위치와 CXL 메모리 확장기를 사용해 근사 근접 이웃 탐색에서 필요한 모든 데이터를 메모리에 적재할 수 있어 정확도와 성능 감소를 없앴다.

또한 근사 근접 이웃 탐색의 특징을 활용해 데이터 근처 처리 기법과 지역성을 활용한 데이터 배치 기법으로 CXL-ANNS의 성능을 한 단계 향상시켰다.

연구팀은CXL-ANNS의 프로토타입을 자체 제작하여 기존 연구들과 성능을 비교하였다.

CXL-ANNS는 기존 연구들 대비 평균 111배 성능 향상이 있었다. 특히, 마이크로소프트에서 실제 서비스에서 사용되는 방식과 비교하였을 때 92배의 성능 향상을 보여줬다.

이번 연구는 미국 보스턴에서 오는 7월에 열릴 시스템 분야 최우수 학술대회인 유즈닉스 연례 회의 `USENIX Annual Technical Conference, 2023’에 ‘CXL-ANNS’이라는 논문명(CXL-ANNS: Software-Hardware Collaborative Memory Disaggregation and Computation for Billion-Scale Approximate Nearest Neighbor Search)으로 발표될 예정이다.

해당 연구에 대한 자세한 내용은 연구실 웹사이트(http://camelab.org)에서 확인할 수 있다.

[그림1. 하드웨어 프로토타입]

[그림2. CXL-ANNS의 로고]

[그림3. CXL-ANNS 연구진 (왼쪽부터) 전기및전자공학부 박사과정 장준혁, 이승준, 석사과정 최한진, 박사과정 권미령, 배한여름, 교수 정명수]

자세한 정보는 아래 링크 참조

[Link]

한국경제: https://www.hankyung.com/it/article/202305259204i

헤럴드경제: http://news.heraldcorp.com/view.php?ud=20230525000225

조선비즈: https://biz.chosun.com/science-chosun/technology/2023/05/25/4UW5LPX3WVARVIS3QBBICPINFM/

전자신문: https://www.etnews.com/20230525000092