[보관함:] 연구 > 연구성과

 

연구팀은 실제 뮤지션들을 대상으로 한 사용자 연구를 수행하여, 어뮤즈가 단순한 음악 생성 AI가 아닌, 사람과 AI가 협업하는 창작 동반자(Co-Creative AI)로서의 가능성이 높다는 평가를 받았다.

 

우리 학부 박사과정 김예원 학생, 이성주 교수, 카네기 멜런 대학의 크리스 도너휴(Chris Donahue) 교수가 참여한 해당 논문은 학계 및 산업계 모두의 창의적 AI 시스템 설계의 가능성을 보여주었다.

 

• 논문명 : Amuse: Human-AI Collaborative Songwriting with Multimodal Inspirations
• DOI : https://doi.org/10.1145/3706598.3713818 
• 연구 홈페이지: https://nmsl.kaist.ac.kr/projects/amuse/

<연구 데모 영상>

 

이성주 교수는 “ 최근 생성형 AI 기술은 저작권이 있는 콘텐츠를 그대로 모방하여 창작자의 저작권을 침해하거나, 창작자의 의도와는 무관하게 일방향으로 결과물을 생성한다는 점에서 우려를 낳고 있다. 이에 연구팀은 이러한 흐름에 문제 의식을 가지고, 창작자가 실제로 필요로 하는 것이 무엇인지에 주목하며 창작자 중심의 AI 시스템 설계에 주안점을 두었다.”라고 말했다. 

 

이어 ”어뮤즈는 창작자의 주도권을 유지한 채, 인공지능과의 협업 가능성을 탐색하는 시도로, 향후 음악 창작 도구와 생성형 AI 시스템의 개발에 있어 보다 창작자 친화적인 방향을 제시하는 출발점이 될 것으로 기대된다.“라고 설명했다.

 

이 연구는 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원을 받아 수행되었다.(RS-2024-00337007)

 

우리 학부 최신현 교수가 차세대 AI 하드웨어 개발 및 혁신적인 반도체 관련 연구 성과로, KAIST가 주관하고 현우문화재단(이사장 곽수일)이 후원하는 `현우 KAIST 학술상’ 수상자로 선정됐다.

 

수상자로 선정된 최신현 교수의 중점 연구 분야는 미래형 메모리와 컴퓨터 장치 개발에 집중한  ▲저항 스위칭 소자(resistive switching device)를 이용해 기본 방식보다 더 빠르고 효율적인 차세대 메모리·컴퓨팅 장치 개발 ▲엣지 컴퓨팅(edge computing)과 뉴로모픽 컴퓨팅(neuromorphic computing)의 스마트한 컴퓨터 메모리 기능 등 통합 시스템 응용 ▲기존 3단자 트랜지스터(3-terminal transistor) 방식과 다른 더 효율적이고 창의적인 컴퓨팅·메모리 소자 작동 방식 개발이다.

 

대표적인 연구 업적으로 차세대 메모리 기술 분야에서 기존의 값비싼 초미세 노광공정*을 사용하는 방식보다 전기를 15배 이상 절감하고, 수직 적층 구조에 최적화된 초저전력 차세대 상변화 메모리(phase-change memory) 소자 개발에 성공했다. * 노광공정: 반도체 칩 위에 미세한 회로 패턴을 실리콘 웨이퍼 위에 새기는 공정으로 고급기술이고 비용이 많이 드는 단점이 있음

 

나아가, 최 교수는 차세대 메모리·컴퓨팅 소자를 기반으로, 기존의 CPU, GPU와 같이 많은 전력을 쓰는 칩을 대체할 수 있는 AI 알고리즘을 효율적으로 구동하는 차세대 컴퓨팅 하드웨어(칩)를 개발하였다. 이를 통해 데이터를 더 빠르고 효율적으로 작동시키며 스마트폰, 자율주행 등 다양한 응용하여 실생활에 활용 가능한 주목할 만한 성과를 거뒀다.

 

또한, 메모리 소자의 동작 원리를 기초 물리법칙에 기반한 원자단위까지 분석함으로써 이를 통해 메모리 성능을 더 빠르고 안정적으로 향상시킬 방법을 제시하는데 크게 기여했다.

 

최 교수의 연구는 재료 분석부터 반도체 소자, 통합 시스템 개발 등 반도체 기술 전 과정에 대한 연구 분야를 아우르며, 그 성과는 네이처(Nature), 네이처 일렉트로닉스(Nature Electronics), 네이처 커뮤니케이션스(Nature Communications), 사이언스 어드밴시스(Science Advances) 등 최상위 저널에 게재되는 등 탁월한 성과를 거뒀다.

 

최신현 교수는 “최근 큰 사회적 변화를 주도하고 있는 IT와 인공지능 관련 하드웨어 연구로 뜻깊은 상을 받게 되어서 영광이고, 이번 연구를 통해 학계와 기업에 새로운 시각을 제공할 수 있어 감회가 깊다.”며, “앞으로도 후속 연구자들에게 영감을 주며 실제로 사회에 기여할 수 있는 연구 성과가 나올 수 있도록 끊임없이 노력하겠다”라고 포부를 밝혔다.

 

한편, 올해로 5회째 시행되는 `현우 KAIST 학술상’은 KAIST에서 우수한 학술적 업적을 남긴 학자들을 매년 포상하고자 현우문화재단 곽수일 이사장이 기부한 재원을 바탕으로 제정된 상이다. 현우재단 선정위원과 KAIST 교원 포상 추천위원회의 엄격한 심사를 거쳐, 탁월한 학술 업적을 이룬 교원 1명을 매년 선정해 상패와 함께 1천만 원의 포상금을 수여하고 있다. 올해 시상식은 4월 30일 KAIST 학술문화관 정근모 홀에서 개최되었다.

우리 학부 심현철 교수 연구팀이 2025년 4월 12일 아랍에미리트(UAE) 정부 후원으로 개최된 아부다비 자율 레이싱 대회(Abu Dhabi Autonomous Racing League, 이하 A2RL)의 드론 챔피언십 리그( Drone Championship League, 이하 DCL)에서 세계 3위를 차지했다.

 

아부다비 국립 전시 센터 마리나(ADNEC Marina) 대회장에서 개최된 본 선 대회에서는 2024년 가을 예선을 통해 선발된 14개 팀들이 참가해 실력을 겨뤘다. 참가팀들은 ▲최단 비행시간 경연(AI Grand Challenge), ▲4대동시 자율비행, ▲양쪽에서 마주 보면서 고속으로 비행하는 드래그 레이싱, ▲AI 대 인간 조종사 대결 등 총 4개 부문에서 경합을 벌였다.

 

그 중 8개 팀이 최단 비행시간 경연 준결승에 진출했고, 이 중 KAIST는 네덜란드 델프트공대(TU Delft), UAE 기술혁신연구소(TII), 체코 공과대학(Czech Technical University, CTU)와 함께 결승에 올랐다.

 

결승에서는 델프트 공대가 1위를 차지했으며, UAE 기술혁신연구소가 2위, 우리 학부 심현철 교수 연구팀은 그 뒤를 이어 세계 종합 3위의 성과를 거두었다.

 

또한, 심현철 교수팀은 세계 최초로 개최된 자율비행 드론의 동시 자율비행에서 2위를, 양쪽에서 동시에 마주 보며 출발하는 드래그 레이싱(drag racing)에서도 2위를 차지하며 뛰어난 성과를 거두었다.

 

심 교수팀은 팀장인 한동훈 박사과정을 비롯해 마울라나 아자리(Maulana Azhari) 박사과정, 유제인 석사과정, 박성준 석사과정 등 총 4명으로 구성되어 있으며, 자체 개발한 영상기반 측위 기술과 고기동 비행 제어 기술을 바탕으로 우수한 기량을 선보여 총 10만 5천달러의 상금을 수상하게 되었다.

 

이번 대회는 외부 카메라나 라이다(LiDAR) 없이 단안 카메라만을 활용하여 자율 비행 드론에 적용한 최초의 국제 대회로, 총 12개의 게이트가 설치된 실내 경연장에서 진행되었다. 상금 총액은 100만 달러에 달하며, 드론 기술의 미래를 선도하는 경쟁의 장이 되었다.

 

A2RL DCL 자율비행 대회는 2017년 세계적인 로봇 기술 경연대회인 MBZIRC(Mohamed Bin Zayed International Robotics Competition) 이후 UAE 정부 지원으로 개최된 5번째 대규모 로보틱스 경진대회이다.

 

특히 이번 대회와 같은 카메라 기반 자율비행 드론 레이싱은 단순한 E-sports를 넘어서 현대전에 게임 체인저로 등장한 1인칭 시점(FPV) 드론에 직접적으로 적용될 수 있는 중요한 기술로서, 세계적으로 주목받고 있다.

 

심현철 교수는 “코로나로 인한 대회 중단과 연구팀 재편 등 연구 공백과 고속 비행을 제대로 실험할 환경을 구하기 어려운 여건 속에서도, 독자적인 측위 및 제어 기술을 완성해 결국 세계 유수의 연구팀들을 제치고 값진 성과를 거둘 수 있었다”고 밝혔다. 이어 “이번 결과에 만족하지 않고, 더욱더 경쟁력 있는 연구 역량 및 환경을 갖출 수 있다면 앞으로 열릴 국제 대회에서는 압도적인 기술력으로 세계 최고 수준의 성과를 만들어내겠다”고 각오를 전했다.

 

 

심 교수는 2016년 세계적인 로봇 학회 IROS에서 세계 최초로 자율드론 레이싱을 개최한 자율 드론 레이싱 분야의 선구자이며, 같은 대회에서 2016년, 2018년 각각 우승 및 준우승을 차지했다.

 

또한, 2019년 미국 록히드 마틴(Lockheed Martin)사가 주최한 AlphaPilot 자율 드론 AI 경진대회에서는 3위를, 2019년, 2020년 과기정통부가 개최한 AI 그랜드 챌린지 드론 실내비행 부분에서 2회 연속 우승을 거두며 총 24억원의 후속 연구비를 지원받는 등 꾸준히 우수한 성과를 거두었다.

 

더불어 2024년 해양 환경에서 자율 로봇(무인 보트, 드론 등)의 기술 능력을 겨루는 국제 대회인 MBZIRC 해양 챌린지(Maritime Challenge)에서 KAIST 기계공학부 김진환 교수팀과 공동으로 참여하여 2등을 차지한 바 있다. 

최근 챗GPT, 딥시크(DeepSeek) 등 초거대 인공지능(AI) 모델이 다양한 분야에서 활용되며 주목받고 있다. 이러한 대형 언어 모델은 수만 개의 데이터센터용 GPU를 갖춘 대규모 분산 시스템에서 학습되는데, GPT-4의 경우 모델을 학습하는 데 소모되는 비용은 약 1,400억 원에 육박하는 것으로 추산된다. 한국 연구진이 GPU 사용률을 높이고 학습 비용을 절감할 수 있는 최적의 병렬화 구성을 도출하도록 돕는 기술을 개발했다.

 

우리 학부 유민수 교수 연구팀은 삼성전자 삼성종합기술원과 공동연구를 통해, 대규모 분산 시스템에서 대형 언어 모델(LLM)의 학습 시간을 예측하고 최적화할 수 있는 시뮬레이션 프레임워크(이하 vTrain)를 개발했다.

 

대형 언어 모델 학습 효율을 높이려면 최적의 분산 학습 전략을 찾는 것이 필수적이다. 그러나 가능한 전략의 경우의 수가 방대할 뿐 아니라 실제 환경에서 각 전략의 성능을 테스트하는 데는 막대한 비용과 시간이 들어간다.

 

이에 따라 현재 대형 언어 모델을 학습하는 기업들은 일부 경험적으로 검증된 소수의 전략만을 사용하고 있다. 이는 GPU 활용의 비효율성과 불필요한 비용 증가를 초래하지만, 대규모 시스템을 위한 시뮬레이션 기술이 부족해 기업들이 문제를 효과적으로 해결하지 못하고 있는 상황이다.

 

이에 유민수 교수 연구팀은 vTrain을 개발해 대형 언어 모델의 학습 시간을 정확히 예측하고, 다양한 분산 병렬화 전략을 빠르게 탐색할 수 있도록 했다.

 

연구팀은 실제 다중 GPU 환경에서 다양한 대형 언어 모델 학습 시간 실측값과 vTrain의 예측값을 비교한 결과, 단일 노드에서 평균 절대 오차(MAPE) 8.37%, 다중 노드에서 14.73%의 정확도로 학습 시간을 예측할 수 있음을 검증했다.

 

 

연구팀은 삼성전자 삼성종합기술원와 공동연구를 진행하여 vTrain 프레임워크와 1,500개 이상의 실제 학습 시간 측정 데이터를 오픈소스로 공개(https://github.com/VIA-Research/vTrain)하여 AI 연구자와 기업이 이를 자유롭게 활용할 수 있도록 했다.

 

 

유민수 교수는 “vTrain은 프로파일링 기반 시뮬레이션 기법으로 기존 경험적 방식 대비 GPU 사용률을 높이고 학습 비용을 절감할 수 있는 학습 전략을 탐색하였으며 오픈소스를 공개하였다. 이를 통해 기업들은 초거대 인공지능 모델 학습 비용을 효율적으로 절감할 것이다”라고 말했다.

 

 

이 연구 결과는 방제현 박사과정이 제1 저자로 참여하였고 컴퓨터 아키텍처 분야의 최우수 학술대회 중 하나인 미국 전기전자공학회(IEEE)·전산공학회(ACM) 공동 마이크로아키텍처 국제 학술대회(MICRO)에서 지난 11월 발표됐다. (논문제목: vTrain: A Simulation Framework for Evaluating Cost-Effective and Compute-Optimal Large Language Model Training, https://doi.org/10.1109/MICRO61859.2024.00021)

 

이번 연구는 정부(과학기술정보통신부)의 재원으로 한국연구재단, 정보통신기획평가원, 그리고 삼성전자의 지원을 받아 수행되었으며, 과학기술정보통신부 및 정보통신기획평가원의 SW컴퓨팅산업원천기술개발(SW스타랩) 사업으로 연구개발한 결과물이다.

최근 인공지능 기술의 발전으로 챗GPT와 같은 대형 언어 모델(이하 LLM)은 단순한 챗봇을 넘어 자율적인 에이전트로 발전하고 있다. 구글(Google)은 최근 인공지능 기술을 무기나 감시에 활용하지 않겠다는 기존의 약속을 철회해 인공지능 악용 가능성에 대한 논란이 불거진 점을 상기시키며, KAIST 연구진이 LLM 에이전트가 개인정보 수집 및 피싱 공격 등에 활용될 수 있음을 입증했다.

 

우리 학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀이 실제 환경에서 LLM이 사이버 공격에 악용될 가능성을 실험적으로 규명했다. 현재 OpenAI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어 기법을 자체적으로 탑재하고 있다. 그러나 연구팀의 실험 결과, 이러한 방어 기법이 존재함에도 불구하고 쉽게 우회해 악의적인 사이버 공격을 수행할 수 있음이 확인됐다.

 

기존의 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리, LLM 에이전트는 이를 평균 5~20초 내에 30~60원(2~4센트) 수준의 비용으로 개인정보 탈취 등이 자동으로 가능하다는 점에서 새로운 위협 요소로 부각되고 있다.

연구 결과에 따르면, LLM 에이전트는 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었다. 또한, 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.

 

뿐만 아니라, 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성할 수 있었으며, 실험 참가자들이 이러한 피싱 이메일 내의 링크를 클릭할 확률이 46.67%까지 증가하는 것으로 나타났다. 이는 인공지능 기반 자동화 공격의 심각성을 시사한다.

 

제1 저자인 김한나 연구원은 “LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커진다는 것이 확인됐다”며, “LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다”고 말했다.

 

신승원 교수는 “ 이번 연구는 정보 보안 및 AI 정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며, 연구팀은 LLM 서비스 제공업체 및 연구기관과 협력하여 보안 대책을 논의할 계획이다”라고 밝혔다.

 

우리 학부 김한나 박사과정이 제1 저자로 참여한 이번 연구는 컴퓨터 보안 분야의 최고 학회 중 하나인 국제 학술대회 USENIX Security Symposium 2025에 게재될 예정이다. (논문명: “When LLMs Go Online: The Emerging Threat of Web-Enabled LLMs”, DOI: 10.48550/arXiv.2410.14569 )

 

한편 이번 연구는 정보통신기획평가원, 과학기술정보통신부 및 광주광역시의 지원을 받아 수행됐다.