우리 학부 심현철 교수 연구팀이 2025년 4월 12일 아랍에미리트(UAE) 정부 후원으로 개최된 아부다비 자율 레이싱 대회(Abu Dhabi Autonomous Racing League, 이하 A2RL)의 드론 챔피언십 리그( Drone Championship League, 이하 DCL)에서 세계 3위를 차지했다.

아부다비 국립 전시 센터 마리나(ADNEC Marina) 대회장에서 개최된 본 선 대회에서는 2024년 가을 예선을 통해 선발된 14개 팀들이 참가해 실력을 겨뤘다. 참가팀들은 ▲최단 비행시간 경연(AI Grand Challenge), ▲4대동시 자율비행, ▲양쪽에서 마주 보면서 고속으로 비행하는 드래그 레이싱, ▲AI 대 인간 조종사 대결 등 총 4개 부문에서 경합을 벌였다.

그 중 8개 팀이 최단 비행시간 경연 준결승에 진출했고, 이 중 KAIST는 네덜란드 델프트공대(TU Delft), UAE 기술혁신연구소(TII), 체코 공과대학(Czech Technical University, CTU)와 함께 결승에 올랐다.

결승에서는 델프트 공대가 1위를 차지했으며, UAE 기술혁신연구소가 2위, 우리 학부 심현철 교수 연구팀은 그 뒤를 이어 세계 종합 3위의 성과를 거두었다.

또한, 심현철 교수팀은 세계 최초로 개최된 자율비행 드론의 동시 자율비행에서 2위를, 양쪽에서 동시에 마주 보며 출발하는 드래그 레이싱(drag racing)에서도 2위를 차지하며 뛰어난 성과를 거두었다.

심 교수팀은 팀장인 한동훈 박사과정을 비롯해 마울라나 아자리(Maulana Azhari) 박사과정, 유제인 석사과정, 박성준 석사과정 등 총 4명으로 구성되어 있으며, 자체 개발한 영상기반 측위 기술과 고기동 비행 제어 기술을 바탕으로 우수한 기량을 선보여 총 10만 5천달러의 상금을 수상하게 되었다.

이번 대회는 외부 카메라나 라이다(LiDAR) 없이 단안 카메라만을 활용하여 자율 비행 드론에 적용한 최초의 국제 대회로, 총 12개의 게이트가 설치된 실내 경연장에서 진행되었다. 상금 총액은 100만 달러에 달하며, 드론 기술의 미래를 선도하는 경쟁의 장이 되었다.

A2RL DCL 자율비행 대회는 2017년 세계적인 로봇 기술 경연대회인 MBZIRC(Mohamed Bin Zayed International Robotics Competition) 이후 UAE 정부 지원으로 개최된 5번째 대규모 로보틱스 경진대회이다.

특히 이번 대회와 같은 카메라 기반 자율비행 드론 레이싱은 단순한 E-sports를 넘어서 현대전에 게임 체인저로 등장한 1인칭 시점(FPV) 드론에 직접적으로 적용될 수 있는 중요한 기술로서, 세계적으로 주목받고 있다.

심현철 교수는 “코로나로 인한 대회 중단과 연구팀 재편 등 연구 공백과 고속 비행을 제대로 실험할 환경을 구하기 어려운 여건 속에서도, 독자적인 측위 및 제어 기술을 완성해 결국 세계 유수의 연구팀들을 제치고 값진 성과를 거둘 수 있었다”고 밝혔다. 이어 “이번 결과에 만족하지 않고, 더욱더 경쟁력 있는 연구 역량 및 환경을 갖출 수 있다면 앞으로 열릴 국제 대회에서는 압도적인 기술력으로 세계 최고 수준의 성과를 만들어내겠다”고 각오를 전했다.

심 교수는 2016년 세계적인 로봇 학회 IROS에서 세계 최초로 자율드론 레이싱을 개최한 자율 드론 레이싱 분야의 선구자이며, 같은 대회에서 2016년, 2018년 각각 우승 및 준우승을 차지했다.

또한, 2019년 미국 록히드 마틴(Lockheed Martin)사가 주최한 AlphaPilot 자율 드론 AI 경진대회에서는 3위를, 2019년, 2020년 과기정통부가 개최한 AI 그랜드 챌린지 드론 실내비행 부분에서 2회 연속 우승을 거두며 총 24억원의 후속 연구비를 지원받는 등 꾸준히 우수한 성과를 거두었다.

더불어 2024년 해양 환경에서 자율 로봇(무인 보트, 드론 등)의 기술 능력을 겨루는 국제 대회인 MBZIRC 해양 챌린지(Maritime Challenge)에서 KAIST 기계공학부 김진환 교수팀과 공동으로 참여하여 2등을 차지한 바 있다. 

최근 챗GPT, 딥시크(DeepSeek) 등 초거대 인공지능(AI) 모델이 다양한 분야에서 활용되며 주목받고 있다. 이러한 대형 언어 모델은 수만 개의 데이터센터용 GPU를 갖춘 대규모 분산 시스템에서 학습되는데, GPT-4의 경우 모델을 학습하는 데 소모되는 비용은 약 1,400억 원에 육박하는 것으로 추산된다. 한국 연구진이 GPU 사용률을 높이고 학습 비용을 절감할 수 있는 최적의 병렬화 구성을 도출하도록 돕는 기술을 개발했다.

우리 학부 유민수 교수 연구팀은 삼성전자 삼성종합기술원과 공동연구를 통해, 대규모 분산 시스템에서 대형 언어 모델(LLM)의 학습 시간을 예측하고 최적화할 수 있는 시뮬레이션 프레임워크(이하 vTrain)를 개발했다.

대형 언어 모델 학습 효율을 높이려면 최적의 분산 학습 전략을 찾는 것이 필수적이다. 그러나 가능한 전략의 경우의 수가 방대할 뿐 아니라 실제 환경에서 각 전략의 성능을 테스트하는 데는 막대한 비용과 시간이 들어간다.

이에 따라 현재 대형 언어 모델을 학습하는 기업들은 일부 경험적으로 검증된 소수의 전략만을 사용하고 있다. 이는 GPU 활용의 비효율성과 불필요한 비용 증가를 초래하지만, 대규모 시스템을 위한 시뮬레이션 기술이 부족해 기업들이 문제를 효과적으로 해결하지 못하고 있는 상황이다.

이에 유민수 교수 연구팀은 vTrain을 개발해 대형 언어 모델의 학습 시간을 정확히 예측하고, 다양한 분산 병렬화 전략을 빠르게 탐색할 수 있도록 했다.

연구팀은 실제 다중 GPU 환경에서 다양한 대형 언어 모델 학습 시간 실측값과 vTrain의 예측값을 비교한 결과, 단일 노드에서 평균 절대 오차(MAPE) 8.37%, 다중 노드에서 14.73%의 정확도로 학습 시간을 예측할 수 있음을 검증했다.

연구팀은 삼성전자 삼성종합기술원와 공동연구를 진행하여 vTrain 프레임워크와 1,500개 이상의 실제 학습 시간 측정 데이터를 오픈소스로 공개(https://github.com/VIA-Research/vTrain)하여 AI 연구자와 기업이 이를 자유롭게 활용할 수 있도록 했다.

유민수 교수는 “vTrain은 프로파일링 기반 시뮬레이션 기법으로 기존 경험적 방식 대비 GPU 사용률을 높이고 학습 비용을 절감할 수 있는 학습 전략을 탐색하였으며 오픈소스를 공개하였다. 이를 통해 기업들은 초거대 인공지능 모델 학습 비용을 효율적으로 절감할 것이다”라고 말했다.

이 연구 결과는 방제현 박사과정이 제1 저자로 참여하였고 컴퓨터 아키텍처 분야의 최우수 학술대회 중 하나인 미국 전기전자공학회(IEEE)·전산공학회(ACM) 공동 마이크로아키텍처 국제 학술대회(MICRO)에서 지난 11월 발표됐다. (논문제목: vTrain: A Simulation Framework for Evaluating Cost-Effective and Compute-Optimal Large Language Model Training, https://doi.org/10.1109/MICRO61859.2024.00021)

이번 연구는 정부(과학기술정보통신부)의 재원으로 한국연구재단, 정보통신기획평가원, 그리고 삼성전자의 지원을 받아 수행되었으며, 과학기술정보통신부 및 정보통신기획평가원의 SW컴퓨팅산업원천기술개발(SW스타랩) 사업으로 연구개발한 결과물이다.

최근 인공지능 기술의 발전으로 챗GPT와 같은 대형 언어 모델(이하 LLM)은 단순한 챗봇을 넘어 자율적인 에이전트로 발전하고 있다. 구글(Google)은 최근 인공지능 기술을 무기나 감시에 활용하지 않겠다는 기존의 약속을 철회해 인공지능 악용 가능성에 대한 논란이 불거진 점을 상기시키며, KAIST 연구진이 LLM 에이전트가 개인정보 수집 및 피싱 공격 등에 활용될 수 있음을 입증했다.

우리 학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀이 실제 환경에서 LLM이 사이버 공격에 악용될 가능성을 실험적으로 규명했다. 현재 OpenAI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어 기법을 자체적으로 탑재하고 있다. 그러나 연구팀의 실험 결과, 이러한 방어 기법이 존재함에도 불구하고 쉽게 우회해 악의적인 사이버 공격을 수행할 수 있음이 확인됐다.

기존의 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리, LLM 에이전트는 이를 평균 5~20초 내에 30~60원(2~4센트) 수준의 비용으로 개인정보 탈취 등이 자동으로 가능하다는 점에서 새로운 위협 요소로 부각되고 있다.

연구 결과에 따르면, LLM 에이전트는 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었다. 또한, 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.

뿐만 아니라, 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성할 수 있었으며, 실험 참가자들이 이러한 피싱 이메일 내의 링크를 클릭할 확률이 46.67%까지 증가하는 것으로 나타났다. 이는 인공지능 기반 자동화 공격의 심각성을 시사한다.

제1 저자인 김한나 연구원은 “LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커진다는 것이 확인됐다”며, “LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다”고 말했다.

신승원 교수는 “ 이번 연구는 정보 보안 및 AI 정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며, 연구팀은 LLM 서비스 제공업체 및 연구기관과 협력하여 보안 대책을 논의할 계획이다”라고 밝혔다.

우리 학부 김한나 박사과정이 제1 저자로 참여한 이번 연구는 컴퓨터 보안 분야의 최고 학회 중 하나인 국제 학술대회 USENIX Security Symposium 2025에 게재될 예정이다. (논문명: “When LLMs Go Online: The Emerging Threat of Web-Enabled LLMs”, DOI: 10.48550/arXiv.2410.14569 )

한편 이번 연구는 정보통신기획평가원, 과학기술정보통신부 및 광주광역시의 지원을 받아 수행됐다.