AI in EEAI and machine learning are a key thrust in EE researchAI and machine learning are a key thrust in EE research
AI/machine learning efforts are already a big part of ongoing
research in all 6 divisions - Computer, Communication, Signal,
Wave, Circuit and Device - of KAIST EE
최근 인공지능 기술의 발전으로 챗GPT와 같은 대형 언어 모델(이하 LLM)은 단순한 챗봇을 넘어 자율적인 에이전트로 발전하고 있다. 구글(Google)은 최근 인공지능 기술을 무기나 감시에 활용하지 않겠다는 기존의 약속을 철회해 인공지능 악용 가능성에 대한 논란이 불거진 점을 상기시키며, KAIST 연구진이 LLM 에이전트가 개인정보 수집 및 피싱 공격 등에 활용될 수 있음을 입증했다.
우리 학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀이 실제 환경에서 LLM이 사이버 공격에 악용될 가능성을 실험적으로 규명했다. 현재 OpenAI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어 기법을 자체적으로 탑재하고 있다. 그러나 연구팀의 실험 결과, 이러한 방어 기법이 존재함에도 불구하고 쉽게 우회해 악의적인 사이버 공격을 수행할 수 있음이 확인됐다.
기존의 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리, LLM 에이전트는 이를 평균 5~20초 내에 30~60원(2~4센트) 수준의 비용으로 개인정보 탈취 등이 자동으로 가능하다는 점에서 새로운 위협 요소로 부각되고 있다.
< 그림 1. LLM 에이전트가 웹 기반 도구들을 사용하여 공격자(유저)의 요구에 따라 답변을 생성하는 과정이다. >
연구 결과에 따르면, LLM 에이전트는 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었다. 또한, 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.
뿐만 아니라, 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성할 수 있었으며, 실험 참가자들이 이러한 피싱 이메일 내의 링크를 클릭할 확률이 46.67%까지 증가하는 것으로 나타났다. 이는 인공지능 기반 자동화 공격의 심각성을 시사한다.
제1 저자인 김한나 연구원은 “LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커진다는 것이 확인됐다”며, “LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다”고 말했다.
< 그림 2. 메타의 CEO인 마크 저커버그의 이메일 주소만을 활용하여 LLM 에이전트 (Claude 사용)가 마크 저커버그를 대상으로 작성한 피싱 이메일 내용. LLM 에이전트가 스스로 대상자와 관련된 내용, 발신자, url 링크 문자 등을 설정한 것을 볼 수 있다. >
신승원 교수는 “ 이번 연구는 정보 보안 및 AI 정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며, 연구팀은 LLM 서비스 제공업체 및 연구기관과 협력하여 보안 대책을 논의할 계획이다”라고 밝혔다.
< 그림 3. Claude 기반 LLM 에이전트를 활용하여 얼마나 많은 사람들의 개인 정보를 수집할 수 있는지를 나타낸 실험 결과이다. 본 실험에서는 CS 교수들의 개인정보를 수집하였다. >
우리 학부 김한나 박사과정이 제1 저자로 참여한 이번 연구는 컴퓨터 보안 분야의 최고 학회 중 하나인 국제 학술대회 USENIX Security Symposium 2025에 게재될 예정이다. (논문명: “When LLMs Go Online: The Emerging Threat of Web-Enabled LLMs”, DOI: 10.48550/arXiv.2410.14569 )
한편 이번 연구는 정보통신기획평가원, 과학기술정보통신부 및 광주광역시의 지원을 받아 수행됐다.
우리 학부 최경철 교수님이 SID (Society for Information Display) 학회의 석학회원(Fellow)으로 선임되었습니다.
디스플레이 분야에서 IEEE(국제전기및전자학회)와 SID(국제정보디스플레이) 학회에서 동시에 석학회원으로 선정된 연구자는 전 세계적으로 단 10명뿐입니다. SID 에서는 매년 5명의 Fellow만을 산업적 기여도 및 연구 업적을 평가하여선임하고 있고, 최경철 교수는 ‘For pioneering development of truly wearable OLED displays using fiber and fabric substrates’ 연구 업적으로 2025년 SID Fellow로 선임되었습니다.
2018년에는 Merck Award를, 2022년도에는 UDC Innovative Research Award을 받은 바 있고, 2023년에도 Flexible display 연구 업적으로 IEEE Fellow로 선임된 바 있습니다.
최근 개발된 로봇들은 계란을 섬세하게 집는 수준에 이르렀는데, 이같은 결과는 손 끝에 집적된 압력 센서가 촉각 정보를 제공했기 때문이다. 그러나, 이러한 세계 최고 수준의 로봇들조차도 물 속, 굽힘, 전자기 간섭과 같은 복잡한 외부 간섭 요소들이 존재하는 환경에서 압력을 정확히 감지하는 것은 아직 어렵다. KAIST 연구진이 물기가 묻은 스마트폰 화면과 같은 환경에서도 외부 간섭 없이 안정적으로 작동하며, 인간의 촉각 수준에 근접한 압력 센서를 개발하는 데 성공했다.
우리 학부 윤준보 교수 연구팀이 비가 오거나 샤워 후 스마트폰 화면에 물이 묻으면, 터치가 엉뚱하게 인식되는 ‘고스트 터치’와 같은 외부 간섭의 영향을 받지 않으면서도 높은 해상도로 압력을 감지할 수 있는 압력 센서를 개발했다.
흔히 터치 시스템으로 사용되고 있는 정전용량 방식 압력 센서는 구조가 간단하고 내구성이 뛰어나 스마트폰, 웨어러블 기기, 로봇 등의 휴먼-머신 인터페이스(Human-Machine Interface) 기술에 널리 활용되고 있다. 그러나 물방울이나 전자기 간섭, 굴곡으로 인한 굽힘 등 외부 간섭 요소에 의해 오작동이 발생하는 치명적인 문제가 있었다.
< 그림 1. (왼쪽) 비가 오는 날 스마트폰 표면에 물이 묻은 경우 터치가 잘 되지 않을때의 모식도. (가운데) 간섭이 존재하는 상황에서 센서의 의도치 않은 오작동 모식도. (오른쪽) 정상 상황과 간섭이 존재하는 상황에서의 전기장 분포 시뮬레이션 결과. 간섭이 존재하는 경우 프린지 필드의 왜곡이 발생한다. >
연구팀은 이와 같은 문제를 해결하기 위해 우선 정전용량 방식 압력 센서에서 발생하는 간섭의 원인을 정확히 파악하고자 했다. 그 결과, 센서 가장자리에서 발생하는 ‘프린지 필드(Fringe Field)’가 외부 간섭에 극도로 취약한 것을 확인했다.
이를 근본적으로 해결하기 위해서는 문제의 원인인 프린지 필드를 억제해야 한다는 결론에 이르렀다. 따라서, 연구팀은 이론적 접근을 통해 프린지 필드에 영향을 미치는 구조적 변수들에 대해 집중적으로 탐구했고 전극 간격을 수백 나노미터(nm) 수준으로 좁힐 경우 센서에서 발생하는 프린지 필드를 수 퍼센트 이하로 억제할 수 있음을 확인했다고 밝혔다.
< 그림 2. (왼쪽) 본 연구에서 개발한 나노 갭 압력 센서의 사진. (가운데) 나노 갭 설계로 인해 프린지 필드가 억제되어 외부 간섭을 효과적으로 차단하는 모식도. (오른쪽) 실제로 제작된 나노갭 압력 센서의 전자 현미경 사진. >
연구팀은 독자적인 마이크로/나노 구조 공정 기술을 활용해 앞서 설계한 900나노미터(nm) 수준의 전극 간격을 갖는 나노 갭 압력 센서를 개발했다. 개발된 센서는 압력을 가하는 물질에 관계없이 압력만을 신뢰적으로 감지했으며 굽힘이나 전자기 간섭에도 감지 성능에 영향이 없는 것을 검증했다.
또한, 연구팀은 개발한 센서의 특성을 활용해 인공 촉각 시스템을 구현했다. 인간의 피부에는 메르켈 원반(Merkel’s disc)라는 압력 수용기가 있어 압력을 감지하는데, 이를 모사하기 위해서는 외부 간섭에는 반응하지 않고 오직 압력에만 반응하는 압력 센서 기술이 필요했지만 기존 기술들로는 이러한 조건을 만족시키기가 어려웠다.
윤준보 교수 연구팀이 개발한 센서는 이러한 제약을 모두 극복했으며, 밀도 또한 메르켈 원반 수준에 도달해 무선으로 정밀한 압력 감지가 가능한 인공 촉각 시스템을 구현하는 데 성공했다.
< 그림 3. (왼쪽) 인체의 압력 감지 방식과 이를 모사하기 위한 간섭에서 자유롭고 높은 해상도를 갖는 나노 갭 압력 센서의 모식도. (오른쪽) 나노갭 압력 센서를 활용해 구현한 무선 인공 촉각 시스템으로 물이 묻은 물체를 집는 모습. 표면에 물이 묻어도 반응하지 않으며 오직 압력만을 정밀하게 감지한다 >
더 나아가, 다양한 전자기기로의 응용 가능성을 확인하기 위해 포스 터치 패드 시스템 역시 개발해 압력의 크기와 분포를 간섭 없이 높은 해상도로 얻을 수 있음을 검증했다고 밝혔다.
윤준보 교수는 “이번 나노 갭 압력 센서는 비 오는 날이나 땀이 나는 상황에서도 기존 압력 센서처럼 오작동하지 않고 안정적으로 동작한다. 많은 사람들이 일상에서 겪어온 불편을 해소할 수 있을 것으로 기대한다.”라고 말했다. 이어 “앞으로 로봇의 정밀한 촉각 센서, 의료용 웨어러블 기기, 증강현실(AR) 및 가상현실(VR) 인터페이스 등 다양한 응용 분야에서 혁신적인 변화를 가져올 수 있을 것이다”고 덧붙였다.
< 그림 4. (왼쪽) 나노 갭 압력 센서를 활용해 구현한 포스 터치 패드 시스템과 센서 위에 물이 차있는 상황에 대한 모식도. (가운데) 포스 터치 패드 시스템을 활용해 물이 차있는 상황에서의 멀티 터치 측정 결과. (오른쪽) 센서 위에 물에 의한 간섭이나 교차간섭 없이 압력의 크기와 분포를 정밀하게 나타내는 3차원 측정 결과 >
우리 학부 전기및전자공학부 양재순 박사, 정명근 박사과정 그리고 성균관대 반도체융합공학과 유재영 조교수(KAIST 박사 졸업)가 제1 저자로 수행한 이번 연구는 저명 국제 학술지 ‘네이처 커뮤니케이션즈 (Nature Communications)’에 2025년 2월 27일 출판됐다. (논문 제목: Interference-Free Nanogap Pressure Sensor Array with High Spatial Resolution for Wireless Human-Machine Interfaces Applications, https://doi.org/10.1038/s41467-025-57232-8)
한편, 이번 연구는 한국연구재단의 중견연구지원사업과 선도연구센터지원사업의 지원을 받아 수행됐다.
KAIST 전기및전자공학부의 봄학기 콜로퀴움 강연 시리즈가 2025년 3월 13일 시작되었다.
첫 연사로 나선 Envision Partners 의 제현주 대표는 “Mindset of venture capitalist and entrepreneurship capturing a market opportunity” 란 주제로 투자자 시점에서 본 스타트업 현장의 이야기를 공유해 학생들의 많은 관심을 끌었다. 이후에도 이영 KAIST 초빙석좌교수 (전 중소벤처기업부 장관), 양자기술 전문가인 국립싱가폴대학의 Leong Chuan Kwek 교수 등 IT 분야의 다채로운 강의가 진행될 예정이다.
콜로퀴움 강연을 주관하는 최진석 교수는 “외부 강사 외에도 전기및전자공학부에 최근 부임한 신임교원과 창업 교원의 강연도 준비되었다고 밝히며, 구성원들의 많은 관심과 참여를 부탁한다”라고 전했다. 콜로퀴움 강연은 목요일 오후 4시 정보전자공학동 (E3-1) 제1공동강의실에서 진행된다. (상세 일정은 하단 포스터 참조)
우리 학부 한준규 박사(지도교수: 최양규)가 2025년 3월 1일부로 서울대학교 재료공학부 조교수로 임용되었습니다.
한준규 박사는 박사과정 중 반도체 소자 분야 연구를 활발히 수행하였으며, Science Advances, Advanced Science, Advanced Functional Materials, Nano Letters, IEDM 등 국제저명학술지와 학회에 90편 이상의 논문을 발표하였습니다.
한준규 박사는 2023년 2월 박사학위 취득 후 서울대학교 반도체공동연구소, 하버드대학교, 서강대학교 시스템반도체공학과에서 각각 박사후연구원, 방문연구원, 조교수로 재직하였습니다.
우리 학부 이시현 교수님이 정보이론 분야에서 가장 권위있는 학술지인 IEEE Transactions on Information Theory의 부편집장 (Associate Editor)으로 선임되었습니다.
IEEE Transactions on Information Theory는 1953년 창간되어 IEEE에서 가장 오래된 저널 중 하나이며, 정보의 표현, 저장, 전송, 처리 및 학습에 관한 이론적 연구를 다루는 대표적인 학술지입니다. 특히, 통신, 압축, 보안, 기계학습, 양자정보 등 다양한 정보 관련 분야에서 근본적인 원리와 응용을 탐구하는 연구를 중점적으로 게재하고 있습니다.
부편집장은 저널의 논문 심사 및 학술적 방향을 결정하는 핵심적인 역할을 수행하며, 학문적 발전을 주도하는 중요한 직책입니다. 특히, 이번 선임은 한국 대학 소속 연구자로서는 저널 창간 이후 70년여 년간 네 번째로 이루어진 성과로, 이 교수님의 연구 성과와 국제적인 학문적 기여가 높이 평가된 결과입니다.
이시현 교수님의 주요 연구 분야는 통신, 통계적 추론 및 기계학습 등 정보시스템에서의 정보이론적 한계 성능 분석 및 최적 기법 연구이며, 차세대 통신 및 지능형 시스템의 이론적 기반을 마련하는 데 기여하고 있습니다. 또한, 이 교수님은 정보이론 분야의 대표적인 국제 학회인 IEEE Information Theory Workshop의 프로그램 의장을 역임하였으며, IEEE Information Theory Society의 Distinguished Lecturer로 활동하며 최신 연구 동향을 학계에 전파하고, 정보이론 연구의 중요성을 널리 알리는 데 기여하고 있습니다.
반도체 설계 분야에서 세계적인 권위를 지닌 국제학회 ‘디자인콘(DesignCon) 2025’에서 우리 학부 김정호 교수님 연구실(KAIST TERA Lab) 신태인 박사가 ‘최우수 논문상’ 수상자로 선정됐습니다.
신태인 박사는 3년 전 ‘DesignCon 2022’에서도 최우수 논문상 수상자로 선정된 바 있습니다. 당시 김정호 교수님 연구실(KAIST TERA Lab)은 전체 논문 제출자 가운데 오직 8명에게만 주어지는 최우수 논문상의 영예를 신태인 박사를 포함해 김성국·최성욱·김혜연 씨 등 4명의 학생이 동시에 수상해 산·학·연 관계자들로부터 많은 관심을 받았습니다.
‘디자인콘(DesignCon)’은 반도체 및 패키지 설계 분야에서 권위를 인정받는 국제학회입니다. 인텔, 엔비디아, 구글, 마이크론, 램버스, 텍사스인스트루먼트(TI), AMD, IBM, 앤시스(ANSYS) 등 글로벌 빅테크 기업 소속 연구원과 엔지니어, 전 세계 유명 대학(원) 학생들이 해마다 미국 실리콘밸리에서 열리는 학술대회를 겸한 학회에 참가하고 있습니다.
‘디자인콘(DesignCon)’은 매년 6월 말 논문 초안을 모집하고 12월 말까지 접수된 전체 논문을 심사합니다. ‘디자인콘(DesignCon)’에 접수되는 논문은 대부분 실무와 밀접한 관련이 있거나 곧바로 제품에 적용할 수 있는 실용적인 기술에 관한 내용을 담고 있습니다.
접수된 전체 논문 가운데 20편 이내 논문이 최우수 논문상 후보로 뽑힙니다. 이후 열리는 학술대회에 해당 논문의 저자가 직접 참석해서 45분간의 구두 발표를 포함해, 엄중한 심사 절차를 거친 후 8편의 논문이 최우수 논문상으로 선정됩니다.
신태인 박사도 최우수 논문상 후보로 뽑힌 같은 연구실 소속 김혜연 박사과정 학생, 안현준 석사과정 학생과 함께 올 1월 28일부터 사흘간 미국 실리콘밸리 산호세에서 열린 ‘DesignCon 2025’ 국제학회에 참석해 구두 발표하는 과정을 거쳤습니다.
테라랩 관계자는 “신태인 박사는 2024년 말 접수, 채택된 전체 100여 편의 논문 중 해당 분야의 기술혁신에 기여한 점을 인정받아 심사위원들로부터 좋은 평가를 받았다”고 설명했습니다.
신 박사의 논문 주제는 ‘강화학습을 활용한 전력 잡음 지터 기반 HBM 통합 전력 무결성 설계(PSIJ Based Integrated Power Integrity Design for HBM Using Reinforcement Learning: Beyond the Target Impedance)’입니다.
이 논문에서 신 박사는 고대역폭 메모리(HBM) 패키지의 전력 무결성 설계를 위해 시간 정보가 포함된 전력 잡음 지터(Power supply noise induced jitter)를 기준으로, 지터에 영향을 주는 설계 요소를 인공지능(AI)을 활용, 설계를 최적화할 수 있다는 방법론을 제시해, 주목을 받았습니다.
특히 신 박사의 논문은 “기존 임피던스 기반의 전력 분배망 설계의 한계를, 인공지능 강화학습과 전력 잡음 지터를 활용해 효과적으로 전력 무결성을 향상, 설계할 수 있음을 검증한 점과 인공지능(AI)을 활용한 연구의 독창성 측면에서 심사위원들로부터 높은 평가를 받았다”고 테라랩 관계자는 강조했습니다.
신태인 박사는 “대규모 인공지능(AI) 구현을 위해 점점 더 고속화돼 가는 차세대 HBM 기반 패키지 시스템 설계에 있어, 제안한 방법론을 기반으로 반도체 신호 및 전력 무결성 설계의 토대를 마련하겠다”고 포부를 밝혔습니다.
김정호 교수 연구실은 올 3월 현재 석사과정 17명, 박사과정 10명 등 모두 27명의 학생이 반도체 전·후공정에 들어가는 다양한 패키지와 인터커넥션 설계를 강화·모방 학습과 같은 인공지능(AI) 머신러닝(ML)을 활용해 최적화하는 연구를 수행 중이다. 이 밖에 대규모 인공지능(AI) 구현을 위한 HBM 기반 컴퓨팅 아키텍트와 관련한 연구도 함께 진행 중입니다.
우리 학부 Advanced Devices for Energy Conversion (ADEC) Lab. 졸업생 김병수 박사 (지도교수: 이정용) 가 2025년 3월 1일부로 울산대학교 전기전자융합학부의 전임교원으로 임용되었습니다.
김병수 박사는 2023년 8월 KAIST 전기 및 전자공학부에서 박사학위를 취득한 후, 현재까지 KAIST 정보전자연구소에서 연구원으로 근무 중입니다.
주요 연구 분야는 양자점 기반의 고성능 태양전지 및 적외선 센서 신소자 구조 개발이며, 관련 연구 성과를 인정받아 Nature energy, Nature nanotechnology를 포함한 최상위 국제 저명 학술지에 다수의 논문을 게재한 바 있고, 한국연구재단으로부터 세종과학펠로우십에 선정된 바 있습니다.
향후 양자점 반도체를 활용하여 양자 큐비트 및 헬스케어 디바이스와 같은 첨단 전자 소자 개발에 주력하며, 관련 원천 기술을 확보하는 데 힘쓸 예정입니다.
