대규모 언어모델(LLM)과 Agentic AI 시스템의 확산으로 인해 데이터 처리량과 메모리 대역폭에 대한 요구가 급격히 증가하고 있습니다. 기존의 High Bandwidth Memory(HBM)는 높은 대역폭을 제공하지만, 용량 측면에서 차세대 AI 워크로드를 모두 수용하기에는 한계가 존재합니다.

본 세미나에서는 NAND 플래시를 수직 적층한 차세대 메모리 구조인 HBF(High Bandwidth Flash)를 소개하고, GPU–HBM–HBF 기반 시스템에서의 AI 학습 및 추론 워크로드 분석 결과를 공유합니다. 또한 멀티모달 AI를 위한 HBM–HBF 하이브리드 메모리 아키텍처와 메모리 중심 컴퓨팅(Memory-Centric Computing), 근접 메모리 연산(Near-Memory Computing) 구조에 대해 논의합니다.

아울러 신호 무결성(Signal Integrity), 전력 무결성(Power Integrity), 열 문제 및 TSV, 인터포저 등 첨단 패키징 기술을 포함한 설계 고려 사항을 다루고, KAIST TERA Lab의 최신 연구 결과를 바탕으로 차세대 AI 메모리 계층 구조와 HBF 기술 로드맵을 제시합니다.

ZOOM 접속 정보

• ZOOM Link: https://us02web.zoom.us/j/2885283810?pwd=OUtNOGl0anRscURoQjRuUHkzUUFWUT09
• Meeting ID: 288 528 3810
• Password: kaist1234

[발표 일정]