엣지 환경에서 LLM 학습을 위한 전력 소비 분석 연구

초록

최근 엣지 디바이스 기반의 실시간 생성형 인공지능 수요가 증가함에 따라, 전력 및 자원이 제한된 환경에서의 온디바이스 파인튜닝 기술이 주목받고있다. 본 연구에서는 NVIDIA Jetson Xavier NX와 Orin Nano에서 GPT-2 Small 및 DistilGPT2 모델의 학습을 수행하고, 소요 시간과 에너지소비를측정·분석하였다. 실험 결과는 엣지 환경에서의 에너지 효율적인 LLM 배포 프레임워크 설계에 기여할 수 있을 것으로 기대된다.

발행기관
한국통신학회 2025
최다은
최다은
Backend Developer

전북대학교 IT정보공학과 재학 중인 백엔드 개발자입니다.

최다은
최다은
Backend Developer

전북대학교 IT정보공학과 재학 중인 백엔드 개발자입니다.