IO-Gov: I/O 부하 반응형 CPU 거버너의 성능 및 탄소 배출량 최적화

Abstract

최근 대규모 언어 모델(LLM)과 같은 인공지능 기술의 발전으로 인해 데이터센터의 에너지 소비가 증가하고 있으며, 이에 따른 전력 소모와 탄소 배출량을 줄이는 것은 중요한 과제이다. 기존 리눅스 CPU 거버너들은 CPU 부하를 기반으로 주파수를 조정하지만, I/O 지표를 고려하지 않아 I/O 대기시간이 높은 수준일 때 비효율적인 주파수 조정이 발생할 수 있다. 본 연구에서는 I/O 대기시간(iowait)과 I/O 처리량 변화율(ΔBps)을 실시간으로 분석하여 CPU 주파수를 동적으로 조정하는 IO-Gov 거버너를 제안한다. IO-Gov는 I/O 성능을 유지하면서 탄소 배출량을 줄이는 것을 목표로 하며, 이를 검증하기 위해 다양한 I/O 워크로드에서 기존 리눅스 CPU 거버너들과 비교 실험을 수행하였다. 실험 결과, IO-Gov는 I/O 집약적인 환경에서 기존 리눅스 CPU 거버너 대비 일부 워크로드에서 성능 향상과 운영 탄소 배출량 감소 측면에서 개선 효과를 보였다.