협업 기계 학습에서의 통신 상황을 고려한 학습과 추론 연산 분배에 대한 분석 연구

초록

인공지능 기술과 이를 뒷받침 해줄 수 있는 컴퓨팅 기술의 발전으로 인해 매우 많은 영역에서 인공지능 기술을 활용한 서비스를 제공하고 있다. 이와 더불어 네트워크와 클라우드(Cloud) 기술의 발전으로 인해 인공지능의 학습(Training)과 추론(Inferencing)을 클라우드에서 수행함으로써 컴퓨팅 성능이 낮은 기기들 또한 인공지능을 직접적으로 활용할 수 있다. 최근에는 클라우드 뿐 아니라 모바일 기기들이 함께 학습과 추론을 위한 연산들을 나누어 수행하고 이를 다시 종합하는 협업 기계 학습은 많은 주목을 받고 있는 학습 기법들 중 한 형태이다. 이러한 형태의 학습의 경우, 모바일 기기들을 활용하여 학습하고 추론 연산을 수행할 때, 응용의 성능뿐 아니라 통신 상황과 그로 인한 지연시간 및 모바일 기기들에서 소모되는 전력을 종합적으로 고려하는 것은 매우 중요하다. 따라서 본 논문에서는 클라우드와 연결된 멀티 홉 기반의 네트워크에서 협업 기계 학습을 수행할 때, 학습 및 추론 연산 분배에 따른 주요 사례(All in-cloud, Training in-cloud, All on-device)들에 대해, 통신 상황을 고려하여 지연시간과 소모 전력에 대한 분석을 수행하였다. 분석을 통해, 통신 상황을 고려하여 학습 및 추론 연산 분배 방식을 선택해야 함을 보였으며, 멀티 홉 네트워크인 경우 홉 수가 증가할수록 통신 상황에 따른 오버헤드가 급격히 증가될 수 있음을 보였다.