커널밀도추정을 이용한 신경망 기반 객체 인식 모델 연결가중치 양자화 장치 및 그 방법

초록

본 발명은 합성곱 신경망의 연결가중치 양자화 장치에서 양자화 구간을 결정하는 연결가중치의 수를 줄일 수 있는 커널밀도추정을 이용한 양자화 장치이다. 본 발명은 객체 인식 모델의 연결가중치로부터 커널밀도추정을 수행하여 커널밀도함수를 구성하고, 추정한 커널밀도함수로부터 소량의 데이터를 샘플링하여 k-평균 군집화 방법을 이용한 양자화를 수행하거나, 샘플링된 데이터로 다시 한 번 커널밀도추정을 수행하여 또 다른 커널밀도함수를 구성한 뒤, 이를 이용하여 Lloyd-max 양자화를 수행한다. 본 발명은 이와 같은 방법을 통해 양자화 구간을 결정하는 연결가중치의 수를 줄임으로써 연결가중치 양자화에 필요한 소요시간을 감소시켜 양자화와 신경망의 재학습의 반복 구성되는 전체 학습의 소요시간을 단축시켜 신경망의 응용 효율성을 제고한다.