
진행하는 프로젝트를 위해 양자화에 대한 기본 개념을 이해하고자 다음 글을 작성한다. 목차는 크게 하단과 같은 4가지로 구성하였다.[목차]-. 양자화란? + 사용 방법-. Uniform vs Non-uniform-. Symmetric vs Asymmetric-. PTQ, QAT 등 양자화 방법 양자화큰 집합의 입력값을 작은 집합으로 mapping하는 과정으로, 함수 매핑이 본질Quantization은 float 32 값을 int8 혹은 그보다 작은 집합으로 mapping하는 과정을 말한다. 즉, floating point 숫자를 int8/4형으로 변환한다.위와 같이 양자화를 하게 되면 기존 데이터 대비 정보 손실이 발생하여 기존 모델 대비 정확도가 떨어져, 모델별 정확도와 하드웨어 효율을 위해서는 데이터..