반응형

2025/05 2

Quantization 이해를 위한 기본 개념

진행하는 프로젝트를 위해 양자화에 대한 기본 개념을 이해하고자 다음 글을 작성한다. 목차는 크게 하단과 같은 4가지로 구성하였다.[목차]-. 양자화란? + 사용 방법-. Uniform vs Non-uniform-. Symmetric vs Asymmetric-. PTQ, QAT 등 양자화 방법 양자화큰 집합의 입력값을 작은 집합으로 mapping하는 과정으로, 함수 매핑이 본질Quantization은 float 32 값을 int8 혹은 그보다 작은 집합으로 mapping하는 과정을 말한다. 즉, floating point 숫자를 int8/4형으로 변환한다.위와 같이 양자화를 하게 되면 기존 데이터 대비 정보 손실이 발생하여 기존 모델 대비 정확도가 떨어져, 모델별 정확도와 하드웨어 효율을 위해서는 데이터..

공부/NPU 2025.05.26

[Verilog 팁] 폭 없는 파라미터에 ~ 썼다가 ||가 항상 TRUE 되는 함정

요약~(비트 NOT) + 사이즈 안 줬던 파라미터 → 32 bit로 확장돼서 사고 난다.!(논리 NOT) 은 1-bit 불리언이므로 조건식엔 얘가 안전하다.파라미터/상수엔 반드시 bit/logic 타입이나 [0:0] 식 크기를 붙여라.실무에서 if (~USE_EN || valid) 같은 식은 “항상 1”로 고정될 수 있다.→ 시뮬 파형 안 뜨고, 합성 땐 로직 통채로 날아감.👶 왜 이런 일이?상황 시뮬레이터 내부에서 벌어지는 일parameter USE_EN = 1; (폭 없음)32-bit 정수 32'h0000_0001 로 변신~USE_EN32'hFFFF_FFFE (LSB만 0)`~USE_EN → valid가 바뀌어도 결과는 1→ 파형 평평, 디버그 지옥. 🛠️ 실전 회피법체크리스트 한 줄 팁논리 조..

공부/Verilog 2025.05.02
728x90
반응형