Aimers 8기 : 모델 경량화 온라인 해커톤

LG Aimers | 채용 | 알고리즘 | LLM | 코드제출 | 경량화

본선 진출
1,536명 마감

마감

대회안내 데이터 코드 공유 토크 리더보드

제출

team Taehorizon

Taehorizon

공동작성자

2026.04.10 23:24 643 조회 language

FP8 양자화
llmcompressor의 oneshot 파이프라인과 QuantizationModifier를 사용해, Linear 계층만 FP8으로 후처리 양자화했습니다. 별도 재학습 없이 calibration 데이터만으로 양자화를 수행하는 구조입니다.

calibration 데이터셋을 구성
양자화 calibration을 위해 한국어 모델의 실제 사용 패턴을 반영한 텍스트 세트를 구성했습니다. 데이터는 instruction-following 샘플, 기초 QA 샘플, AI/모델 경량화 관련 기술 문장으로 나누어 설계했으며 256개 calibration 텍스트로 확장

코드

댓글 0개

로그인이 필요합니다

comment

0 / 1000

📣 댓글 작성 창의 위치가 댓글 리스트 상단으로 이동했습니다!

목록으로

이전 글이 존재하지 않습니다.

현재 글

team Taehorizon

대회 - Aimers 8기 : 모델 경량화 온라인 해커톤

3달 전

team IBDP

대회 - Aimers 8기 : 모델 경량화 온라인 해커톤

3달 전