Aimers 8th : Model Compression Offline Hackathon

본 해커톤의 경우 별도의 학습/평가 데이터를 제공하지 않지만 기본 모델(LGAI-EXAONE/EXAONE-4.0-1.2B)이 제공됩니다.

제공 자료는 팀 별 제공되는 클라우드 GPU 서버 내 /workspace 경로에 내장되어 있으며 별도 다운로드 파일은 제공하지 않습니다.

참가자는 제공되는 기본 모델(LGAI-EXAONE/EXAONE-4.0-1.2B)에서 경량화를 수행해야 합니다.

[제공 자료 구조]

/workspace

├── base_model/

│   ├── assets/

│   ├── .gitattributes

│   ├── chat_template.jinja

│   ├── config.json

│   ├── generation_config.json

│   ├── LICENSE

│   ├── merges.txt

│   ├── model.safetensors

│  ├── README.md

│   ├── special_tokens_map.json

│   ├── tokenizer_config.json

│   ├── tokenizer.json

│   └── vocab.json

│

├── baseline.ipynb

├── build_vllm_whl_guide.ipynb

└── dacon_submit_api-0.1.2-py3-none-any.whl

[주요 구성]

• base_model/: hugging face 에서 다운받은 LGAI-EXAONE/EXAONE-4.0-1.2B(기본 모델)을 포함한 폴더
• 본 대회에서 경량화 대상이 되는 원본 모델이며, 참가자는 해당 모델을 기준으로 경량화 기법을 적용해야 합니다.
• baseline.ipynb: 베이스라인 기반으로 제출 파일 생성부터 API 제출까지의 전체 과정을 담은 예제 코드 (제출 후 채점 대기 시간을 제외한 실제 채점 시간은 약 20분 소요)
• build_vllm_whl_guide.ipynb: vLLM 커스터마이징 시, 코드 제출 대회에 제출 가능한 .whl 파일 생성 가이드 코드
• dacon_submit_api-0.1.2-py3-none-any.whl: 데이콘 리더보드 API 제출용 패키지 (제공 서버에 기본 설치되어 있어 별도 설치 불필요)