2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

안녕하십니까, SKKU brAIn 팀입니다.

참가자 여러분들께 보다 나은 실험 환경을 제공해드리고자, 저희가 최적화한 baseline 코드를 공유드리고자 합니다. 다양한 환경에서도 원활한 실험이 가능하도록 모델의 경량화 및 실행 효율을 중심으로 개선을 진행하였습니다.

특히, 이번에 공개드리는 baseline 코드는 4bit 및 8bit quantization을 적용하여 메모리 사용을 최소화하였습니다. 4bit quantization의 경우 약 10GB VRAM 환경에서도 충분히 실행 가능하며, 8bit quantization은 24GB VRAM에서 무리 없이 동작합니다. 또한, PyTorch의 compile 기능을 활용하여 모델 실행 속도를 개선하였고, 데이터 로딩 과정 역시 최적화하였습니다.

최적화된 baseline은 아래 명령어를 통해 실행하실 수 있습니다:
" python baseline.py --save_dir baseline --batch_size 16 --use_compile --num_workers 8 --use_quantization "
--use_quantization 옵션을 제거하실 경우 full precision 환경에서 실행됩니다. 시스템 사양에 따라 --batch_size 등의 하이퍼파라미터는 조정이 필요할 수 있으니 참고 부탁드립니다.

이번 baseline 공유가 참가자 여러분들께 실질적인 도움이 되기를 바라며, 앞으로도 서로의 성장을 도울 수 있는 소중한 기회가 되기를 진심으로 바랍니다. 

추가적으로 궁금하신 점이나 실행 과정에서 어려움이 있으시다면, 언제든지 아래 메일로 문의 주시기 바랍니다.
📧 gms5560@g.skku.edu
성심껏 답변드리겠습니다. 감사합니다.