noti 0

    MY XP

    XP Info

    LEVEL 1

    Until Next Level 150 XP

    0/150 XP

    Today's XP

    0 / 800

    Total XP

    0

    Earned XP

    0

    Spent XP

    0

    Sign in with your SNS accounts

    google
    Sign in with Google
    Don't have an account? Sign Up
    Verify your email

    To sign up, you must verify your email. Do you want to resend the code?
    [Dacon] sign up verification

    Your email must be verified to complete the sign up process. Please verify your email below to complete.

    Terms of Use

    Privacy policy

    Consent to receive marketing information

    Aimers 8기 : 모델 경량화 온라인 해커톤

    vllm serving 관련하여 pruning을 진행했을 때 에러가 발생할지 문의드립니다.

    아니가디
    2026.02.10 22:30 838 Views
    comments 1

    structure pruning 을 진행하여 레이어 별로 헤드 개수를 다르게 제거해줬을 때, 예를들어

    model.layers[0].self_attn.num_attention_heads 는 5개이고, model.layers[4].self_attn.num_attention_heads는 12개로 줄여줬을때 모델의 레이어마다 attention 헤드 개수가 달라지는데 vLLM은 "모든 레이어의 Head 개수는 config.num_atention_heads로 동일하다"라는 제약사항이 있는것으로 확인이 되어 커스텀 config 를 따로 만들어서 헤드 개수를 관리해도 평가되는 서버에서 vLLM을 사용한다면 제출 에러가 발생할까요?


    1 Comments
    Login Required
    0 / 1000
    DACON.PSH
    2026.02.11 10:09

    본 대회 제출물은 고정된 평가 서버 환경에서 정상 작동해야 하며, 온라인 해커톤(Phase2)에서는 vLLM 수정은 허용되지 않습니다. 
    config.json 파일은 수정가능하나, 규칙 위반 혹은 악용 사례가 발견되는 경우에는 불이익이 주어질 수 있습니다.

    📣 The comment input field has been moved to the top of the comment list!
    to_list List
    Previous
    submission server에서 발생하는 오류를 해결할 방법을 찾고 싶습니다.
    Competition - Aimers 8기 : 모델 경량화 온라인 해커톤
    Likes 8
    Views 948
    Comments 3
    24일 전
    Current
    vllm serving 관련하여 pruning을 진행했을 때 에러가 발생할지 문의드립니다.
    Competition - Aimers 8기 : 모델 경량화 온라인 해커톤
    Likes 6
    Views 838
    Comments 1
    25일 전
    Next
    양수양도 계약서 관련 문의
    Competition - Track2 아이디어 개발 부문 : K리그-서울시립대 공개 AI 경진대회
    Likes 0
    Views 94
    Comments 1
    24일 전