DACON
search 구독 안내
알림 0

    MY XP

    XP 안내

    LEVEL 1

    다음 레벨까지 150 XP

    0/150 XP

    오늘의 XP

    0 / 800

    전체 XP

    0

    적립 XP

    0

    사용 XP

    0
    dacon logo

    SNS 계정으로 로그인

    google 구글 로그인 facebook 페이스북 로그인
    아직 데이콘 계정이 없나요? 회원가입
    메일 인증 필요

    로그인 하시려면 아래 이메일로 인증이 필요합니다. 이메일을 다시 보내시겠습니까?
    [데이콘] 회원가입 인증메일

    데이콘 회원가입을 환영합니다. 메일 인증은 데이콘 회원가입을 위한 필수 절차입니다. 아래 이메일을 인증하여 회원가입 절차를 완료하여 주시기 바랍니다.

    이용약관

    개인정보 처리방침

    마케팅 정보 수신 동의

    도배 하자 질의 응답 처리 : 한솔데코 시즌2 AI 경진대회

    알고리즘 | 언어 | LLM | MLOps | QA | Cosine Similarity

    • moneyIcon 상금 : 1000만 원
    • 1,381명 마감
    연습
    대회안내 데이터 코드 공유 토크 리더보드

     

    [Public 11th/ Private 22nd] llama2-koen-13b + QLora 4Bit

    DongBee

    공동작성자

    stroke
    2024.03.11 10:57 988 조회 language
    comments 1

    4090 4개를 사용하긴 했지만 QLora를 사용했기 때문에 20GB 이상의 VRAM 환경에서는 정상적으로 학습이 돌아갑니다.

    코드
    댓글 1개
    로그인이 필요합니다
    0 / 1000
    다냐니라
    2024.04.03 09:44

    퍼블릭 0.8이상 나오신 분들 솔루션 궁금했는데 감사합니다!
    단일 모델로 퍼블릭 0.8이 넘나보네요... 
    감사합니다

    📣 댓글 작성 창의 위치가 댓글 리스트 상단으로 이동하였습니다!
    to_list 목록으로
    이전 글
    [Private27] 코드공유
    대회 - 도배 하자 질의 응답 처리 : 한솔데코 시즌2 AI 경진대회
    좋아요 7
    조회 242
    댓글 0
    2달 전
    현재 글
    [Public 11th/ Private 22nd] llama2-koen-13b + QLora 4Bit
    대회 - 도배 하자 질의 응답 처리 : 한솔데코 시즌2 AI 경진대회
    좋아요 13
    조회 988
    댓글 1
    2달 전
    다음 글
    QLoRA + 4bit quantization + LDCC-SOLAR-10.7B(≈9GB vram used)
    대회 - 도배 하자 질의 응답 처리 : 한솔데코 시즌2 AI 경진대회
    좋아요 25
    조회 3,260
    댓글 15
    3달 전