분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
도배 하자 질의 응답 처리 : 한솔데코 시즌2 생성 AI 경진대회
다들 gpu 어떤걸로 사용하시나요?
다들 7B 파라미터 정도는 쓰시는거 같던데... 코랩 A100 고용량으로 해도 gpu메모리 40기가로는 부족해서 터지는데 다들 하드웨어는 뭘로 쓰세요?...
그렇군요 1차 1등 축하드려요~ㅎㅎ
ㅎㅎ감사합니다
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
직업정보제공사업 신고번호: J1204020250004
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io |
전화번호: 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
저희 팀은 A6000 2대 쓰고 있습니당 devie_map="auto"하면 GPU 총 vram을 활용할 수 있어서 적당한 모델은 돌아가는 듯 합니다.