DASCHOOL! Fall Special Discount
분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
도배 하자 질의 응답 처리 : 한솔데코 시즌2 생성 AI 경진대회
다들 gpu 어떤걸로 사용하시나요?
다들 7B 파라미터 정도는 쓰시는거 같던데... 코랩 A100 고용량으로 해도 gpu메모리 40기가로는 부족해서 터지는데 다들 하드웨어는 뭘로 쓰세요?...
그렇군요 1차 1등 축하드려요~ㅎㅎ
ㅎㅎ감사합니다
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
저희 팀은 A6000 2대 쓰고 있습니당 devie_map="auto"하면 GPU 총 vram을 활용할 수 있어서 적당한 모델은 돌아가는 듯 합니다.