분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
건설공사 사고 예방 및 대응책 생성 : 한솔데코 시즌3 생성 AI 경진대회
Inference 소요시간
안녕하세요.
저는 테스트로 colab pro에서 돌리고 있는데요.
Fri Feb 28 13:35:15 2025 +-----------------------------------------------------------------------------------------+ | NVIDIA-SMI 550.54.15 Driver Version: 550.54.15 CUDA Version: 12.4 | |-----------------------------------------+------------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+========================+======================| | 0 Tesla T4 Off | 00000000:00:04.0 Off | 0 | | N/A 38C P8 9W / 70W | 0MiB / 15360MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ +-----------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID Usage | |=========================================================================================| | No running processes found | +-----------------------------------------------------------------------------------------+
혹시, baseline 코드 모두 돌리신 분들께서는
Inference 시간 얼마나 걸리셨나요?
local에서 돌리고 계신가요?
하하...그렇군요! 경험 공유 감사합니다!! 저도 목표가 colab에서 baseline 한 번 돌려보고, 모델 논문 찾아서 시도 한 번 해보는 것을 목표로 삼고 있어요.
5B짜리 모델로 하면 로컬에서 28시간 걸리네요!
(NVIDIA GeForce RTX 3050 Ti Laptop GPU)
경험 공유 감사합니다!!
전 3080으로 베이스라인코드 iter당 30초정도 걸렸습니다. 캐글은 무료기준 iter당 87초 걸리더라구요
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
직업정보제공사업 신고번호: J1204020250004
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io |
전화번호: 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
저는 오늘 시작해서 local에서 돌리는데, 대회참여 한 두번 더 했다가는 GPU 수명 다 하겠네요.