분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
[Private 4th] HF - Wav2Vec 2.0
Huggingface의 Pretrained Wav2Vec2.0 모델을 학습하여 Soft-Vote 앙상블 하였습니다.
모델 학습 시 사용한 기법으로는
1. 10-Fold Cross Validation : 데이터는 10 Fold로 나누되, 시간 여건 상 5 Fold까지만 학습하여 사용했습니다.
2. 임베딩 모델과 분류 헤드에 다른 Learning Rate 적용 : 임베딩 모델은 Pretrained 되어 있기 때문에 임베딩 모델에는 LR * 0.2 값을 사용하고, 분류 헤드에는 원 LR을 그대로 적용하여 학습했습니다.
3. 오디오 데이터 증강 사용 : audiomentations를 사용하여 여러가지 오디오 데이터 증강 기법을 사용하였습니다.
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved