사전학습 모델 관련 질문사항

뉴스 그룹 분류 AI 해커톤

사전학습 모델 관련 질문사항

Pobredward

2022.04.11 14:30 1,382 조회

대회 규칙에 보면 사전학습 모델 사용을 금한다고 나와있더라고요

그렇다면 BERT 사전학습 모델도 사용이 안 되는 것인가요?

NLP 대회인지라 저도 아무 생각 없이 BERT를 이용하였고, 코드 공유에도 BERT를 어느 분께서 올려주셔서요,,,!

* 참고로 저는 bert-sklearn 모듈 사용하였습니다

댓글 3개

로그인이 필요합니다

comment

0 / 1000

zyno

2022.04.12 00:14

pretrained model은 사용하면 안되지 않나요? 규칙으로만 봤을때는 그렇게 나와있어서 말해봅니다!

Pobredward

2022.04.12 10:23

아무래도 그럴 것 같네요 ㅎㅎ,, NLP의 필수인 BERT를 저 이외에도 많은 분들이 쓰셨을 것 같아서요 🥲

Pobredward

2022.04.12 11:41

bert-sklearn이나 BertForSequenceClassification같은 모듈을 이용한 pre-trained BERT는 금지라고 생각하는데
https://neptune.ai/blog/how-to-code-bert-using-pytorch-tutorial
위와 같이 BERT를 pytorch로 직접 구현하는 건 허용이 되는 건가요? 아니면 super 상속을 받아서 이것도 금지되는건가요?

📣 댓글 작성 창의 위치가 댓글 리스트 상단으로 이동하였습니다!

현재 글

사전학습 모델 관련 질문사항

대회 - 뉴스 그룹 분류 AI 해커톤

3년 전

상위권 솔루션에 대한 질문

대회 - 한국어 문서 생성요약 AI 경진대회

3년 전