[초보의 경량화 시도] Multi-Head Self-Attention

로그 분석을 통한 보안 위험도 예측 AI 경진대회

2021.04.26 23:01 5,179 조회 language

안녕하세요 데이터를 갓 배운 초보 입니다.

베이스라인 코드들을 참고하며 경량화를 시도해봤습니다.

아직 초보여서 부족한 코드 입니다ㅠㅠ

감사합니다.

코드

로그인이 필요합니다

comment

0 / 1000

함께하는우리

2021.04.27 18:00

좋은 코드 감사합니다! ㅎㅎ 기존 베이스 라인 학습 속도 보다 조금 느린거 같은데 혹시 어떤 부분이 경량화 된것일까요 ?? ㅎㅎ 감사합니다 !

우왕여긴어디일까요

2021.04.27 19:55

밑에 Self-Attention 코드보다 Attention 헤드수 등 논문 파라미터 경량화한 코드입니다.

촉촉한초코칩

2021.04.27 18:38

2나 6같은 숫자도 예측하고 싶은데 쉽지 않네요 ㅠㅠ

우왕여긴어디일까요

2021.06.07 14:04

현재 글

[초보의 경량화 시도] Multi-Head Self-Attention

대회 - 로그 분석을 통한 보안 위험도 예측 AI 경진대회

3년 전