커뮤니티 대회 교육

월간 데이콘 기계 고장 진단 AI 경진대회

알고리즘 | 음향 | 비지도학습 | 이상치 탐지 | Macro F1 Score

  • moneyIcon 상금 : 인증서
  • 663명 마감

 

[Private: 0.96225, 7th] VAE, RaPP, Residual 등

공동작성자

stroke
2023.01.22 01:49 358 조회 language

안녕하세요.
회사에 다니면서 AI를 배우고, 제품에 적용하기 위해 진동 데이터 이상 탐지 중점으로 많이 공부해오던 사람으로서, 우연히 DACON을 알게 되고 업무와 근사한 주제라서 이 대회를 첫 대회로 참석했습니다.

제가 적용한 코드 중 약간의 차별점이라면
1. Residual
2. RaPP (NAP)
이 두 가지입니다.

1. Residual은 학습하는데 Train Loss가 자꾸 높게 발생해서 Loss를 줄이기 위해 적용했었는데... 제가 코드를 잘 못 짜서인지 이해도가 없어서인지 잘 줄어들지는 않더라고요.
(Residual 적용하신 실력자분 코드도 기다립니다 ^^)

2. RaPP 기법은 마키나락스에서 개발한 AE, VAE를 사용한 이상 탐지에서 Train은 동일한 방법으로 진행하되, Test시, 레이어를 통과한 결과물도 함께 비교하여 이상 점수의 격차를 늘리는 방법입니다. (kh-kim.github.io/blog/2020/02/18/rapp.html)
AE, VAE를 사용한 1등님을 비롯해서 다른 분들도 본 기법을 추가한다면 더 좋은 성능을 낼 수 있을 것입니다.
(참고로, NAP을 적용한답시고 Test 내부에 standard Scaler를 적용하였는데 이는 야매로 적용한 것으로, 실제 논문에서 작성한 방식과 차이가 있습니다.)

정말 많이 찾아보고 적용했던 것 같습니다..
다만 아쉬웠던 것은 1등 끌레도르님과 유사한 접근 방식으로 접근하였었으나, 실력의 차이인지 성적은 크게 차이가 발생하였네요.
저도 FFT로 Feature 적용한 후 학습했을 때 Train Loss가 너무 크게 나오고 결과도 이상해서 MFCC에 집중했었습니다.
왜 학습이 잘 안 이루어졌는지, 1등님은 왜 잘 되는지 원인 분석해보면 재미있고 공부가 많이 될 것 같네요

설명 글자 수만 보면 제가 우승한 것 같네요 ^^;;
함께해주신 찌니찌니 님께도 감사의 말씀 올립니다.
제가 AI 전공이 아니다 보니 가본적인것을 모르는 게 많았는데 잘 가르쳐 주셔서 감사합니다.

코드
로그인이 필요합니다
0 / 1000
DATA MONK
2023.01.22 18:52

수고하셨습니다. 새해 복 많이 받으세요 👍🏻