칼로리 소모량 예측 AI 해커톤

알고리즘 | 정형 | 회귀 | 헬스 | RMSE

상금 : 인증서
670명 마감

연습

대회안내 데이터 코드 공유 토크 리더보드

제출

선형회귀외 비선형회귀(SVR, KRR) 비교

깨비아빠

2023.10.31 15:02 647 조회 language

Polynomial Features 검색하다가 오게되었습니다!
이미 끝난 대회지만 선형회귀와 비선형회귀 테스트해본 내용을 올려봅니다.

모델 정확도 높이는 것 보다는 데이터 탐색과 선형/비선형회귀 모델 테스트 위주로 작성했습니다.

코드

댓글 2개

로그인이 필요합니다

comment

0 / 1000

설빙더아이스

2023.12.06 19:15

좋은 분석 글 감사합니다. SVR의 kernel 파라미터의 default가 'rbf'인 것으로 알고 있는데 이것을 'poly'로 바꾸면 polynomial Features를 사용한 것과 비슷한 효과가 날 것 같습니다. 실험 결과가 궁금한데 혹시 이 부분에 대해서 실험한 결과가 있을까요??

깨비아빠

2023.12.06 23:52

안녕하세요!
polynomial 커널에 degree 3을 사용하면 (gamma*<x,x'> + r)^3을 전개한 차원의 피쳐공간으로 변환하게 되므로 저도 비슷한 효과가 날 것 같습니다.
그런데, rbf 커널은 무한차원인 피쳐공간으로의 변환이므로, 단지 복잡한 분포의 데이터를 적합시키기 위함이라면 rbf도 나쁜 선택은 아닐 것 같습니다.
이번 분석 연습은 모델 정확도를 올리려는 건 아니어서 심지어 검증 데이터 분리도 안했는데요... GridSearchCV나 optuna로 최적 파라미터를 찾아보면 정확도가 좀 더 개선되지 않을까 싶습니다.
혹시 나중에라도 테스트해보게 된다면 다시 공유드리겠습니다.
감사합니다!

📣 댓글 작성 창의 위치가 댓글 리스트 상단으로 이동하였습니다!

목록으로

이전 글이 존재하지 않습니다.

현재 글

선형회귀외 비선형회귀(SVR, KRR) 비교

대회 - 칼로리 소모량 예측 AI 해커톤

7달 전

[Private 4위_정새] - 특성 공학, 특성 선택 및 AutoML 활용

대회 - 칼로리 소모량 예측 AI 해커톤

일 년 전