Machine Learning/etc.
-
[논문 리뷰] Heterogeneous Graph Attention Network (HAN)Machine Learning/etc. 2023. 7. 28. 04:30
논문: Heterogeneous Graph Attention Network 일단 짚고 넘어가야 할 건, 나는 GNN 뉴비다. 공부한지 한 달도 안 되었다.... 그러므로 많이 부족한 점이 보여도 양해 바람. Abstract 그래프. superior performance. 근데 heterogenous graph에 대해선 연구 부족 그럼 Heterogenous graph가 뭐냐? node와 link(edge)의 type이 다른 것 왜 그런가? heterogeneity와 rich semanic information이 GNN 디자인을 challenge하게 만듦 최근 attention 매커니즘이 각광, 여러 분야에 쓰임 우리는 hierarchical attention 을 기반으로 한 heterogeneous GN..
-
Back-Propagation (오차 역전파법) : 논문을 바탕으로 개념 정리Machine Learning/etc. 2022. 1. 22. 02:59
딥러닝을 배운다면 필수로 알고 있어야 하는 백-프로파게이션-! 그러나 학교 강의마다, 관련 도서들마다 내용은 비슷비슷한데 수식, 기호 표기가 달라서 지식들을 하나로 취합하기가 여간 쉬운 게 아니더라.. (+내가 도형, 기호 등에 약함) 그래서 그냥 원래 논문을 보고 정리하기로 했다. 우리 학교 딥러닝 분야 강의 교수님들도 이 논문은 꼭 읽어보라고 추천해주시기도 했고 해서, 이번 기회에 정말 오랜만에 (이젠 꾸준히 읽어야지...^^ㅠ) 논문이란 걸 읽어보았다. 참고 논문 : David E. Rumelhart, Geoffrey E. Hinton & Ronald J. Williams - Learning representations by back-propagating errors (1986) 서론 우리 학교 교..
-
선형 회귀 (Linear Regression) : (3) 모델 성능 평가 2 (가설 검정)Machine Learning/etc. 2021. 7. 21. 22:57
선형 회귀(Linear Regression) (1) 파라미터 추정 (2) 모델 성능 평가 1 (평가 지표) (3) 모델 성능 평가 2 (가설 검정) (4) 모델 성능 평가 3 (분산 분석, ANOVA) ---> 개인적인 사정으로 내년 초에 작성할 예정 ㅠ_ㅠ 들어가기 전에 통계학을 제대로 배우고 이 글을 다시 다듬도록 하겠습니다... 지금 보니 조금 엉망인 부분이 많네요ㅠㅠ 참고만 해주시고, 학습으로서의 가치는 떨어집니다. 0. 선형 회귀 모델 성능 평가 (결과 검증) 선형 회귀를 수행하는 방법엔 여러 가지가 있지만, statsmodels을 사용하면 통계적 검정 결과까지 확인할 수 있다. (2)에서 나왔던 익숙한 이름들도 보일 것이다. 위에서부터 차례대로 내려가며 각 항목이 어떤 건지 알아보자. No. ..
-
선형 회귀(Linear Regression) (2) : 모델 성능 평가 1 (평가 지표)Machine Learning/etc. 2021. 7. 2. 21:15
선형 회귀(Linear Regression) (1) 파라미터 추정 (2) 모델 성능 평가 1 (평가 지표) (3) 모델 성능 평가 2 (가설 검정) 들어가기 전에 이 글은 내가 개인적으로 공부한 내용을 기록으로 남기고자 정리한 게시글이기 때문에, 설명이 명확하지 않은 부분이 존재하고 잘못된 내용이 존재할 수도 있어 학습으로서의 가치는 떨어질거라고 본다. 단지 참고만 하자. 그래도 이 글을 읽으실 분들은, 혹시 이 글에서 틀린 부분이 있다면 지적해 주시면 감사하겠습니다..! https://youtu.be/4Yo297HQyAk 참고로 이 파트는 공부할 때 이 영상 (위에 언급한 바로 그 영상입니다.)을 많이 참고했어요. 때문에 필기한 내용을 토대로 적는 이 글의 특성상 영상과 똑같은 설명이 나올 수도 있는데..
-
선형 회귀(Linear Regression) (1) : 파라미터 추정Machine Learning/etc. 2021. 6. 26. 04:21
선형 회귀(Linear Regression) (1) 파라미터 추정 (2) 모델 성능 평가 1 (평가 지표) (3) 모델 성능 평가 2 (가설 검정) 들어가기 전에 이 글은 내가 개인적으로 공부한 내용을 기록으로 남기고자 정리한 게시글이기 때문에, 설명이 명확하지 않은 부분이 존재하고 잘못된 내용이 존재할 수도 있어 학습으로서의 가치는 떨어질거라고 본다. 단지 참고만 하자. 그래도 이 글을 읽으실 분들은, 혹시 이 글에서 틀린 부분이 있다면 지적해 주시면 감사하겠습니다..! 1. 선형 회귀(Linear Regression)란? 하나 이상의 독립 변수(Independent Variable, X)와 종속 변수(Dependent Variable, Y)간의 관계를 선형 함수로 설명하는 것 을 말한다. 이렇게 하면..