Machine Learning
-
[논문 리뷰] Heterogeneous Graph Attention Network (HAN)Machine Learning/etc. 2023. 7. 28. 04:30
논문: Heterogeneous Graph Attention Network 일단 짚고 넘어가야 할 건, 나는 GNN 뉴비다. 공부한지 한 달도 안 되었다.... 그러므로 많이 부족한 점이 보여도 양해 바람. Abstract 그래프. superior performance. 근데 heterogenous graph에 대해선 연구 부족 그럼 Heterogenous graph가 뭐냐? node와 link(edge)의 type이 다른 것 왜 그런가? heterogeneity와 rich semanic information이 GNN 디자인을 challenge하게 만듦 최근 attention 매커니즘이 각광, 여러 분야에 쓰임 우리는 hierarchical attention 을 기반으로 한 heterogeneous GN..
-
[논문 리뷰] SIFT (Scale Invariant Feature Transform)Machine Learning/DIP·CV 2023. 7. 28. 04:09
예전에 시험 기간에 노션에 정리해놓은것을 그대로 가져왔다. 몇 가지 내용이 빠졌다. 시험기간이라 바빠서 전체 논문을 읽지는 못했거든... 노션에 그대로 놔두고 읽던가하지 왜 이렇게 귀찮게 한번 더 올리는 이유는 지식 공유 차원 겸 블로그 관리 차원 겸.... 요즘 너무 이 블로그를 내 일기장처럼 쓰는 감이 없지 않아 있어서. Distinctive Image Features from Scale-Invariant Keypoints (2004) SIFT 논문은 28페이지이다. SIFT를 알기 위해 필요한 scale-space theroy의 논문은 50페이지이다. 미친 개많아… 그래도 힘내서 정리해보자. 전체 요약 (초록) 이미지로부터 distinctive invariants features를 추출하는 것이 목..
-
Back-Propagation (오차 역전파법) : 논문을 바탕으로 개념 정리Machine Learning/etc. 2022. 1. 22. 02:59
딥러닝을 배운다면 필수로 알고 있어야 하는 백-프로파게이션-! 그러나 학교 강의마다, 관련 도서들마다 내용은 비슷비슷한데 수식, 기호 표기가 달라서 지식들을 하나로 취합하기가 여간 쉬운 게 아니더라.. (+내가 도형, 기호 등에 약함) 그래서 그냥 원래 논문을 보고 정리하기로 했다. 우리 학교 딥러닝 분야 강의 교수님들도 이 논문은 꼭 읽어보라고 추천해주시기도 했고 해서, 이번 기회에 정말 오랜만에 (이젠 꾸준히 읽어야지...^^ㅠ) 논문이란 걸 읽어보았다. 참고 논문 : David E. Rumelhart, Geoffrey E. Hinton & Ronald J. Williams - Learning representations by back-propagating errors (1986) 서론 우리 학교 교..
-
선형 회귀 (Linear Regression) : (3) 모델 성능 평가 2 (가설 검정)Machine Learning/etc. 2021. 7. 21. 22:57
선형 회귀(Linear Regression) (1) 파라미터 추정 (2) 모델 성능 평가 1 (평가 지표) (3) 모델 성능 평가 2 (가설 검정) (4) 모델 성능 평가 3 (분산 분석, ANOVA) ---> 개인적인 사정으로 내년 초에 작성할 예정 ㅠ_ㅠ 들어가기 전에 통계학을 제대로 배우고 이 글을 다시 다듬도록 하겠습니다... 지금 보니 조금 엉망인 부분이 많네요ㅠㅠ 참고만 해주시고, 학습으로서의 가치는 떨어집니다. 0. 선형 회귀 모델 성능 평가 (결과 검증) 선형 회귀를 수행하는 방법엔 여러 가지가 있지만, statsmodels을 사용하면 통계적 검정 결과까지 확인할 수 있다. (2)에서 나왔던 익숙한 이름들도 보일 것이다. 위에서부터 차례대로 내려가며 각 항목이 어떤 건지 알아보자. No. ..
-
선형 회귀(Linear Regression) (2) : 모델 성능 평가 1 (평가 지표)Machine Learning/etc. 2021. 7. 2. 21:15
선형 회귀(Linear Regression) (1) 파라미터 추정 (2) 모델 성능 평가 1 (평가 지표) (3) 모델 성능 평가 2 (가설 검정) 들어가기 전에 이 글은 내가 개인적으로 공부한 내용을 기록으로 남기고자 정리한 게시글이기 때문에, 설명이 명확하지 않은 부분이 존재하고 잘못된 내용이 존재할 수도 있어 학습으로서의 가치는 떨어질거라고 본다. 단지 참고만 하자. 그래도 이 글을 읽으실 분들은, 혹시 이 글에서 틀린 부분이 있다면 지적해 주시면 감사하겠습니다..! https://youtu.be/4Yo297HQyAk 참고로 이 파트는 공부할 때 이 영상 (위에 언급한 바로 그 영상입니다.)을 많이 참고했어요. 때문에 필기한 내용을 토대로 적는 이 글의 특성상 영상과 똑같은 설명이 나올 수도 있는데..
-
선형 회귀(Linear Regression) (1) : 파라미터 추정Machine Learning/etc. 2021. 6. 26. 04:21
선형 회귀(Linear Regression) (1) 파라미터 추정 (2) 모델 성능 평가 1 (평가 지표) (3) 모델 성능 평가 2 (가설 검정) 들어가기 전에 이 글은 내가 개인적으로 공부한 내용을 기록으로 남기고자 정리한 게시글이기 때문에, 설명이 명확하지 않은 부분이 존재하고 잘못된 내용이 존재할 수도 있어 학습으로서의 가치는 떨어질거라고 본다. 단지 참고만 하자. 그래도 이 글을 읽으실 분들은, 혹시 이 글에서 틀린 부분이 있다면 지적해 주시면 감사하겠습니다..! 1. 선형 회귀(Linear Regression)란? 하나 이상의 독립 변수(Independent Variable, X)와 종속 변수(Dependent Variable, Y)간의 관계를 선형 함수로 설명하는 것 을 말한다. 이렇게 하면..
-
[개발 일지] 특정 corpus를 넣었을 때 그 날 경기를 이겼는지 졌는지 판별해주는 분류기 만들기 (1) : 데이터 수집Machine Learning/NLP 2021. 6. 24. 21:37
자연어 처리를 간단하게나마 독학(이라고 하기에도 민망한 수준)하고, 실습을 해 보기로 하였다. 나는 야구를 좋아하므로 이번에도 야구 관련 프로젝트를 해 보기로 했다. 프로젝트의 목표는 이렇다. 다음과 같은 분류기를 만든다. (예시로 주어진 코퍼스는 그저 예시일 뿐) case 1: input > "오늘 경기 실화....? 보는 내내 너무 스트레스 받음" output > Lose case 2: input > "선수분들 너무 수고 많았어요! 특히 8회 만루홈런은 최고!" output > Win 이를 위해 아래의 절차들을 수행한다. (1) 코퍼스 데이터, 승패 데이터 수집 (2) 적당한 전처리 (3) 분류기를 사용하여 분류 이번 글은 이 중 첫 번째 절차인 데이터 수집에 대해 개발 일지를 써 보려 한다. 개발 ..