Terminology (2) 썸네일형 리스트형 GAP(Global Average Pooling) GAP는 최근에 제시된 CNN architecture에서 널리 쓰이고 있는 pooling 방식입니다. CNN의 기존 FC layer가 지나치게 많은 연산량 / spatial information을 잃어버리는 문제를 가지고 있어 이에 대한 대안으로 제시되었는데요, 간단하게 그림을 통해 살펴보겠습니다. 기존 FC layer는 이전 layer 단에서 추출된 모든 feature들을 concat해 이들로부터 각 class 별 score를 구해 classification 하는 형태로 사용되었습니다. 당연히 연산량도 매우 많고, classification에 영향을 끼친 feature가 어느 부분에서 추출되었는지도 알 수 었으며, input 의 크기 또한 제한된다는 문제점을 지니고 있었습니다. GAP는 각각의 feat.. Manifold in Machine Learning 논문 리뷰를 하던 중 terminology 하나를 짚고 넘어갈 필요성을 느껴 포스트를 올립니다. 제가 읽으려던 논문의 제목은 인데요, Manifold 라는 단어는 이 논문의 제목 뿐만 아니라 머신 러닝 관련 document들을 읽다보면 빈번하게 발견할 수 있습니다. 이번 포스트에서는 그 의미를 짚고 넘어가려 합니다. 정리한 개념 / 정보 출처는 포스트 하단에 적어 놓겠습니다. Manifold in Data Science 데이터 사이언스에서 Manifold는 다음과 같은 의미를 가지고 있습니다. A topological space that resembles Euclidean space near each point 다시 말해, n dimensional manifold에 포함되어 있는 각각의 요소들은 이 ma.. 이전 1 다음
