본문 바로가기

전체 글

 (21)
SPP (Spatial Pyramid Pooling) Net SPP Net 이란? R-CNN에서 CNN의 입력으로 이미지가 들어가기전 Warping/Crop 작업을 수행해줘야 했습니다. (R-CNN의 CNN의 구조인 AlexNet에서는 224x224로 입력 이미지의 크기가 고정) Warping 작업을 하면 이미지 왜곡이 일어나서 원본 이미지의 특성이 손상됩니다. 사실 CNN의 필터들은 입력 이미지가 고정될 필요가 없습니다. 필터들은 Sliding window 방식으로 작동되기 때문에, 입력 이미지의 크기나 비율에 관계없이 작동합니다. 입력 이미지의 크기가 고정이 필요한 이유는 CNN에 바로 뒤에 이어진 FCL(Fully Connected Layer)가 고정된 크기로 입력을 받기 때문입니다. SPP Net은 SPP(Spatial Pyramid Pooling)을 사용..
Inductive Bias Inductive Bias를 이해하기 위해서는 우선 Bias와 Variance 글을 읽어 보시길 추천 드립니다. Bias와 Variance Bias (편향)이란? 모델이 Predict가 Ground truth와 얼마나 떨어져 있는지에 대한 Error 입니다. Bias는 지나치게 단순한 모델로 인해서 Under fitting을 일으킵니다. 모델에서 Bias가 크다는 의미는 Data에서.. gentleman-blog.tistory.com Inductive Bias란? 학습시에는 만나보지 않았던 데이터에 대하여 정확한 예측을 하기 위해 사용하는 추가적인 가정(additional assumptions)을 의미합니다. Machine learning에서는 어떤 Target를 예측하기 위해 학습할 수 있는 알고리즘 ..
Bias와 Variance Bias (편향)이란? 모델이 Predict가 Ground truth와 얼마나 떨어져 있는지에 대한 Error 입니다. Bias는 지나치게 단순한 모델로 인해서 Under fitting을 일으킵니다. 모델에서 Bias가 크다는 의미는 Data에서 중요한 특성을 제대로 학습을 하지 못하고 있다는 뜻입니다. Variance (분산)이란? 데이터에 비해서 지나치게 복잡한 모델로 인해서 발생하는 Error 입니다. Variance는 모델을 Training data에 지나치게 Overfitting 시켜서 모델이 일반화 특성을 가지기 어렵게 합니다. 왼쪽 그래프는 분산이 오른쪽에 비하여 작으며 일반화가 잘 되어 있기 때문에 예측 값이 일정한 패턴을 나타냅니다. 오른쪽 그래프는 Variance가 커서 Training..

티스토리툴바