Create Opportunities

Batch size ? 입력값 x를 평균 0, 분산 1로 표준화하여 activation function로 전달하여 출력값의 분포를 고르게 한다. x를 표준화 하는 과정에서 batch size 단위로 평균과 분산값을 계산하기 때문에, 어떤 batch size를 선택하는지는 중요하다. 1) batch size를 크게 하는 경우 - training set 분포를 좀 더 정확히 추정한다. 이 말은 즉, noise를 감소시켜 모델 수렴을 향상 시킬 수 있다는 것이다. -> 학습 속도 향상 2) batch size를 작게 하는 경우 - sample의 수가 적어 training set 통계값을 부정확하게 계산한다. noise가 많아져서 모델의 수렴이 불안정해진다. 하지만, regularization의 효과는 강해진다..

Novelty : 본질적인 데이터는 같지만 유형이 다른 관측치를 말한다. Annomaly : 대부분의 데이터와 본질적인 특성이 다른 관측치를 말한다. (전혀 다른 방식으로 생성되었을 것으로 추정) 이상치 탐지는 어떻게 하는 것일까 ? 가장 기본적으로 생각할 수 있는 것은 정상과 불량을 구별할 수 있는 모델을 만드는 것이다. 변수들의 값들을 기반으로 y 레이블이 0인지 1인지, 지도학습 기반으로 이상치를 탐지할 수 있다. Logistic Regression 이나 Gradient Boosting 모델 등의 분류 모델을 사용할 수 있다. 하지만, 특정 데이터가 정상인지 불량인지 Label을 정확히 모르는 경우에는 이를 적용하는데 한계가 있다. 비지도 학습 기반 이상치 탐지에는 다양한 방법론이 존재한다. 1. ..

연구실 병리학 세미나에서 CELNet: Evidence Localization for Pathology Images using Weakly Supervised Learning 논문을 리뷰하는 시간을 가졌다. 논문에 대한 기존의 리뷰 자료가 전혀 없던터라 힘들었다.. 본 논문은,, 딥러닝이 digital pathology의 많은 task에 있어서 성능 향상을 보여줬지만, 여전히 임상 실험들에 대한 해석력이 좋지 않고, object localization 향상을 위한 설명력이 요구되고 있는 문제를 극복하기 위한 연구의 내용을 담고 있다. Weakly Supervision을 기반으로 한 접근법을 제안하는데, 난 Weakly Supervision도 제대로 알지 못하고 있었기 때문에 해당 개념부터 공부해야했다....