math&computer math&computer

깊은 neural networks 에서는 모델을 학습하기가 더 어려워진다. 그래서 이 논문에서 소개하고자 하는 것이 residual learning framework로, layer의 input을 참조하는 residual function을 학습하는 방법이다. 이 방법을 적용하면 optimize하기도 용이하며 깊은 network도 합리적인 정확도를 얻어낼 수 있다. 이 방법을 사용한 152 layer-residual nets로 ImageNet dataset에서 평가했을때 3.57%의 error를 가졌고 ILSVRC 2015 classification에서 1위를 했다. Deep network에서는 수렴을 방해하는 vanishing, exploding gradient 문제가 있었다. 이 문제들은 normaliz..

몇일 전부터 깃허브를 하기 시작했다. 처음에는 생소해서 많이 해맸지만 지금은 꽤 익숙해졌다. 처음접하는 사람에게는 어려울 수 있는 내용이기 때문에 아주 친절하게 설명을 해보았다. 일단 'Git'을 설치한다. git-scm.com/ 그리고 'Github'에서 회원가입을 해야한다. 'Github'는 'Git'을 다루는 클라우드(?) 중 가장 보편적으로 사용되는 사이트이다. github.com/ 회원가입을하고 로그인을 했다면 새로운 repository를 생성한다. 그러면 이렇게 새로운 repository가 생성된다. 이때 하늘색 상자안에 주소를 잘 봐두자 이제 컴퓨터에 새 폴더를 만들어보자. 나는 폴더명을 'python'으로 정했다. 그리고 폴더에 마우스 우클릭을 하고 'Git bash Here'을 클릭하면 ..