체인의정석

인공지능 첫걸음 CNN- 활성화 함수 1. 활성화 함수 - 입력을 받아 활성, 비활성을 결정하는데 사용되는 함수 선형/비선형 선형함수 = 직선 모양 - y=ax+b 비선형 함수 = 2개 이상의 직선/곡선 모양 - Sigmoid/Relu 2개 분류하는 문제 = Vanisihing Gradient Problem 때문에 sigmoid 대신 Relu와 변형된 활성화 함수 주로 사용 3개 이상을 분류 = Softmax와 변형된 활성화함수 주로 이용 은닉층을 여러 개 다층으로 구성하고 활성화 함수로 모두 선형함수를 이용하면 단층으로 구성하는것과 동일하게 구성할 수 있다고 한다. 따라서 깊게 망을 구성하려면 1개 이상의 비선형 함수를 이용하여야 한다. Sigmoid 계열 - 모두 S 형태, 입력값이 증가함에 따라 결..