activation function1 활성화 함수(Activation fucntion)란? (역할/ 개념 / 종류 / 비교 / Sigmoid / tanh /ReLU/ 구현 ) 활성화 함수에 대해서 공부한 내용을 요약한 글입니다. 활성화 함수의 역할, 종류(Sigmoid. tanh, ReLU)를 공부하고 파이썬으로 구현, 시각화 했습니다. 활성화 함수 입력 신호의 총합을 출력 신호로 변환하는 함수를 일반적으로 활성화 함수라고 합니다. 입력 신호의 총합이 활성화를 일으키는지를 정하는 역할입니다. 아래는 신경망 그림으로 가중치(w)가 달린 입력 신호(x)와 편향(b)의 총합을 계산하고 함수 f에 넣어 출력하는 흐름을 보여줍니다. 활성화 함수 역할 (비선형 함수여야 하는 이유) 신경망의 활성화 함수는 비선형 함수를 사용해야 합니다. 선형 함수란 출력이 입력의 상수 배만큼 변화는 함수(1개의 곧은 직선)이고 비선형 함수 선형이 아닌 함수로 직선 하나로는 그릴 수 없는 함수입니다. 신경.. 2022. 2. 25. 이전 1 다음 728x90 반응형
