[DL] ReLU 함수

ReLU function

ReLU는 최근에 주로 사용하게 된 활성함수의 하나!
입력이 0이 넘으면 그 입력을 그대로 출력하고, 0이하면 0을 출력하는 함수이다.
(sigmoid는 신경망 분야에서 오래전부터 이용했던 함수)

수식은 다음과 같이 나타낼 수 있다.

$h(x) = \begin{cases} x & (x > 0) \\ 0 & (x \le 0) \end{cases}$

def relu(x):
    return np.maximum(0, x)

numpy의 maximum을 사용해서 두 입력 중 큰 값을 선택해 반환하는 함수이다.

이 문제에 관하여([DL] ReLU 함수), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다 https://velog.io/@u_jinju/DL-ReLU-함수

우수한 개발자 콘텐츠 발견에 전념 (Collection and Share based on the CC Protocol.)

개발자 우수 사이트 수집

개발자가 알아야 할 필수 사이트 100선 추천 우리는 당신을 위해 100개의 자주 사용하는 개발자 학습 사이트를 정리했습니다