신경망에서 뉴런은 어떻게 작동합니까? - 딥 러닝 단순화 시리즈

오늘 저는 MIT의 딥 러닝 입문 강의를 시작했고 이렇게 말하겠습니다. *"그들은 정말 정말 좋습니다"*.

내 말은, 전 미국 대통령인 버락 오바마와 함께 강의를 시작하고 학생들을 환영하는 것으로 강의를 시작한다면 분명히 좋을 것입니다. 그런데 나중에 알게 되지만 그것은 단지 GAN이 생성한 딥 페이크 비디오라는 것을 알게 됩니다. 나는 그것을 정말 정말 좋고 흥미롭게 만든다고 생각합니다. 😄

모든 개념을 정확하게 설명하는 멋진 작업입니다.

그래서 이것은 딥 러닝 단순화 시리즈의 첫 번째 기사이며 여기에서는 신경망의 간단한 뉴런 또는 퍼셉트론이 매우 간단한 방식으로 작동하는 방법을 간단히 설명할 것입니다. 시작하자 !! 🔥

구조:

다음과 같이 표시됩니다.
x = 입력
y = 출력
w = 가중치/매개변수

입력의 '1'은 편향 입력이라고 하며 단순화를 위해 무시합니다.

공식:

일련의 입력에서 특정 출력으로 이동하는 프로세스를 형성하는 이 공식을 순방향 전파라고 합니다.

따라서 여기서 일어나는 일은 간단히 말해서 다음과 같습니다.

                   INPUT 
                     👇

      ✔ Dot Product of Input & Weights. 

      ✔ Add the bias.

      ✔ Apply Non-Linearity.  

                     👇
                   OUTPUT  

이제 계산을 더 쉽게 하기 위해 위의 방정식을 더 단순화하면 모든 입력과 가중치를 벡터로 변환하고 한 번에 내적을 찾을 수 있습니다.

그러면 다음과 같이 됩니다.

아름답지, 그렇지! 🧡

자, 이제 궁금하실 겁니다. 그렇다면 활성화 기능이 무엇인가요? 걱정하지 마세요.

활성화 기능(g)이란 무엇입니까?

정의에 따르면 활성화 함수는 신경망의 출력을 결정하는 수학 방정식입니다. 이 함수는 네트워크의 각 뉴런에 연결되며 각 뉴런의 입력이 모델의 예측과 관련이 있는지 여부에 따라 활성화("실행")해야 하는지 여부를 결정합니다.

하지만 여러분이 이해해 주셨으면 하는 요점은 이러한 함수가 기본 선형 회귀에 불과한 주택 가격을 예측하는 대신 자율 주행 자동차와 같은 미친, 복잡하고 혼란스러운 문제를 해결하는 데 도움이 되는 비선형성을 모델에 도입한다는 것입니다. 문제.

이 그래프를 보면 내가 말하는 내용을 실제로 이해할 수 있습니다.

따라서 우리의 작업이 다음과 같이 주어진 데이터에 따라 다음 녹색 점과 빨간색 점이 놓일 위치를 예측하는 것이라고 가정해 보겠습니다.



따라서 모델이 Green Point와 Red Point를 구별할 수 있다면 성공한 것입니다.

이제 이 작업을 위해 비선형 활성화 함수 대신 선형 활성화 함수를 사용하면 다음과 같은 좋지 않은 결과를 얻게 됩니다.

그러나 비선형 활성화 함수를 사용하면 다음과 같은 결과를 얻을 수 있습니다.

이것은 우리 모델이 선형적으로만 생각하지 않고 비선형 방식으로도 생각했기 때문에 발생했습니다.

기계 및 딥 러닝에서 자주 사용되는 일부 활성화 함수의 예는 다음과 같습니다.

이 기사의 끝 부분에 있으며 다음 세 가지 간단한 단계를 기억하기를 바랍니다.

✔ 입력 및 가중치의 내적을 찾습니다.

✔ 바이어스를 추가합니다.

✔ 비선형성을 적용합니다.

그래서 이것은 이 Deep Learning Simplified 시리즈의 첫 번째 기사였으며 계속해서 개선될 수 있도록 많은 피드백을 받고 싶습니다! 🙌

아래에 여러분의 생각을 댓글로 달아주세요!!

연결하자:

🐦 트위터 :

📹 유튜브 채널 :

👨‍💻 링크드인 :

🔥 GitHub : saumya66