딥 러닝을 수식 없이 이해

딥 러닝의 기본을 수식 없이 정리해 보았습니다.

더 자세히 알고 싶은 분은 여기를 참조하십시오.

딥 러닝을 수식으로 이해하기 - Qiita

「머신 러닝」과 「딥 러닝」이란

기계 학습 (기계 학습)

입력 데이터의 특징을 컴퓨터가 학습해, 주어진 문제를 해결하는 것.

딥 러닝(심층 학습)

기계 학습 중 뉴럴 네트워크를 사용하여 입력 데이터의 특징을 컴퓨터가 자동으로 추출하는 것.



「기계 학습」과 「딥 러닝」은 무엇이 다른 것인가? | MUFG Innovation Hub

「교사 있어 학습」과 「교사 없는 학습」이란

교사 있음 학습

인간이 라벨을 붙인 입력 데이터에 의한 학습.

교사 없음 학습

정답(라벨)이 주어지지 않은 입력 데이터에 의한 학습. 컴퓨터는 입력 데이터로부터 규칙성, 상관성, 특징, 특이성, 경향 등을 자동으로 결정한다.

Convolutional Neural Network(CNN)란?

딥 러닝의 일종으로, 「컨볼루션층」과 「풀링층」, 「전 결합층」이라고 불리는 레이어로 구성되는 것.



스테디셀러 Convolutional Neural Network를 처음부터 이해 - DeepAge

컨벌루션 레이어(Convolution Layer)

입력 데이터의 특징을 추출하는 레이어. 필터(커널, 가중치)라고 불리는 행렬을 이용하여 입력 데이터와의 특징의 일치 건수를 계산하여 「특징 맵」으로서 출력한다. 이 연산을 「컨볼루션」이라고 부른다.



스테디셀러 Convolutional Neural Network를 처음부터 이해 - DeepAge

백 전파(오차 역전파)

한 레이어가 하나 이전 레이어에 가중치 오차를 피드백하는 구조.

배치 :
역 전파를 통해 학습 데이터에서 가중치를 업데이트합니다.

에포크 :
배치 횟수의 단위. 보통 에포크를 여러 번 반복해서 학습한다.

풀링 층

컨벌루션에 의해 생성된 데이터를 압축하는 층.

활성화 레이어

컨벌루션에 의해 생성된 데이터를 "활성화 함수"라고 하는 함수를 특징으로 하는 층.

Rectified Linear Units (ReLU)

컨벌루션에 의해 생성된 데이터 중 음수를 0으로 변환하는 활성화 함수.

Softmax

출력을 확률로 변환하는 활성화 함수.

Dropout

가중치를 갱신할 때에 일정한 비율로 출력을 「0」으로 하는 것으로, 학습 데이터의 「과학습」을 막아, 예측 정밀도를 높이는 층.

전체 결합 층

라벨링 된 출력 레이어에 연결하기 위해 라벨 수에 해당하는 노드 수가되도록 컨볼 루션 연산을 수행하는 레이어.

참고 URL

「기계 학습」과 「딥 러닝」은 무엇이 다른 것인가? | MUFG Innovation Hub

클래식한 Convolutional Neural Network를 처음부터 이해 - DeepAge

로봇을 비즈니스에 활용하는 AI기술(2): 인공지능은 어떻게 '배우는가'――교사 있어 학습, 교사 없는 학습, 강화 학습 (1/2) - @IT

신경망의 선형 변환 및 활성화 함수 이해 - HELLO CYBERNETICS

Softmax는 무엇을하고 있습니까? - 이미지 처리, 기계 학습 등

【신경망】Dropout(드롭아웃)에 대해 정리 - Qiita