재제출 리포트(심층 학습-2)

8001 단어 심층 학습
<후편>
· simple RNN (Recursive Neural Network)
바이너리 추가



<코드 추가>


가중치 초기화 방법 변경





가중치 초기화 방법을 변경하면 수렴하기까지의 시간이 길어지는 경향이 있습니다.

활성화 함수 변경





활성화 함수를 ReLU, tanh로 변경한 결과, 둘 다 좋은 결과를 얻을 수 없었다.

・Predict sin














상기의 결과로부터, 「하나의 시계열 데이터」를 길게 하고, 반복수를 많게 함으로써, sin파를 정확하게 재현할 수 있는 것이 시사되었다.

・Predict word
총 단어 수: 9826


출현 횟수가 적은 단어를 미지어(???)로 표시



Tensorflow
・constant


・placeholder


・variables


· 선형 회귀



· 비선형 회귀



y=30x2+0.5x+0.2



・분류 1층(mnist)


・분류 3층(mnist)


· 분류 CNN (mnist)


· 분류 CNN (mnist) : Dropout 비율 = 0


Keras
· 선형 회귀


· 단순 퍼셉트론


・np.random.seed(1)


・epochs=100


· AND 회로


・XOR 회로


・batch size=10


・epochs=300



위의 경우는 가장 오차가 작고 정확한 결과를 나타냅니다.

분류(iris)



· sigmoid 함수


· from keras.optimizers import SGD
SGD(lr=0.1, momentum=0.0, decay=0.0, nesterov=False)



분류(mnist)



· one_hot_label = False


· sparse_categorical_crossentropy


· Adam (Ir = 0.1)


· Adam (Ir = 0.00001)

좋은 웹페이지 즐겨찾기