개요

가져오기

import numpy as np
import matplotlib.pyplot as plt
import chainer
from chainer import Function, gradient_check, Variable, optimizers, serializers, utils
from chainer import Link, Chain, ChainList
import chainer.functions as F
import chainer.links as L

교육 데이터 세트 반복

    X = np.linspace(-3.0, 3.0, num = 100, dtype = np.float32)
    T = np.sin(X)

미니 배치에 대한 전처리

    n_epoch = 300
    n_batch = 100

신경망의 Forward/backward 계산

class MLP(Chain):
    def __init__(self):
        super(MLP, self).__init__(l1 = L.Linear(1, 20), l2 = L.Linear(20, 1), )
    def __call__(self, x):
        h = F.tanh(self.l1(x))
        out = self.l2(h)
        return out

class M_fit(Chain):
    def __init__(self, predictor):
        super(M_fit, self).__init__(predictor = predictor)
    def __call__(self, x, t):
        y = self.predictor(x)
        loss = F.mean_squared_error(y, t) * 0.5
        return loss
    def predict(self, x):
        y = self.predictor(x)
        return y

매개변수 업데이트

optimizer = optimizers.Adam()
    optimizer.setup(model)

평가 데이터 세트에서 현재 파라미터 평가

    for epoch in range(n_epoch):
        indexes = np.random.permutation(np.size(X))
        for i in range(n_batch):
            model.zerograds()
            x = Variable(np.array([[X[indexes[i]]]], dtype = np.float32))
            t = Variable(np.array([[T[indexes[i]]]], dtype = np.float32))
            loss = model(x, t)
            loss.backward()
            optimizer.update()

중간 결과를 로그에 남기기

        print ('epoch : ', epoch, 'loss : ', loss.data)

결과