logistic regression 논리 회귀 matlab 실현

Load Data

데이터 형식은 줄마다 하나의 예이고 마지막 열은 탭입니다.

fileName = 'xxx.txt';
data = load(fileName);
m = size(data, 1);
n = size(data, 2);
X = data(:, 1 : n - 1);
y = data(:, n);

Plot

여기에 나온 그림은 2차원 상황을 겨냥한 것이다.

plotData(X, y);

hold on;
xlabel('Exam 1 score')
ylabel('Exam 2 score')
legend('Admitted', 'Not admitted')
hold off;

plotData 함수, matlab 매트릭스 조작에 대한 작은 기술을 사용했습니다.

function plotData(X, y)
    figure;
    hold on;
    pos = find(y == 1);
    neg = find(y == 0);
    plot(X(pos, 1), X(pos, 2), 'k+', 'LineWidth', 2, 'MarkerSize', 7);
    plot(X(neg, 1), X(neg, 2), 'ko', 'MarkerFaceColor', 'y', 'MarkerSize', 7);
    hold off;
end

Compute Cost and Gradient

다음 fminunc 함수에 대한costFunction 계산 방법을 제공합니다.여기, 온라인적 상황, 즉 저급 상황에서 분류 경계는 저급 함수로 하고 직접 일렬 1을 더하면 된다.분류 경계가 직선이 아닐 때 맵 피처 함수를 사용하여 원래 저차멱의 특징을 고차 조합으로 비출 수 있다.대가 함수를 계산할 때 비추는 횟수가 너무 높아서 의합이 생기는 것을 방지하기 위해 정규화 파라미터를 첨가하여theta를 제한한다.

%--- ---%
X = [ones(m, 1) X];

%--- ---%
%X = mapFeature(X(:,1), X(:,2));

initial_theta = zeros(size(X, 2), 1);

%  ， theta0 ， costfunction 。 。
% lambda ，theta 。
lambda = 1;

[cost, grad] = costFunction(initial_theta, X, y, lambda);

fprintf('Cost at initial theta (zeros): %f
', cost);

mapFeature 함수

function out = mapFeature(X1, X2)
    degree = 6;
    out = ones( size( X1(:, 1) ) );
    for i = 1 : degree
        for j = 0 : i
            out(:, end + 1) = (X1.^(i - j)) .* (X2 .^ j);
        end
    end

end

costFunction 함수

function [J, grad] = costFunction(theta, X, y, lambda)
    m = length(y);
    grad = zeros(size(theta));

    J = 1 / m * sum( -y .* log(sigmoid(X * theta)) - (1 - y) .* log(1 - sigmoid(X * theta)) ) + lambda / (2 * m) * sum( theta(2 : size(theta), :) .^ 2 );

    for j = 1 : size(theta)
        if j == 1
            grad(j) = 1 / m * sum( (sigmoid(X * theta) - y)' * X(:, j) ); else grad(j) = 1 / m * sum( (sigmoid(X * theta) - y)' * X(:, j) ) + lambda / m * theta(j);
        end
    end

end

sigmod 함수

function g = sigmoid(z)
    g = zeros(size(z));
    g = 1 ./ (1 + exp(-z));
end

Regularization and Accuracies

국경을 판정할 때 0.5로 판단하면 됩니다.

% GradObj-on  costFunction cost grad
options = optimset('GradObj', 'on', 'MaxIter', 400);

% f = @(t)(...t...)  。
% f ，t ， 。
f = @(t)(costFunction(t, X, y, lambda));
[theta, J, exit_flag] = fminunc(f, initial_theta, options);

% Plot Boundary
plotDecisionBoundary(theta, X, y);
hold on;
title(sprintf('lambda = %g', lambda))

% Labels and Legend
xlabel('Microchip Test 1')
ylabel('Microchip Test 2')

legend('y = 1', 'y = 0', 'Decision boundary')
hold off;

% Compute accuracy on our training set
p = predict(theta, X);

fprintf('Train Accuracy: %f
', mean(double(p == y)) * 100);

plotDecisionBoundary 함수

function plotDecisionBoundary(theta, X, y)
%PLOTDECISIONBOUNDARY Plots the data points X and y into a new figure with
%the decision boundary defined by theta
% PLOTDECISIONBOUNDARY(theta, X,y) plots the data points with + for the 
% positive examples and o for the negative examples. X is assumed to be 
% a either 
% 1) Mx3 matrix, where the first column is an all-ones column for the 
% intercept.
% 2) MxN, N>3 matrix, where the first column is all-ones

    % Plot Data
    plotData(X(:,2:3), y);
    hold on

    if size(X, 2) <= 3
        % Only need 2 points to define a line, so choose two endpoints
        plot_x = [min(X(:,2))-2, max(X(:,2))+2];

        % Calculate the decision boundary line
        plot_y = (-1./theta(3)).*(theta(2).*plot_x + theta(1));

        % Plot, and adjust axes for better viewing
        plot(plot_x, plot_y)

        % Legend, specific for the exercise
        legend('Admitted', 'Not admitted', 'Decision Boundary')
        axis([30, 100, 30, 100])
    else
        % Here is the grid range
        u = linspace(-1, 1.5, 50);
        v = linspace(-1, 1.5, 50);

        z = zeros(length(u), length(v));
        % Evaluate z = theta*x over the grid
        for i = 1:length(u)
            for j = 1:length(v)
                z(i,j) = mapFeature(u(i), v(j))*theta;
            end
        end
        z = z'; % important to transpose z before calling contour

        % Plot z = 0
        % Notice you need to specify the range [0, 0]
        contour(u, v, z, [0, 0], 'LineWidth', 2)
    end
    hold off

end

predic 함수

function p = predict(theta, X)
    %m = size(X, 1);
    %p = zeros(m, 1);
    p = sigmoid(X * theta) >= 0.5;
end