JS 정밀도 초과 디지털 문제 해결 방법

5445 단어 js정밀도숫자.
정밀도 문제 의 가장 통속 적 이 고 알 기 쉬 운 해석.
예 를 들 어 하나의 수 1÷3=0.33333333 33..................................................................................컴퓨터 가 아무리 큰 메모리 라 도 그것 은 저장 할 수 없다,그렇지?따라서 수학 에 비해 값 을 저장 할 수 없고 근사 값 만 저장 할 수 있 기 때문에 컴퓨터 가 저장 한 후에 꺼 내 사용 할 때 정밀도 문제 가 발생 한다.
JS 정밀도 초과 디지털 해결
1.js 의 가장 큰 안전 숫자 는 Math.pow(2,53)-1 입 니 다.이 숫자 를 초과 하면 정밀도 손실 문제 가 발생 할 수 있 습 니 다.숫자 를 문자열 작업 으로 전환 하 는 사고 로 처리 할 수 있 습 니 다.다음 과 같 습 니 다.

// js       : Math.pow(2, 53)-1

let a = '123456444565456.889'
let b =       '121231456.32'
// a + b = '123456565796913.209'

function addTwo(a, b) {
    //1.                  0
    if (a.length > b.length) {
        let arr = Array(a.length - b.length).fill(0);
        b = arr.join('') + b
    } else if (a.length < b.length) {
        let arr = Array(b.length - a.length).fill(0);
        a = arr.join('') + a
    }

    //2.      (                                    )
    a = a.split('').reverse();
    b = b.split('').reverse();

    //3.                    10   sign = 1,       ( %10)
    let sign = 0;//       
    let newVal = [];//         
    for (let j = 0; j < a.length; j++) {
        let val = a[j] / 1 + b[j] / 1 + sign; // 1              Number()
        if (val >= 10) {
            sign = 1;
            newVal.unshift(val % 10) //   unshift   push         reverse
        } else {
            sign = 0;
            newVal.unshift(val)
        }
    }

    //                  ‘1'
    return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}


//            
function addTwo(a,b) {
    let temp = 0
    let res = ''
    a = a.split('')
    b = b.split('')
    while(a.length || b.length || temp) {
        temp += Number(a.pop() || 0) + Number(b.pop() || 0)
        res = (temp%10) + res
        temp = temp > 9
    }
    return res.replace(/^0+/g, '')
}
2.소수 부분 을 더 할 때 상기 방법 을 한 번 포장 하고 다음 과 같이 완전 하 게 실현 한다.

let a = '123456444565456.889'
let b =       '121231456.32'
// a + b = '123456565796913.209'

function addTwo(a = '0',b = '0', isHasDecimal=false) {
    //1.                  0
    if (a.length > b.length) {
        let arr = Array(a.length - b.length).fill(0);
        b = isHasDecimal && (b + arr.join('')) || arr.join('') + b
    } else if (a.length < b.length) {
        let arr = Array(b.length - a.length).fill(0);
        a = isHasDecimal && (a + arr.join('')) || arr.join('') + a
    }

    //2.      (                                    )
    a = a.split('').reverse();
    b = b.split('').reverse();


    //3.                    10   sign = 1,       ( %10)
    let sign = 0;//       
    let newVal = [];//         
    for (let j = 0; j < a.length; j++) {
        let val = a[j] / 1 + b[j] / 1 + sign; // 1              Number()
        if (val >= 10) {
            sign = 1;
            newVal.unshift(val % 10) //   unshift   push         reverse
        } else {
            sign = 0;
            newVal.unshift(val)
        }
    }

    //                  ‘1'
    return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}

function add(a,b) {
    let num1 = String(a).split('.')
    let num2 = String(b).split('.')
    let intSum = addTwo(num1[0], num2[0])
    let res = intSum

    if (num1.length>1 || num2.length > 1) {
        let decimalSum = addTwo(num1[1], num2[1], true)

        if (decimalSum.length > (num1[1]||'0').length && decimalSum.length > (num2[1]||'0').length) {
            intSum = addTwo(intSum, decimalSum[0])
            decimalSum = decimalSum.slice(1)
            res = `${intSum}.${decimalSum}`
        } else {
            res = `${intSum}.${decimalSum}`
        }
    }
    return res
}
console.log(add(a, b)) // 123456565796913.209
// console.log(add('325', '988')) // 1313
JS 디지털 정밀도 가 잃 어 버 린 전형 적 인 문 제 를 보 세 요.
===================================
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001
=====================================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
 
//곱셈==============================
19.9 * 100 = 1989.9999999999998
0.8 * 3 = 2.4000000000000004
35.41 * 100 = 3540.9999999999995
//나눗셈=============================
0.3 / 0.1 = 2.9999999999999996
0.69 / 10 = 0.06899999999999999
총결산
JS 의 정밀도 초과 디지털 문제 해결 에 관 한 이 글 은 여기까지 소개 되 었 습 니 다.더 많은 관련 JS 의 정밀도 초과 디지털 내용 은 우리 의 이전 글 을 검색 하거나 아래 의 관련 글 을 계속 조회 하 시기 바 랍 니 다.앞으로 많은 응원 바 랍 니 다!

좋은 웹페이지 즐겨찾기