JS 정밀도 초과 디지털 문제 해결 방법
예 를 들 어 하나의 수 1÷3=0.33333333 33..................................................................................컴퓨터 가 아무리 큰 메모리 라 도 그것 은 저장 할 수 없다,그렇지?따라서 수학 에 비해 값 을 저장 할 수 없고 근사 값 만 저장 할 수 있 기 때문에 컴퓨터 가 저장 한 후에 꺼 내 사용 할 때 정밀도 문제 가 발생 한다.
JS 정밀도 초과 디지털 해결
1.js 의 가장 큰 안전 숫자 는 Math.pow(2,53)-1 입 니 다.이 숫자 를 초과 하면 정밀도 손실 문제 가 발생 할 수 있 습 니 다.숫자 를 문자열 작업 으로 전환 하 는 사고 로 처리 할 수 있 습 니 다.다음 과 같 습 니 다.
// js : Math.pow(2, 53)-1
let a = '123456444565456.889'
let b = '121231456.32'
// a + b = '123456565796913.209'
function addTwo(a, b) {
//1. 0
if (a.length > b.length) {
let arr = Array(a.length - b.length).fill(0);
b = arr.join('') + b
} else if (a.length < b.length) {
let arr = Array(b.length - a.length).fill(0);
a = arr.join('') + a
}
//2. ( )
a = a.split('').reverse();
b = b.split('').reverse();
//3. 10 sign = 1, ( %10)
let sign = 0;//
let newVal = [];//
for (let j = 0; j < a.length; j++) {
let val = a[j] / 1 + b[j] / 1 + sign; // 1 Number()
if (val >= 10) {
sign = 1;
newVal.unshift(val % 10) // unshift push reverse
} else {
sign = 0;
newVal.unshift(val)
}
}
// ‘1'
return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}
//
function addTwo(a,b) {
let temp = 0
let res = ''
a = a.split('')
b = b.split('')
while(a.length || b.length || temp) {
temp += Number(a.pop() || 0) + Number(b.pop() || 0)
res = (temp%10) + res
temp = temp > 9
}
return res.replace(/^0+/g, '')
}
2.소수 부분 을 더 할 때 상기 방법 을 한 번 포장 하고 다음 과 같이 완전 하 게 실현 한다.
let a = '123456444565456.889'
let b = '121231456.32'
// a + b = '123456565796913.209'
function addTwo(a = '0',b = '0', isHasDecimal=false) {
//1. 0
if (a.length > b.length) {
let arr = Array(a.length - b.length).fill(0);
b = isHasDecimal && (b + arr.join('')) || arr.join('') + b
} else if (a.length < b.length) {
let arr = Array(b.length - a.length).fill(0);
a = isHasDecimal && (a + arr.join('')) || arr.join('') + a
}
//2. ( )
a = a.split('').reverse();
b = b.split('').reverse();
//3. 10 sign = 1, ( %10)
let sign = 0;//
let newVal = [];//
for (let j = 0; j < a.length; j++) {
let val = a[j] / 1 + b[j] / 1 + sign; // 1 Number()
if (val >= 10) {
sign = 1;
newVal.unshift(val % 10) // unshift push reverse
} else {
sign = 0;
newVal.unshift(val)
}
}
// ‘1'
return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}
function add(a,b) {
let num1 = String(a).split('.')
let num2 = String(b).split('.')
let intSum = addTwo(num1[0], num2[0])
let res = intSum
if (num1.length>1 || num2.length > 1) {
let decimalSum = addTwo(num1[1], num2[1], true)
if (decimalSum.length > (num1[1]||'0').length && decimalSum.length > (num2[1]||'0').length) {
intSum = addTwo(intSum, decimalSum[0])
decimalSum = decimalSum.slice(1)
res = `${intSum}.${decimalSum}`
} else {
res = `${intSum}.${decimalSum}`
}
}
return res
}
console.log(add(a, b)) // 123456565796913.209
// console.log(add('325', '988')) // 1313
JS 디지털 정밀도 가 잃 어 버 린 전형 적 인 문 제 를 보 세 요.===================================
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001
=====================================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
//곱셈==============================
19.9 * 100 = 1989.9999999999998
0.8 * 3 = 2.4000000000000004
35.41 * 100 = 3540.9999999999995
//나눗셈=============================
0.3 / 0.1 = 2.9999999999999996
0.69 / 10 = 0.06899999999999999
총결산
JS 의 정밀도 초과 디지털 문제 해결 에 관 한 이 글 은 여기까지 소개 되 었 습 니 다.더 많은 관련 JS 의 정밀도 초과 디지털 내용 은 우리 의 이전 글 을 검색 하거나 아래 의 관련 글 을 계속 조회 하 시기 바 랍 니 다.앞으로 많은 응원 바 랍 니 다!
이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
[2022.04.19] 자바스크립트 this - 생성자 함수와 이벤트리스너에서의 this18일에 this에 대해 공부하면서 적었던 일반적인 함수나 객체에서의 this가 아닌 오늘은 이벤트리스너와 생성자 함수 안에서의 this를 살펴보기로 했다. new 키워드를 붙여 함수를 생성자로 사용할 때 this는...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.