C\#double 유형 변수 비교 분석

1649 단어 C#Double
double 형식 변수
어떻게 크기 를 비교 합 니까?
double.equals(double a,double b)를 사용 하여 비교 한 결과 두 수치 가 같 지 않 은 것 을 발견 했다.

그림 에서 sum 은 0 에 0.1 을 더 해 1 로 누 적 된 것 으로 수학 적 으로 계산 하면 1.0 이 어야 하지만 컴퓨터 에서 0.99999999 로 계산 하여 double.equals 또는 직접 사용==등 량 으로 판단 할 때 다르다.
이 는 double 유형 이 직접적 으로 같은 양 으로 판단 할 수 없다 는 뜻 이다.그렇다면 어떻게 비교 할 것 인가?
형식 을 decimal 로 변환
float 모델 을 decimal 로 바 꾸 면 직접 판단 할 수 있 습 니 다.

두 값 이 모두 1 인 것 을 알 수 있어 직접 비교 할 수 있다.
다시 말 하면 수치 비 교 를 할 때 double 유형 을 사용 할 때 등 량 판단 을 직접 할 수 없 으 면 두 값 이 특정한 정의 값 인 0.000001 보다 작 게 줄 여 두 값 이 같 거나 다른 유형 으로 전환 되 는 것 을 판단 해 야 한다.
c\#중 Double 타 입의 사용 장면
【Double】
double 형식 은 프로그램 에서 변 수 를 정의 할 때 자주 사용 합 니 다.잘못 사용 하면 실제 값 의 정밀도 문제 가 발생 할 수 있 습 니 다.예 는 다음 과 같 습 니 다.

 Double d1 = 66.09;
 Double d2 = 89.943;
 Double d3 = 156.033;
 d2 = d1 + d2; //  double         :156.03300000000002
 Console.WriteLine(d2.CompareTo(d3)); //        d2    d3  ,            
 Console.ReadLine();
[해결 방안]
Decimal 형식 정 의 를 사용 한 후 소수 의 정확 도 를 확보 합 니 다.두 개의 같은 유형의 decimal 을 더 하면 프로그램 이 결과 값 에 자동 으로 진 도 를 추가 하지 않도록 확보 할 수 있 습 니 다.그러면 상기 상황 이 발생 하지 않도록 할 수 있 습 니 다.

 Decimal d1 = 66.09M;
 Decimal d2 = 89.943M;
 Decimal d3 = 156.033M;
 d2 = d1 + d2;
 Console.WriteLine(d2.CompareTo(d3));
 Console.ReadLine();
이상 의 이 C\#double 유형 변수 비교 분석 은 바로 편집장 이 여러분 에 게 공유 한 모든 내용 입 니 다.여러분 에 게 참고 가 되 고 저 희 를 많이 사랑 해 주 셨 으 면 좋 겠 습 니 다.

좋은 웹페이지 즐겨찾기