C\#double 유형 변수 비교 분석
어떻게 크기 를 비교 합 니까?
double.equals(double a,double b)를 사용 하여 비교 한 결과 두 수치 가 같 지 않 은 것 을 발견 했다.
그림 에서 sum 은 0 에 0.1 을 더 해 1 로 누 적 된 것 으로 수학 적 으로 계산 하면 1.0 이 어야 하지만 컴퓨터 에서 0.99999999 로 계산 하여 double.equals 또는 직접 사용==등 량 으로 판단 할 때 다르다.
이 는 double 유형 이 직접적 으로 같은 양 으로 판단 할 수 없다 는 뜻 이다.그렇다면 어떻게 비교 할 것 인가?
형식 을 decimal 로 변환
float 모델 을 decimal 로 바 꾸 면 직접 판단 할 수 있 습 니 다.
두 값 이 모두 1 인 것 을 알 수 있어 직접 비교 할 수 있다.
다시 말 하면 수치 비 교 를 할 때 double 유형 을 사용 할 때 등 량 판단 을 직접 할 수 없 으 면 두 값 이 특정한 정의 값 인 0.000001 보다 작 게 줄 여 두 값 이 같 거나 다른 유형 으로 전환 되 는 것 을 판단 해 야 한다.
c\#중 Double 타 입의 사용 장면
【Double】
double 형식 은 프로그램 에서 변 수 를 정의 할 때 자주 사용 합 니 다.잘못 사용 하면 실제 값 의 정밀도 문제 가 발생 할 수 있 습 니 다.예 는 다음 과 같 습 니 다.
Double d1 = 66.09;
Double d2 = 89.943;
Double d3 = 156.033;
d2 = d1 + d2; // double ：156.03300000000002
Console.WriteLine(d2.CompareTo(d3)); // d2 d3 ，
Console.ReadLine();Decimal 형식 정 의 를 사용 한 후 소수 의 정확 도 를 확보 합 니 다.두 개의 같은 유형의 decimal 을 더 하면 프로그램 이 결과 값 에 자동 으로 진 도 를 추가 하지 않도록 확보 할 수 있 습 니 다.그러면 상기 상황 이 발생 하지 않도록 할 수 있 습 니 다.
Decimal d1 = 66.09M;
Decimal d2 = 89.943M;
Decimal d3 = 156.033M;
d2 = d1 + d2;
Console.WriteLine(d2.CompareTo(d3));
Console.ReadLine();이 내용에 흥미가 있습니까?
현재 기사가 여러분의 문제를 해결하지 못하는 경우 AI 엔진은 머신러닝 분석(스마트 모델이 방금 만들어져 부정확한 경우가 있을 수 있음)을 통해 가장 유사한 기사를 추천합니다:
WebView2를 Visual Studio 2017 Express에서 사용할 수 있을 때까지Evergreen .Net Framework SDK 4.8 VisualStudio2017에서 NuGet을 사용하기 때문에 패키지 관리 방법을 packages.config 대신 PackageReference를 사용해야...
텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.
CC BY-SA 2.5, CC BY-SA 3.0 및 CC BY-SA 4.0에 따라 라이센스가 부여됩니다.
좋은 웹페이지 즐겨찾기
