비트, 반올림 오차, 정보 누락, 차단 오차

년 봄 오전 문제
2019h31h_ap_am_qs.질문

1. 비트 감소
비트레이트는 계산 오차 중의 하나로 절대 값의 차이가 매우 작은 두 값 사이의 차이를 계산할 때 가설 부분의 태반이 상쇄되고 계산 결과의 유효 비트레이트가 적어지면서 발생하는 오차이다.
예:
■자릿수 하락
10진법으로 수치를 표시합니다. 가설가설가설가설가설가설 소수부분의 최대 자릿수는 세 자릿수입니다. (0을 포함하지 않습니다.)
0.13 – 0.12 = 0.001← 유효 비트가 3비트에서 1비트로 변경...
0.001=>0.10*10^(-2)←귀일화
왜 0.001 유효 비트가 1위가 되는지 이해하기 어렵다.
2. 반올림 오차
연산 결과를 지정된 유효 자릿수로 표시하기 위해 반올림, 반올림, 반올림 등을 통해 낮은 자릿수를 삭제하여 발생하는 오차
3. 정보 누락
절대치가 매우 큰 수치와 작은 수치의 덧셈이나 뺄셈을 진행할 때 작은 수치가 계산 결과에 반영되지 않아 발생하는 오차
4. 오차 차단
무한급수로 표시된 수치의 계산 처리가 유한항에 의해 차단되어 발생하는 오차
예:

참조:
하락하다
https://technologicaladvance.blog.fc2.com/blog-entry-45.html
https://www.souya.biz/blog/2017/03/31/%E3%81%91%E3%81%9F%E8%90%BD%E3%81%A1%E3%83%BB%E6%83%85%E5%A0%B1%E8%90%BD%E3%81%A1%E3%81%A8%E3%81%AF/
유효 자릿수 및 유효 자릿수
https://blue-red.ddo.jp/~ao/wiki/wiki.cgi?page=%B7%E5%CD%EE%A4%C1%A4%CB%A4%C4%A4%A4%A4%C6

좋은 웹페이지 즐겨찾기