게시판 > 질답게시판 > 일반화학 질문입니다.

스테파노 Stefano

07-10-03 20:01

덧 뺄셈에서 소숫점 이하의 유효숫자는 작은 쪽 유효숫자 자리에 맞추어 계산합니다.

0.13..........소수점 이하 둘째자리까지가 유효숫자
-0.065........소숫점 이하 셋째자리까지가 유효숫자
----------
0.065===>0.07....위의 두 숫자중 소숫점이하의 유효숫자가 작은 것을 취하기 위해 셋째자리에서 반올림

참고로..곱셈나눗셈은 계산후 앞자리에서부터 유효숫자 갯수 적은 쪽의 갯수 만큼의 자릿수를 택함
0.13 *0.065=0.00845 ==>0.0085...0.13과 0.065는 모두 유효숫자 두개
0.130*0.065=0.00845==>0.0085...유효숫자 3자리와 두자리 중 작은쪽 즉 두자리만 취함
0.130*0.0650=0.00845==>0.00845..모두 유효숫자 3자리
0.000013*650000=8.45==>8.5.......650000은 유효숫자 두개일 수도 있고 3개일 수도 있으나 앞의 숫자가 두개밖에 안되기 때문에 8,4,를 취하기 위해 소숫점 이하 셋째자리에서 반올림한 것
0.0000130*650000=8.45==>유효숫자 3개를 취한것 650000도 유효숫자 3개라고 간주한 것
0.00001300*6.500=8.45==>8.450....유효숫자 4개씩

버서시 qmwnalsk

07-10-05 00:38

그런데요..
검산시

0.07 + 0.065 = 0.135 --> 0.14가 되네요?

스테파노 Stefano

07-10-05 12:06

맞습니다.
0.7+0.065=0.765==>0.8
0.070+0.065=0.135
0.07+0.065=0.135==>0.14