기사실기 소숫점 반올림 오차값 발생

작성자 제복인 · 작성일 · 분류 기사실기

교재명
전기기사실기
페이지
566
번호/내용
17
강사명
이재현

17번문제 수평면조도 구할 때 cos세타 = 0.5547이라고 나오는데 0.55라고 계산하면 최종적인 수평면조도 값이 83.19로 나와서 답과 차이가 있는데 상관없나요? 

보통 셋째자리에서 반올림 하는 거 아닌가요?

답변 1개

운영교수 ·

안녕하세요, 답변드립니다.

최종 답안을 작성할 때에 소숫점 둘째자리까지 나타내도록 되어있습니다.

계산과정 중의 소숫점 자리수 제한은 없기 때문에 0.5547, 0.55 둘 다 가능하다고 판단됩니다.

다만, 계산 과정 중 소숫점 자리수를 많게 할수록 더 정확한 값이 됩니다.