기사/공사필기 계산 질문이요
작성자 대박나자 · 작성일 · 분류 기사/공사필기
1/w 제곱 c 를 계산하면 0.0112.... 쭉 나오는데요 여기서 소수점 넷째자리에서 반올림하면 0.011이거 여기서 8.9 x 10에 -3제곱을 빼면 2.1x10에 -3제곱이 나오고 2를 나누면 1.05 x 10에 -3제곱이 나옵니다. 근데 0.00112 이상태에서 위에 쓴 풀이랑 똑같이 풀면 1.15 x 10에 -3제곱이 나옵니다. 그럼 위에 풀이랑 아래풀이랑 답이 완전히 달라지고 문제에 있는 답에 혼동이 오네요. 이런 계산 문제는 소수점 반올림을 하지 않고 계산기에 나온 그대로의 식으로 풀어야 하는것가요?
답변 1개
운영교수 ·
질문자님의 말씀처럼 계산과정에 따라 값이 조금씩 변합니다.
0.00105 ≒ 0.00115 ≒ 0.00118 매우 작은 값이므로
풀이가 확실한데 값이 조금 다르다면 계산값과 가장 비슷한 값으로 고르시면 됩니다.