기사실기 계산과정 중, 소수점의 처리

5장 동력설비 파트에서 암기한 공식중 하나가 P = 9.8QHK / 이타 가 있습니다

그리고 뒤에 항상 이론 끝에 있는 기출문제의 풀이를 참고하면 분자의 9.8 대신해서 분모에 6.12를 볼 수 있습니다.

저 분모의 6.12라는 수치는 분자의 9.8에서 Q의 [m/min]을 [m/sec]로 바꾸는 과정에서 생긴다는건 알고 있습니다만, 해설대로의 분모에 6.12를 계산기에 대입해서 푼 문제의 답은 170.88[kg]입니다.

하지만 본 공식대로 대입해서 풀이하면

(중간과정 생략)

-> 권상중량 W = 60 X 50 / 9.8 X 1790.71 =170.95 [kg] 이 나옵니다.

오차가 0.07 정도 나는데 이 정도는 괜찮습니까???

비슷한 문제로 전압강하를 이용한, 전선 굵기를 구하는 문제에서도 단상 3선식 혹은 3상 4선식의 경우 e = IR = 17.8LI / 1000A 로 공식은 되어있지만, 정석대로 구할시, 소수점 2자리까지 구하면 17.77LI /1000A가 나옵니다.

(물론 이 문제는 공칭 단면적을 이용해 답을 구하는 문제이지만, 문제 풀이과정의 배점을 염두한 경우입니다.)

59페이지의 16번 문제를 해설지대로 푼다면 23.71 mm^2 가 나옵니다만, 소수점 2째 자리까지 고려한 저의 계산값을 넣을 시, 23.77mm^2가 나옵니다.

이 또한 0.06의 오차가 있는걸로 확인 되는데, 계산문제에서의 오차는 어느정도까지가 허용 범위인가요???