기사실기 소숫점 자리수에 따른 오차 허용
작성자 불꽃 · 작성일 · 분류 기사실기
1번구할떄
7200(루트1-0.7629제곱/0.7629 - 루트1-0.9제곱/0.9 했는데 계산기에 답이 2614.49나오는데요???
해설지로 구하면 또 2612.88 나오는데 위로구해도 똑같은 답나와야하는거나인가요???
작성자 불꽃 · 작성일 · 분류 기사실기
1번구할떄
7200(루트1-0.7629제곱/0.7629 - 루트1-0.9제곱/0.9 했는데 계산기에 답이 2614.49나오는데요???
해설지로 구하면 또 2612.88 나오는데 위로구해도 똑같은 답나와야하는거나인가요???
답변 1개
운영교수 ·
구한 역률 0.7629는 소숫점 4째 자리까지만 구한 것이므로 실제 값과는 차이가 발생합니다.
(실제로 구한 역률은 0.7629841823...으로 계산됩니다.)
따라서, 오차가 발생하는 것으로 계산과정이 올바르다면 해당 소숫점 오차는 허용됩니다.