기사실기 반올림 버림
작성자 조서영 · 작성일 · 분류 기사실기
유효전력 P값을 계산한 값이 268.6567163 KW 가 나오게 되고
반올림한 268.66KW 를 전압강하 식에 다시 넣어서 계산하면 300.0036667로 300V가 넘어가기 때문에
반올림을 하는 것이 아니라 268.65 로 버림을 해야 하는 것 아닌가요?
작성자 조서영 · 작성일 · 분류 기사실기
유효전력 P값을 계산한 값이 268.6567163 KW 가 나오게 되고
반올림한 268.66KW 를 전압강하 식에 다시 넣어서 계산하면 300.0036667로 300V가 넘어가기 때문에
반올림을 하는 것이 아니라 268.65 로 버림을 해야 하는 것 아닌가요?
답변 1개
운영교수 ·
계산과정에서 소숫점에 대한 조건이 없기 때문에 마지막 답안에서만 소숫점 둘째자리까지 나타내어 줍니다.
이 때, 계산값 268.6567163는 사실 268.66과는 차이가 있는 값 입니다.
말씀하신바와 같이 268.6567163으로 좀더 정밀한 값으로 대입하시면 299.99999...가 나오게 됩니다.
공식에 의해 산출된 값을 계산한 후 소숫점 둘째자리까지 나타내었기 때문에 발생한 오차가 됩니다.