수치해석: 오차에는 어떤 것들이 있는가?

지난 글에서 수치해석 이해의 첫 관문이라 할 수 있는 오차가 무엇인지에 대해 살펴보았다.

이번에는 수치해석의 과정에서 발생할 수 있는 오차들의 종류에 대해 알아보자.

어떤 오차가 있는가?

수치해석 과정에서 발생할 수 있는 오차들을 그림으로 표현해보자면...

위 그림처럼, 해석을 원하는 물리 현상의 수학적 모델링부터 결과를 도출해내는 과정까지 진행되는 동안

각각의 과정에서 다음의 오차들이 발생할 수 있다.

1) 모형오차

하나의 물리 현상을 수학적으로 모델링하는 과정에서 계산이 가능하도록 단순화시키는 과정에서 발생하는 오차를 말한다.

2) 절단오차

수학적으로 모델링된 함수의 값을 유한한 사칙 연산의 반복된 계산 식으로 근사하는 과정에서 발생하는 오차를 말한다.

3) 입력오차

관측한 입력 자료의 경우, 관측기의 정밀도에 따른 오차가 발생할 수 있고,

입력 자료를 유한의 수로 표현하는 과정에서 근사 오차가 발생할 수 있다.

이러한 오차들을 입력 오차라 부른다.

4) 계산오차

계산을 진행하는 과정에서 반올림, 항 소거, 오차의 전달 등에 따라 발생하는 오차를 말한다.

5) 출력오차

계산 결과를 출력하는 단계에서, 2진법이나 16진법으로 표현되는 계산기 내의 수치를

10진법으로 변환하는 과정에서 발생하는 오차 등을 말한다.