고정 소수점

실수의 부동 소수점 저장 방식

정수의 저장 방식컴퓨터는 10진수로 표현 된 수를 0과 1로 저장하기 위해 2진수로 변환한 정보를 저장하게 된다.23을 예로 들면23=16(24)+4(22)+2(21)+1(20)이므로, 2진수로 표현하면 10111 이다.(물론 2진수로 변환하는 방법은 다양하다. 23을 2로 나누며 그때의 나머지를 계속해서 저장하는 방법 등. 그러나 뒤에서의 이해를 돕기위해 2의 제곱수로 표현함).이 10111의 수를 1Byte의 메모리에 0001 0111으로 저장하는 방식이다.실수의 표현 방식고정 소수점 방식단어 그대로 소수점의 위치를 고정시켜놓고 수를 표현하는 방식이다.예시) 123.45123.45는 10진수에서 소수점 밑의 두자리를 고정시켜놓고 표현한 것. 보다시피 "정수. 소수"의 형태로 나타낸다.이를 고정소수점 ..

부동 소수점 오차 (개념)

실수 표현 방식컴퓨터는 모든 수를 0과 1로 이루어진 2진수로 표현한다. 이것은 정수뿐만 아니라 소수점이 존재하는 실수도 마찬가지이다.  정수의 경우 이러한 표현이 간단하지만, 실수를 2진수로 표현하는 것은 복잡하다. 실수를 표현하기 위한 다양한 방법들이 연구되었으며 현재는 크게 2가지 방식이 존재한다.고정 소수점 (fixed point) 방식부동 소수점 (floating point) 방식고정 소수점 (fixed point) 방식실수는 보통 정수부와 소수부로 나눌 수 있다. 따라서 실수를 표현하는 가장 간단한 방법은 소수부의 자릿수를 미리 정하고, 고정된 자릿수의 소수를 표현하는 것이다.32비트 CPU에서 고정 소수점 방식으로 실수를 표현하면 위와 같다.하지만, 이 방식은 정수부와 소수부의 자릿수가 크지..