실수 정밀도1 [Java] 실수형의 정밀도, 고정소수점과 부동소수점 실수형의 정밀도 float은 4byte로 이루어져있고, 4byte의 정수로는 '약 ±2x10^9'의 값 밖에 표현할 수 없었는데, 어떻게 3.4 x 10^38 과 같은 큰 값을 표현할 수 있는가? 그 이유는 실수는 값을 저장하는 방식이 다르다. 정수형 int : 1 + 31 = 32(4byte) S(1) 31 bit 실수형 float : 1 + 8 + 23 = 32(4byte) S(1) E(8) M(23) 정수형은 부호와 값으로 이루어져있지만, 실수형은 '부호(S), 지수(E), 가수(M)' 세 부분으로 이루어져 있다. 즉, '2의 제곱을 곱한 형태로 저장하기 때문에 이렇게 큰 범위의 값을 저장하는 것이 가능하다. 그러나 정수형과 달리 실수형은 오차가 발생할 수 있다는 단점이 있다. 그래서 실수형에는 표.. 2022. 2. 27. 이전 1 다음
