반응형

float

    규칙 48 - 정확한 답이 필요하다면 float와 double은 피하라

    이 자료형들은 이진 부동 소수점 연산에 사용된다. 하지만 float와 double는 정확한 돈계산에 사용에는 적합하지 않다. 예를 들어보자. 위의 코드를 예상하는 바로는 4 items bought가 나와야 하고 잔돈은 0원이 나와야하는 것이 맞다. 하지만 예상과 달리 잔돈이 생기고 구매 숫자가 다르다. 그 이유는 float와 double은 0.1(또는 10의 다른 음수, 10-1, 10-2...)을 정확하게 계산을 못하기 때문이다. 이는 컴퓨터가 계산을 10진수에서 2진수로 변환하는 과정에서 문제가 발생한다고 한다. 참조 : http://apphappy.tistory.com/152 자바에서는 그래서 이런 문제를 해결하기 위해 BigDecimal을 제공한다. 참조 : http://12soso12.tisto..

반응형