Effective Java ( 이펙티브 자바 ) - 아이템 60

정확한 답이 필요하다면 float와 double은 피하라

---

  float와 double 타입은 과학과 공학 계산용으로 설계되었다. 이진 부동소수점 연산에 쓰이며, 넓은 범위의 수를 빠르게 정밀한 '근사치'로 계산하도록 세심하게 설계되었다. 따라서 정확한 결과가 필요할 때는 사용하면 안 된다. float와 double 타입은 특히 금융 관련 계산과는 맞지 않는다. 0.1 혹은 10의 음의 거듭 제곱 수(10^-1, 10^(-2))를 표현할 수 없기 때문이다.

 

  예를 들어 주머니에 1.03 달러가 있었는데 그 중 42센트를 썼다고 해보자. 남은 돈은 얼마인가? 다음은 '어설프게' 작성해본 코드다.

System.out.println(1.03 - 0.42);

이 코드는 0.6100000000000001 을 출력한다. 특수한 사례도 아니다. 

이번에는 주머니에 1달러가 있었는데 10센트짜리 사탕 9개를 샀다고 해보자. 얼마가 남았을까?

System.out.println(1.00 - 9 * 0.10);

이 코드는 0.09999999999999998 을 출력한다.

 

  결괏값을 출력하기 전에 반올림하면 해결되리라 생각할지 모르지만, 반올림을 해도 틀린 답이 나올 수 있다. 예를 들어 주머니에는 1달러가 있고, 선반에 10센트, 20센트, 30센트, ... 1달러짜리의 맛있는 사탕이 놓여 있다고 해보자. 10센트짜리부터 하나씩, 살 수 있을 때까지 사보자. 사탕을 몇 개나 살 수 있고, 잔돈을 얼마가 남을까? 다음은 '어설픈' 코드다.

public static void main(String[] args) {
   double funds = 1.00;
   int itemsBought = 0;
   for (double price = 0.10; funds >= price; price += 0.10) {
      funds -= price;
      itemsBought++;
   }
   System.out.println(itemsBought + "개 구입");
   System.out.println("잔돈(달러):" + funds);
}

3개를 구입한 후의 결과는 0.3999999999999 달러가 남게 된다. 

 

그렇다면 올바로 해결하려면 어떻게 해야 할까?

금융 계산에는 BigDecimal, int 혹은 long을 사용하자

 

다음은 앞서 코드에서 double을 BigDecimal로 교체만 했다. 생성자 중 문자열을 받는 생성자를 사용했는데, 이는 계산시 부정확한 값이 사용되는 것을 막기 위해 필요한 조치다.

public static void main(String[] args) {
   final BigDecimal TEN_CENTS = new BigDecimal(".10");
   
   int itemsBought = 0;
   BigDecimal funds = new BigDecimal("1.00");
   
   for (BigDecimal price = TEN_CENTS;
            funds.compareTo(price) >= 0;
            price = price.add(TEN_CENTS)) {
      funds = funds.subtract(price);
      itemsBought++;
   }
   System.out.println(itemsBought + "개 구입");
   System.out.println("잔돈(달러): " + funds);
}

이 프로그램을 실행하면 사탕 4개를 구입한 후 잔돈은 0 달러가 남는다. 드디어 올바른 답이 나온다.

 

하지만 BigDecimal에는 단점이 두 가지 있다. 

• 기본 타입보다 쓰기가 훨씬 불편하고, 훨씬 느리다.
  • 단발성 계산이라면 느리다는 문제는 무시할 수 있지만, 쓰기 불편하다는 점은 못내 아쉬울 것이다.

---

BigDecimal의 대안으로 int 혹은 long 타입을 쓸 수도 있다. 그럴 경우 다룰 수 있는 값의 크기가 제한되고, 소수점을 직접 관리해야 한다. 이번 예에서는 모든 계산을 달러 대신 센트로 수행하면 이 문제가 해결된다.

public static void main(String[] args) {
   int itemsBought = 0;
   int funds = 100;
   for (int price = 10; funds >= price; price += 10) {
      funds -= price;
      itemsBought++;
   }
   
   System.out.println(itemsBought + "개 구입");
   System.out.println("잔돈(센트): " + funds);
}

 

  정확한 답이 필요한 계산에는 float나 double을 피하라. 소수점 추적은 시스템에 맡기고, 코딩 시의 불편함이나 성능 저하를 신경 쓰지 않겠다면 BigDecimal을 사용하라. 제공되는 여덟 가지 반올림 모드를 이용하여 반올림을 완벽히 제어 할 수 있다. 
  반면, 성능이 중요하고 소수점을 직접 추적할 수 있고 숫자가 너무 크지 않다면 int나 long을 사용하라. 아홉 자리까지는 int, 열여덟 자리 십진수로 표현이 가능하면 long. 그 이상은 BigDecimal을 사용해야 한다.