• 분류 전체보기 (155)
    • 작은 콩 개발자 (0)
      • JAVA (14)
      • JS (13)
      • JSP, HTML (1)
      • SQL (10)
      • CSS | style (1)
      • JSTL (6)
      • centOS (8)
      • 오류 (12)
      • 등등 (47)
      • 비트 학원 (6)
    • 코딩테스트 (30)
      • 프로그래머스 (25)
    • 면접족보 (2)
    • 티스토리 (2)
    • 여러여러 (2)
  • 글쓰기
  • 방명록
  • 관리
  • 전체 :
    오늘 :
    어제 :

목록계산 (1)

작콩큰콩

[자바스크립트 JavaScript] 소수점 계산 오류

자바스크립트로 소수점을 계산한 경우아주 놀랍게도 00000000004를 볼 수 있다. 즉 더하기가 잘 안 된다는 소리 더하기도 안 되는데 곱하기 하면 난리 날 것이다.parseFloat 같은 거 쓴다고 되는게 아니라고 하셨다.let a = 0.1;let b = 0.2;console.log(parseFloat(a) + parseFloat(b)); // 0.30000000000000004 원인컴퓨터는 0과 1로만 이루어져서 우리가 사용하는 10진법과는 다르게 컴퓨터는 2진법을 사용해 계산을 한다.몇몇 소수의 경우에는 10진법을 2진법으로 변환할 때 무한소수가 되어버리는데, 유한한 컴퓨터의 자원을 활용하는 프로그램은 당연히 저장공간의 한계로 인해 결국 무한 소수를 유한한 수로 바꾸게 되고, 그 과정에서 나타나..

작은 콩 개발자/JS 2024. 5. 29. 14:44
이전 Prev 1 Next 다음

Blog is powered by kakao / Designed by Tistory

티스토리툴바