뽐뿌 포럼
로그인 회원가입|아이디비번찾기
개발자포럼 입니다.
  • 북마크 아이콘

double형 계산 오류 도움요청합니다8

안녕하세요. 지금 아주 골치아픈 상황이 발생했는데요.

 

double형 변수 2개가 있는데 이 두 값의 차이를 구하는데 랜덤으로 오류가 발생합니다.

 

예를 들면 2042.57-2042.44=0.13인데 가끔가다가 0.14로 계산이 됩니다.

 

정확하게 계산되도록 해결하는 방법이 있을까요?

 

double v1, v2, r;

 

v1 = 2042.57;

v2 = 2042.44;

 

r = v1-v2;

 

r의 값이 0.13으로 나올때도 있고 0.14로 나올때도 있습니다. ㅜ

0
 추천하기 다른의견 0
 |
공유버튼

다른의견 0 추천 0 푸루푸루푸푸

decimal 찾아보세요

2022-08-24 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 워러멜론
C++ 이라서요
2022-08-25 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 개발하기싫다
decimal로 하셔요
2022-08-24 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 워러멜론
C++ 이라서요
2022-08-25 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 개발하기싫다

그럼 보통 소수점 단위만큼 10으로 곱한다음 다시 곱한 만큼 나누면 해결되실거에요..

 

( ( 2042.57 * 100 ) - ( 2042.44 * 100)  ) / 100 으로 계산하시면 되세요


2022-08-25 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 뉴욕비키라
오래되서 가물가물한데 부동소수점 오차에 관련된 문제로 기억하거든요.

이참에 해당 키워드로 검색해서 원리를 공부해 보세요.

 

2022-08-25 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 LonDo
https://www.youtube.com/watch?v=-GsrYvZoAdA

 

계산오류나는 이유는 이거 보시면 이해 될겁니다.  

2022-08-25 점아이콘
  1. 댓글주소복사

다른의견 0 추천 0 저장후이동
요즘은 어떻게하는지 모르겠는데, 예전에는 모두 정수로 계산했습니다.
함수 하나 만들어서, 밸류값 넣고 계산하는데
값의 소수점 위치를 확인하고
소수점 한자리는 곱하기 10, 소수점 두자리는 곱하기 100을 합니다
정수로 만들어서 계산한 뒤에, 다시 나누기 10, 나누기 100을 합니다.
그래야 정확한 계산이 되었구요.
2022-08-26 점아이콘
  1. 댓글주소복사
  • 알림 욕설, 상처 줄 수 있는 악플은 삼가주세요.
짤방 사진  
△ 이전글▽ 다음글 목록보기
사이트소개 운영참여 게시중단요청 이용약관 개인정보처리방침 청소년보호정책 불법촬영물등 신고 광고/제휴 메일문의 뽐뿌채용 다크모드
Copyright 2005-2024 ppomppu. All rights reserved