질문 계산기마다 다른 결과가 나오는 문제
sequel
- 2013.04.04. 21:31
- 1871
ln( sqrt( 1.0015/(1-0.0015) ) ) - tan( 0.0015 )
이 문제 계산해보니 계산기마다 다른 결과가 나오네요.
울프람 알파에서는
5.06252..*10^-16이 뜨고요
엑셀에서는
6.0606...*10^-16이,
제 계산기 카시오 fx-570ES에서는
1.4738...*10^-3이
자바나 파이썬을 돌려 보니 sqrt를 쓰면 6.0606*10^-16이, c^(1/2)를 쓰면 -0.0015....가 나옵니다.
계산기를 너무 믿다가는 훅 가는 수도 있겠네요.
권한이 없습니다.
0
0
개똥지빠뀌
내용 클릭 후 복사하세요.
이 댓글을 삭제하시겠습니까?
[개똥지빠뀌]님의 댓글을 신고합니다.
저 숫자 단위를 보세여.... 너무 작은 숫자라서 그런것 같은데...
0
0
하앍
내용 클릭 후 복사하세요.
이 댓글을 삭제하시겠습니까?
[하앍]님의 댓글을 신고합니다.
그리고 아무리 봐도 괄호가 좀 이상한것 같은데...
0
0
하앍
내용 클릭 후 복사하세요.
이 댓글을 삭제하시겠습니까?
[하앍]님의 댓글을 신고합니다.
하앍
이크... 고쳤습니다.
0
0
sequel
내용 클릭 후 복사하세요.
이 댓글을 삭제하시겠습니까?
[sequel]님의 댓글을 신고합니다.
10의 -16승이라서 그런거 같은데요... 어차피 계산기마다 다 수치해석적 방법을 이용해서 답을 내니까여... 궁금하시면 tan(0.0015)랑 앞에 루트 파트랑 각각 계산기마다 값을 구해보세요
0
0
하앍
내용 클릭 후 복사하세요.
이 댓글을 삭제하시겠습니까?
[하앍]님의 댓글을 신고합니다.
컴터는 너무 낮은자리 못해요 그래서 수치해석있죠
오차 생각해야되요
오차 생각해야되요
0
0
느그딱보고있다
내용 클릭 후 복사하세요.
이 댓글을 삭제하시겠습니까?
[느그딱보고있다]님의 댓글을 신고합니다.
이 게시물을 삭제하시겠습니까?
Ti-89