부동 (169)


math - 부동 소수점(im) 정밀도로의 약간의 전환, 1 부

math - 부동 소수점(im) 정밀도로의 약간의 전환, 1 부

대부분의 수학자들은 다음과 같이 동의합니다. πi+1=0 그러나, 대부분의 부동 소수점 구현은 동의하지 않습니다. 이 분쟁을 얼마나 잘 해결할 수 있습니까? 저는 다른 언어와 구현에 대해 듣고 싶어합니다. 가능한 한 제로에 가까운 결과를 내기위한 다양한 방법을 듣고 싶습니다. 창의력을 발휘하십시오!…


c++ - 부동 및 이중 비교에 가장 효과적인 방법은 무엇입니까?

두 개의 double 또는 두 개의 float 값을 비교하는 가장 효율적인 방법은 무엇입니까? 단순히 이것을하는 것은 올바르지 않습니다:bool CompareDoubles1(double A, double B){return A== B;}그러나 다음과 같은 것:bool CompareDoubles2(double A, double B){diff=A-B; retur…


variables - IEEE 부동 소수점과 복소수의 평등 비교

IEEE 플로트와 복식을 평등하게 비교하는 가장 좋은 방법은 무엇입니까? 몇 가지 방법에 대해 들어 봤지만 커뮤니티가 생각한 것을보고 싶었습니다.…


python - 파이썬에서 round()가 제대로 반올림되지 않는 것 같습니다.

round() 함수에 대한 설명서에서는 숫자와 소수점 이하의 위치를 ​​반올림하여 전달한다고 명시합니다. 따라서 다음 을 수행해야합니다. n=5.59 round(n, 1)#5.6 그러나 실제로, 좋은 오래된 부동 소수점 이상한 것들이 들끓고 있습니다. 5.5999999999999996 UI를 위해 5.6 을 표시해야합니다. 나는 인터넷…


floating point - 부동 소수점은 어떻게 저장됩니까? 그것은 언제 중요합니까?

이 질문에 대한 후속 조치에서는 일부 숫자를 부동 소수점으로 표현할 수없고 대신 근사치로 나타납니다. 부동 소수점 숫자는 어떻게 저장됩니까? 다른 크기에 대한 공통 표준이 있습니까? 부동 소수점을 사용하면 어떤주의해야 할 점이 있습니까? 그들은 크로스 언어 호환이 가능합니까(즉, 파이썬 프로그램에서 TCP/IP를 통해 C 프로그램으로…


Java Rounding Double 문제를 해결하는 방법

빼기가 어떤 종류의 문제를 일으키고 결과 값이 잘못 나온 것처럼 보입니다. double tempCommission=targetPremium.doubleValue()*rate.doubleValue()/100d; 78.75=787.5*10.0/100d double netToCompany=targetPremium.doubleValue(…


c++ - 부동 소수점을 고정 소수점으로 변환

C++에서 부동 소수점 값(부동 소수점)을 고정 소수점(int, 16:16 또는 24:8)으로 변환하는 일반적인 방법은 무엇입니까? 수정:설명을 위해 고정 소수점 값은 정수 부분과 분수 부분의 두 부분으로 구성됩니다. 정수 부분은 부호가 있거나 부호가없는 정수 데이터 유형으로 나타낼 수 있습니다. 소수부는 부호없는 데이터 정수 데이터…


c++ - 부동 소수점/반올림 오류의 간단한 예는 무엇입니까?

부동 소수점 변수를 사용할 때 "오류"라고 들었습니다. 이제이 퍼즐을 풀려고하고 있는데 반올림/부동 소수점 오류가 발생한다고 생각합니다. 그래서 마침내 부동 소수점 오류의 기본 사항을 알아낼 것입니다. 부동 소수점/반올림 오류의 간단한 예는 무엇입니까(C++에서 가능)? 편집:예를 들어 성공 확률 p가있는 이벤트가 있다고 해봅시…


sql server - 실수 대 부동 소수점 대 돈

왜 SQL Server에서 40.54라는 값을 Real 유형의 열에 저장하면 40.54 대신 40.53999878999와 비슷한 값을 반환합니까? 나는 이것을 몇 번이나 보았지만 왜 그것이 일어 났는지 결코 알지 못했습니다. 다른 사람이이 문제를 경험 했습니까?…



python - 소수 및 십진수의 소수점 문제

나는 수레로 많은 정밀도를 잃어 가고있는 것 같다. 예를 들어 행렬을 풀 필요가 있습니다. 4.0x-2.0y 1.0z=11.0 1.0x+5.0y-3.0z=-6.0 2.0x+2.0y+5.0z=7.0 다음은 텍스트 파일에서 행렬을 가져 오는 데 사용하는 코드입니다. f=open('gauss.dat') lines=f.readli…




소수점 부동소수점 오차 표현 해결 변환 point floating 컴퓨터 구현