python - 파이썬에서 바이트를 부동 소수점 숫자로 변환

python - 파이썬에서 바이트를 부동 소수점 숫자로 변환

구문 분석 해야하는 이진 파일이 있으며 Python을 사용하고 있습니다. 4 바이트를 가져 와서 단 정밀도 부동 소수점 숫자로 변환하는 방법이 있습니까?…


SQL Server의 소수 자릿수(반올림하지 않음)

반올림하지 않고 SQL에서 여분의 소수 자릿수를 자르거나 버리는 가장 좋은 방법을 결정하려고합니다. 예:declare @value decimal(18,2) set @value=123.456 이것은 자동으로 @Value를 123.46으로 바꿀 것입니다. 대부분의 경우에 좋습니다. 그러나,이 프로젝트를 위해 나는 그것을 필요로하지 않는다.…


java - 자바에서 소수점 이하 n 자리로 반올림하는 법

내가 원하는 것은 double을 위로 반올림하는 문자열로 변환하는 방법입니다. 즉, 반올림 할 소수점이 5 인 경우, 항상 이전 숫자로 반올림됩니다. 이것은 대부분의 상황에서 대부분의 사람들이 예상하는 반올림의 표준 방법입니다. 나는 또한 유효 숫자 만 표시하고 싶습니다. 즉, 뒤 따르는 0이 없어야합니다. 이 작업을 수행하는 한 가지 방법은 S…


C#의 유효 숫자로 숫자 서식 지정

나는 그것을 볼 수있는 SharePoint 목록으로 추진하고있는 소수 데이터를 가지고 있습니다. 나는 특정한 계산에 대한 나의 지식에 기초하여 결과 데이터에 표시된 유효 숫자의 수를 제한하고 싶다. 때로는 3이되므로 12345는 12300이되고 0.012345는 0.0123이됩니다. 때로는 4 또는 5가 될 것입니다. 이것을 처리 할 편리한 방법이…


어떻게 Perl에서 부동 소수점 숫자를 반올림합니까?

10 진수(부동 소수점)를 가장 가까운 정수로 반올림하는 방법은 무엇입니까? 예 1.2=1 1.7=2…


algorithm - 임의의 유효 자릿수로 반올림

정수(N> 0)를 N 유효 숫자로 반올림 하는 방법은 무엇입니까? 예를 들어 3 자리 숫자로 반올림하고 싶다면 다음과 같은 수식을 찾고 있습니다. 1,239,451 회 및 1,240,000 회 반환 12.1257 및 반환 12.1.0681 및 반환.0681 5 및 5 반환 당연히 알고리즘은 시작이 될지라도 3의 N을 처리하기…


JavaScript로 숫자를 반올림하려면 어떻게해야합니까?

프로젝트를 진행하는 동안 전 직원이 작성한 JS 스크립트가 기본적으로 다음과 같은 형태로 보고서를 작성합니다. Name:Value Name2:Value2 기타 수치는 때로는 부동 소수점 수(부동 소수점 수), 정수 또는 2.20011E+17 형식 2.20011E+17 있습니다. 제가 출력하고자하는 것은 순수한 정수입니다. 하지만 나…


java - double에 최대 소수점이 n 자리까지 있는지 확인하는 방법?

현재 나는이 방법이있다:static boolean checkDecimalPlaces(double d, int decimalPlaces){ if(d==0) return true; double multiplier=Math.pow(10, decimalPlaces); double check=d*multiplier;…


Excel, 워크 시트 함수 및 VBA에서의 라운드 함수

저는 이전의 질문 에서와 같이 큰 값의 클러스터에서 특정 값에 가장 근접한 일치를 반환하는 응용 프로그램을 사용했으며 VBA 솔루션을 선택했습니다. 상기 응용 프로그램을 사용하는 과정에서 0.5 값에 대한 결과가 정확하지 않음을 확인했습니다. 나는 워크 시트 라운드 함수가 1을 반환하는 반면 0.5로 반올림 한 값은 0을 반환하는 것으로 밝혀진 VB…



Java에서 음수 반올림

위키 백과 에 따르면 음수를 반올림 할 때 절대 숫자를 반올림합니다. 그래서 그 추론에 의해,-3.5는-4로 반올림됩니다. 하지만 java.lang.Math.round(-3.5)를 사용하면-3이 반환됩니다. 누군가 설명해 주시겠습니까?…




소수점 자리수 round 버림 함수 float 계산 자릿수 구하기 math