float (2,325)


math - 浮動小数点(im)精度への少し転向、パート1

math - 浮動小数点(im)精度への少し転向、パート1

ほとんどの数学者は、 eπi+1=0 しかしながら、ほとんどの浮動小数点の実装は、同意しない。 この紛争はどの程度うまく解決できますか? 私はさまざまな言語や実装、そしてできるだけゼロに近い結果を出すためのさまざまな方法について聞きたいと思っています。 クリエイティブに!…


Pythonのバイト数を浮動小数点数に変換する

私はバイナリファイルを解析しなければならず、私はPythonを使用しています。 4バイトを取って単精度浮動小数点数に変換する方法はありますか?…



c++ - フロートとダブルの比較のための最も効果的な方法は何ですか?

2つの double 値または2つの float 値を比較するための最も効率的な方法は何ですか? これを行うだけでは正しくありません。 bool CompareDoubles1(double A, double B){return A== B;}しかし、のようなもの: bool CompareDoubles2(double A, double B){diff=A-B; return(diff<EP…


Pythonで数値を文字列にフォーマットする

数字を文字列としてフォーマットする方法を調べる必要があります。 私のコードはここにあります: return str(hours)+":"+str(minutes)+":"+str(seconds)+" "+ampm 時間と分は整数で秒は浮動小数点です。 str()関数はこれらの数値をすべて十分位(0.1)に変換します。 そのため、「5:30:59.07 pm」という文字列を出力するのではな…


nvarchar(max)列の文字またはバイト長を取得するのに、どのようなSQLサーバー機能を使用できますか?

私はnvarchar(max)型のカラムを持っています。 テーブル内の各行の列の長さ(またはバイト数)を調べるにはどうすればよいですか?…


VB.NETでどのようにキャストすべきですか?

これらはすべて等しいのですか? どのような状況下で、私は他の人の上でそれぞれを選ぶべきですか? var.ToString() CStr(var) CType(var、String) DirectCast(var、String) 編集: NotMyselfからのNotMyself... TryCast(var、String)…


PHPで浮動小数点数の部分を得るにはどうすればよいですか?

単純なもの:PHPで浮動小数点数の小数部分をどうやって見つけるのですか? たとえば、値が1.25の場合は0.25を返します。…


c# - constとreadonlyの違いは何ですか?

constとreadonly違いは何ですか?もう一方を使っていますか?…


Pythonのround()は正しく丸められていないようです

round()関数のドキュメントには、数値と丸めに小数点を遡った位置を渡すことが記載されています。 したがって、これを行う必要があります: n=5.59 round(n, 1)#5.6 しかし、実際には、良い古い浮動小数点の不思議さが忍び寄って、 5.5999999999999996 UIの目的のために、私は5.6を表示する必要があります。 私はインターネットを覗いて、これが私の…


floating point - 浮動小数点の保存方法 それはいつ問題ですか?

この質問へのフォローアップでは、一部の数値は浮動小数点では表現できず、代わりに近似されているように見えます。 浮動小数点数はどのように格納されますか? 異なるサイズの共通標準がありますか? 私が浮動小数点を使用する場合、どのような問題を抱えていなければならないのですか? それらは言語間の互換性がありますか(つまり、PythonプログラムからTCP/IP経由でCプログラムに浮動小数点数…




変換 int double python 小数点 桁数 decimal string 文字列 数値