math Un peu de diversion en virgule flottante(im) précision, partie 1

math Un peu de diversion en virgule flottante(im) précision, partie 1

La plupart des mathématiciens conviennent que: e πi+1=0 Cependant, la plupart des implémentations à virgule flottante ne sont pas d'accord. Comment pouvons-nous régler ce différend? Je su…


Convertir une chaîne hexadécimale en nombre entier efficacement en C?

En C, quel est le moyen le plus efficace pour convertir une chaîne de chiffres hexadécimaux en un binaire unsigned int ou unsigned long ? Par exemple, si j'ai 0xFFFFFFFE,je veux un int avec la va…


Littéraux numériques octaux: quand? Pourquoi? Déjà?

Je n'ai jamais utilisé de nombres octaux dans mon code et je n'ai pas rencontré de code qui l'utilisait(en dépit de l'hexadécimale et du bit twiddling). J'ai commencé à programmer en C/C++ ver…


Comment convertir décimal en hexadécimal en JavaScript?

Comment convertir les valeurs décimales en leur équivalent hexadécimal en JavaScript?…



c++ Quelle est la meilleure façon de faire des maths à virgule fixe?

J'ai besoin d'accélérer un programme pour la Nintendo DS qui n'a pas de FPU, donc j'ai besoin de changer le calcul en virgule flottante(qui est émulé et lent) en virgule fixe. J'ai commencé par c…


parsing Comment analyser manuellement un nombre à virgule flottante à partir d'une chaîne

Bien sûr, la plupart des langues ont des fonctions de bibliothèque pour cela, mais supposons que je veuille le faire moi-même. Supposons que le float soit donné comme dans un programme C ou Java(s…


c# Comment analyser les valeurs hexadécimales dans un uint?

uint color; bool parsedhex=uint.TryParse(TextBox1.Text, out color);//where Text is of the form 0xFF0000 if(parsedhex)//... ne fonctionne pas. Qu'est-ce que je fais mal?…


mysql "drop database" prend du temps-pourquoi?

mysql5.0 avec une paire de bases de données "A" et "B", les deux avec de grandes tables innodb. "drop database A" gèle la base de données "B" pendant quelques minutes. Rien n'utilise «A» à ce mom…


c++ Conversion de virgule flottante en point fixe

En C++, quel est le moyen générique de convertir n'importe quelle valeur à virgule flottante(float) en point fixe(int, 16:16 ou 24: 8)? EDIT: Pour plus de clarté, les valeurs à virgule fixe ont…


php Comment puis-je décompresser les données hexadécimales binaires en Python?

En utilisant la fonction PHP pack(),j'ai converti une chaîne en une représentation binaire hexadécimale: $string=md5(time);// 32 character length $packed=pack('H*', $string); Le formatage…




binaire convertir decimal hex conversion nombre convertisseur string hexadécimal base