Comment arrondir un nombre décimal (virgule flottante) à l'entier le plus proche? par exemple 1.2 = 1 1.7 = 2
En lisant le code source de Lua , j'ai remarqué que Lua utilise a macropour arrondir a doubleà 32 bits int. J'ai extrait le macro, et cela ressemble à ceci: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i) =...
Quelle est la différence entre une opération à virgule flottante simple précision et une opération flottante double précision? Je suis particulièrement intéressé par les termes pratiques liés aux consoles de jeux vidéo. Par exemple, la Nintendo 64 a-t-elle un processeur 64 bits et si c'est le cas,...
Je sais que l'utilisation ==pour vérifier l'égalité des variables à virgule flottante n'est pas un bon moyen. Mais je veux juste savoir cela avec les déclarations suivantes: float x = ... float y = x; assert(y == x) Puisque yest copié de x, l'affirmation sera-t-elle
Pour plus de clarté, si j'utilise un langage qui implémente les flottants IEE 754 et que je déclare: float f0 = 0.f; float f1 = 1.f; ... puis réimprimez-les, j'obtiendrai 0,0000 et 1,0000 - exactement. Mais IEEE 754 n'est pas capable de représenter tous les nombres le long de la ligne réelle....
Comment modifier le format de sortie d'une opération groupby dans les pandas qui produit une notation scientifique pour de très grands nombres? Je sais comment faire le formatage de chaînes en python mais je suis perdu quand il s'agit de l'appliquer ici. df1.groupby('dept')['data1'].sum() dept...
Je sais que la plupart des décimales n'ont pas de représentation en virgule flottante exacte (les mathématiques en virgule flottante sont-elles cassées? ). Mais je ne vois pas pourquoi 4*0.1est bien imprimé comme 0.4, mais 3*0.1ne l'est pas, alors que les deux valeurs ont en fait des...
Quelqu'un peut-il expliquer pourquoi ce Double.MIN_VALUEn'est pas la valeur minimale que les doubles peuvent prendre? C'est une valeur positive, et un Double peut bien sûr être négatif. Je comprends pourquoi c'est un nombre utile, mais cela semble un nom très peu intuitif, surtout par rapport à...
Je veux comparer deux flottants en PHP, comme dans cet exemple de code: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } Dans ce code, il renvoie le résultat de la elsecondition au lieu de la ifcondition, même si $aet $bsont...
J'essaye de comparer deux nombres à virgule flottante dans un script bash. Je dois des variables, par exemple let num1=3.17648e-22 let num2=1.5 Maintenant, je veux juste faire une simple comparaison de ces deux nombres: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 <...
Non, ce n'est pas une autre question "Pourquoi est (1 / 3.0) * 3! = 1" . J'ai beaucoup lu sur les virgules flottantes ces derniers temps; plus précisément, comment le même calcul peut donner des résultats différents sur différentes architectures ou paramètres d'optimisation. C'est un problème pour...
Le code float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); vous donnera la sortie x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 où sur la troisième ligne de sortie...
J'étudiais juste les questions OCPJP et j'ai trouvé ce code étrange: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Quand j'ai exécuté le code, j'ai obtenu: false true Comment est le résultat falselorsque nous...
Je sais que le 0.1nombre décimal ne peut pas être représenté exactement avec un nombre binaire fini ( explication ), donc double n = 0.1perdra une certaine précision et ne sera pas exactement 0.1. D'autre part 0.5peut être représenté exactement parce que c'est le cas 0.5 = 1/2 = 0.1b. Cela dit, il...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Le code ci-dessus s'imprime: 11.399999999999 Comment pourrais-je obtenir ceci pour simplement imprimer (ou pouvoir l'utiliser comme)...
Voici mon code: x = 1.0 y = 100000.0 print x/y Mon quotient s'affiche sous la forme 1.00000e-05. Existe-t-il un moyen de supprimer la notation scientifique et de la faire apparaître comme 0.00001? Je vais utiliser le résultat sous forme de
J'ai un nombre à virgule flottante, disons 135.12345678910. Je veux concaténer cette valeur en une chaîne, mais je veux seulement 135.123456789. Avec l'impression, je peux facilement le faire en faisant quelque chose comme: print "%.9f" % numvar d' numvarêtre mon numéro d'origine. Y a-t-il un moyen...
Je comprends que le --ffast-mathdrapeau de gcc peut considérablement augmenter la vitesse des opérations flottantes et va en dehors des normes IEEE, mais je n'arrive pas à trouver des informations sur ce qui se passe réellement quand il est activé. Quelqu'un peut-il expliquer certains détails et...
J'ai une fonction prenant des arguments flottants (généralement des entiers ou des décimales avec un chiffre significatif), et je dois sortir les valeurs dans une chaîne avec deux décimales (5 -> 5,00, 5,5 -> 5,50, etc.). Comment puis-je faire cela en
Je sais, la question semble étrange. Les programmeurs pensent parfois trop. Veuillez lire la suite ... En CI, utilisez signedet unsignedentiers beaucoup. J'aime le fait que le compilateur me prévienne si je fais des choses comme assigner un entier signé à une variable non signée. Je reçois des...