J'ai lu la différence entre la double précision et la simple précision. Cependant, dans la plupart des cas, floatet doublesemblent interchangeables, c'est-à-dire que l'utilisation de l'un ou de l'autre ne semble pas affecter les résultats. Est-ce vraiment le cas? Quand les flotteurs et les doubles...
randrange(start, stop)prend uniquement des arguments entiers. Alors, comment pourrais-je obtenir un nombre aléatoire entre deux valeurs
J'ai le code suivant. Je voudrais qu'il soit tel que si price_result est égal à un entier, disons 10, alors je voudrais ajouter deux décimales. Donc 10 serait 10,00. Ou si elle est égale à 10,6 serait 10,60. Je ne sais pas comment faire cela. price_result =
Je connais les UIKitutilisations en CGFloatraison du système de coordonnées indépendant de la résolution. Mais chaque fois que je veux vérifier si par exemple frame.origin.xest 0il me rend malade: if (theView.frame.origin.x == 0) { // do important operation } N'est pas CGFloatvulnérable aux faux...
J'ai utilisé la ligne suivante pour convertir float en int, mais ce n'est pas aussi précis que je le souhaiterais: float a=8.61f; int b; b=(int)a; Le résultat est: 8(Ça devrait être 9) Quand a = -7.65f, le résultat est: -7(ça devrait être -8) Quelle est la meilleure façon de...
Il est bien connu que la comparaison des flottants pour l'égalité est un peu difficile en raison de problèmes d'arrondi et de précision. Par exemple: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Quelle est la méthode recommandée pour gérer cela en...
J'ai donc obtenu la réponse à ma dernière question (je ne sais pas pourquoi je n'y ai pas pensé). J'imprimais une doubleutilisation coutqui a été arrondie quand je ne m'y attendais pas. Comment puis-je faire coutimprimer une doubleutilisation en toute
Je voulais afficher un nombre à 2 décimales. Je pensais pouvoir utiliser toPrecision(2)en JavaScript. Cependant, si le nombre est 0.05, je comprends 0.0500. Je préfère que ça reste le même. Voir sur JSbin . Quelle est la meilleure façon de procéder? Je peux penser à coder quelques solutions, mais...
Je continue de voir cette constante apparaître dans divers fichiers d'en-tête graphiques 0.0039215689 Cela semble avoir quelque chose à voir avec la couleur peut-être? Voici le premier hit sur Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f;...
Je dois calculer quelques variables à virgule flottante et mon collègue me suggère de les utiliser à la BigDecimalplace doublecar ce sera plus précis. Mais je veux savoir de quoi il s'agit et comment en tirer le meilleur parti
Il est bien connu que les NaN se propagent en arithmétique, mais je n'ai trouvé aucune démonstration, j'ai donc écrit un petit test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN;...
J'ai la valeur 25.00en a float, mais quand je l'imprime à l'écran c'est le cas 25.0000000. Comment afficher la valeur avec seulement deux
Pourquoi la modification de l'ordre de somme renvoie-t-elle un résultat différent? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Les deux Java et JavaScript renvoient les mêmes résultats. Je comprends que, en raison de la façon dont les nombres à virgule flottante sont...
Plusieurs questions ont été posées à SO sur la représentation en virgule flottante. Par exemple, le nombre décimal 0,1 n'a pas de représentation binaire exacte, il est donc dangereux d'utiliser l'opérateur == pour le comparer à un autre nombre à virgule flottante. Je comprends les principes de la...
Lorsque vous comparez des flottants à des nombres entiers, certaines paires de valeurs prennent beaucoup plus de temps à être évaluées que d'autres valeurs de même ampleur. Par exemple: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million...
Parfois, les types de données Activerecord me confondent. Euh, souvent. L'une de mes questions éternelles est, pour un cas donné, Dois-je utiliser :decimalou :float? J'ai souvent rencontré ce lien, ActiveRecord:: decimal vs: float? , mais les réponses ne sont pas assez claires pour que je sois...
Le code suivant est évidemment faux. Quel est le problème? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
Comment générer des flottants aléatoires en C ++? Je pensais que je pouvais prendre le rand entier et le diviser par quelque chose, serait-ce
Pourquoi les comparaisons des valeurs de NaN se comportent-elles différemment de toutes les autres valeurs? Autrement dit, toutes les comparaisons avec les opérateurs ==, <=,> =, <,> où une ou les deux valeurs sont NaN renvoie false, contrairement au comportement de toutes les autres...
Je peux nommer trois avantages à utiliser double(ou float) au lieu de decimal: Utilise moins de mémoire. Plus rapide car les opérations mathématiques en virgule flottante sont prises en charge nativement par les processeurs. Peut représenter une plus grande gamme de nombres. Mais ces avantages...