Dans mon expérience en programmation, je dois souvent décider si je dois utiliser des nombres flottants ou doubles pour mes nombres réels. Parfois, je privilégie le double, parfois le double, mais cela semble plus subjectif. Si je devais être confronté pour défendre ma décision, je ne donnerais...
À chaque endroit où j'ai regardé, il est dit que doublec'est supérieur à floatpresque à tous les égards. floata été rendu obsolète par doubleJava, pourquoi est-il toujours utilisé? Je programme beaucoup avec Libgdx, et ils vous obligent à utiliser float(deltaTime, etc.), mais il me semble que...
Je ne comprends pas pourquoi nous nous soucions de différentes représentations pour un zéro positif et un zéro négatif. Je me souviens vaguement de la lecture des affirmations selon lesquelles la représentation négative égale à zéro est extrêmement importante dans les programmes impliquant des...
Je suis conscient que l'arithmétique en virgule flottante pose des problèmes de précision. Je les surmonte généralement en basculant vers une représentation décimale fixe du nombre ou simplement en négligeant l'erreur. Cependant, je ne sais pas quelles sont les causes de cette inexactitude....
Existe-t-il une alternative aux bits en tant que plus petite unité de données? Quelque chose qui ne sera pas seulement 0 ou 1, mais qui contient en réalité plusieurs états possibles? Ne serait-il pas plus naturel de stocker des flotteurs comme
C#a le decimaltype utilisé pour les nombres nécessitant une représentation exacte en base 10. Par exemple, 0.1ne peut pas être représenté en base 2 (par exemple, floatet double) et sera toujours une approximation lorsqu'il est stocké dans des variables de ces types. Je me demandais si le fait...
En recherchant l’exactitude des nombres en virgule flottante, j’ai vu à quelques endroits une déclaration semblable à " float et double sont ( conçus pour / utilisés souvent dans ) des calculs d'ingénierie et scientifiques " De mon point de vue, la force des flotteurs et des doubles réside dans la...
Par exemple, je veux afficher une liste de boutons de 0,0,5, ... 5, qui saute pour chaque 0,5. J'utilise une boucle for pour cela, et j'ai une couleur différente au bouton STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+'';...
Je regardais http://www.joelonsoftware.com/items/2011/06/27.html et j'ai ri de la plaisanterie de Jon Skeet à propos de 0,3 et non 0,3. Personnellement, je n'ai jamais eu de problèmes avec les flotteurs / décimales / doubles mais ensuite je me souviens avoir appris 6502 très tôt et n'avais jamais...
Je lisais un article de Microsoft concernant l'élargissement des conversions et l'option Strict On lorsque je suis arrivé à la partie Les conversions suivantes peuvent perdre en précision: Entier à célibataire Long à simple ou double Décimal en simple ou double Cependant, ces conversions ne perdent...
Ce n'est pas une question en double car j'ai lu la question précédente. Quelqu'un peut-il m'aider à comprendre how float values are stored in the memory. Mon doute est ici que les valeurs flottantes contiennent ' .'( for example 3.45) comment le '.'sera représenté dans la mémoire? Quelqu'un peut-il...
En créant une application qui traite de nombreux calculs mathématiques, j'ai rencontré le problème que certains nombres provoquent des erreurs d'arrondi. Bien que je comprenne que la virgule flottante n'est pas exacte , le problème est de savoir comment gérer les nombres exacts pour m'assurer que...
Disons que nous avons la classe Python suivante (le problème existe en Java tout comme avec equalset hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees où degreesest la température en Kelvin sous forme de flotteur. Maintenant, je voudrais implémenter le test d'égalité...
Autant que je me souvienne de la programmation, on m'a appris à ne pas comparer les nombres à virgule flottante pour l'égalité. Maintenant, en lisant Programmation dans Lua sur le numbertype Lua , j'ai trouvé ce qui suit: Le type de nombre représente des nombres réels (virgule flottante double...
Lors de l'examen de l' implémentation d'une fonction par un autre programmeur pour calculer le CDF de distribution normale , j'ai suggéré de remplacer l'intégralité de l'implémentation par les fonctions intégrées de Python ou d'utiliser SciPy, une bibliothèque scientifique commune. Un autre...
Je lis actuellement "The End of Error - Unum Computing" par John Gustafson ( Youtube ). Ce que je ne sais toujours pas, c'est comment les cas traités dans IEEE par zéro signé négativement sont traités avec des unums. Ainsi, tout d'abord, les unums permettent de représenter certaines valeurs exactes...
Lors de la comparaison des valeurs à virgule flottante pour l'égalité, il existe deux approches différentes: NaNn'étant pas égal à lui-même, ce qui correspond à la spécification IEEE 754 . NaNétant égal à lui-même, ce qui fournit la propriété mathématique de la réflexivité qui est essentielle à la...
On m'a dit que la plupart des ordinateurs modernes suivent la même norme à virgule flottante, cela signifie-t-il qu'ils obtiendront tous la même réponse flottante pour une opération mathématique donnée si les entrées sont les mêmes? Je demande parce que je fais des recherches sur la création d'un...